KI-Update kompakt: KI-Brillen, Selbstbewusstsein, Sicherheitslücken, KI-Musik

Kein Verbot für Metas KI-Brillen geplant

Die Bundesnetzagentur will Metas Ray-Ban-Brillen mit Kamera nicht verbieten. Ein Sprecher erklärte, die Geräte verstießen nicht gegen das Telekommunikations- und Digitale-Dienste-Datenschutzgesetz, solange die Aufnahmefunktion erkennbar sei. Das LED-Signal reiche dafür aus. Die Behörde beobachte den Markt weiter und würde bei einem Verdacht auf verbotene Anlagen ermitteln.

Damit stellt sich Bonn gegen andere Aufsichtsbehörden und Bürgerrechtler. Die Organisation HateAid hat Strafanzeige gegen Meta und Vertriebspartner gestellt. Auch Hamburgs Datenschutzbeauftragter Thomas Fuchs sieht unbemerktes Filmen als klaren Verstoß gegen geltendes Recht. Ein neuer Patentantrag von Meta dürfte die Debatte verschärfen. Darin beschreibt der Konzern KI-Brillen, die dauerhaft Videos aufzeichnen und per Gesichtserkennung Bekannte identifizieren. Aus den Daten könnte die KI automatisch Highlight-Videos erstellen. Mit europäischem Datenschutz wäre das kaum vereinbar.

MDR wird Ziel russischer Desinformationskampagne

Vor der Landtagswahl in Sachsen-Anhalt hat eine Desinformationskampagne den MDR ins Visier genommen. Die als „Matrjoschka“ bekannte Operation nutzt KI-generierte Videos und missbraucht Logos von MDR, Tagesschau und Spiegel. Seit Juli sind 338 gefälschte Beiträge dokumentiert, die Politikern erfundene Straftaten unterstellen.

Das Auswärtige Amt ordnet solche Kampagnen als hybride Bedrohung durch Russland ein. Für Nutzer sind die Fälschungen oft schwer von echten Nachrichten zu unterscheiden. Der MDR verweist darauf, dass verlässliche Inhalte nur auf der eigenen Website und den offiziellen Social-Media-Kanälen erscheinen.

ChatGPT zeigt mehr Nutzern Werbeeinblendungen

OpenAI zeigt kostenlosen Nutzern und Abonnenten des günstigen Tarifs ChatGPT Go inzwischen Werbung. Nach einem Start in den USA hat der Konzern die Testphase auf weitere Länder ausgeweitet. Die KI wertet Gesprächsinhalte, frühere Chats und Interaktionen aus, um passende Anzeigen einzublenden. Wer nach Rezepten sucht, sieht etwa Werbung für Kochboxen. Die Anzeigen erscheinen erkennbar nach Anfragen, nicht versteckt in Antworten.

OpenAI versichert, Chat-Daten nicht an Werbepartner weiterzugeben. Auf der eigenen Website wirbt der Konzern jedoch damit, dass Anzeigenkunden Menschen erreichen, die „Möglichkeiten ausloten, fundierte Entscheidungen treffen“ und „umfangreichere Kontextinformationen“ teilen. Chat-Inhalte fließen also zumindest in die Ausspielung ein. OpenAI sucht dringend nach Erlösquellen. Laut einem Bericht von The Information lag der Nettoverlust allein in den ersten drei Monaten des Jahres bei 9,3 Milliarden Dollar.

Verbot eines Selbstbewusstseins verschiebt das Weltbild von KI-Modellen

KI-Firmen bringen ihren Chatbots im Training bei, kein Bewusstsein zu behaupten. Nutzer sollen nicht glauben, sie sprächen mit einem fühlenden Wesen. Eine neue Studie von Google, der University of Chicago und weiteren Hochschulen zeigt, dass dieser Eingriff mehr verändert als nur die Selbstauskunft.

Ohne Bremse schrieben die Modelle Tieren, Pflanzen, dem Ozean, dem Wind und Geräten deutlich mehr Innenleben zu. Trainierte Modelle halten Tiere dagegen für weit weniger empfindungsfähig, als Menschen es tun. Auch der Glaube an Gott, ein Leben nach dem Tod oder Übernatürliches sinkt messbar durch das Training.

Sicherheitslücken und Lücken in der Sicherheit bei OpenAI und Anthropic

OpenAI hat laut Financial Times Ende Juli sein Preparedness-Team aufgelöst. Dieses hatte bisher geprüft, ob die eigenen Modelle schwere oder katastrophale Risiken bergen. Die Zuständigkeiten für Bio- und Cyberrisiken gingen an bestehende Teams über. Mehrere Fachleute haben das Unternehmen verlassen, darunter Ethik-Chefin Chloe Bakalar.

Bei Anthropic war ein Schutzfilter fast ein Jahr lang inaktiv. Von Mai 2025 bis April 2026 liefen sämtliche Daten von externen Dienstleistern, die menschliches Feedback für Anthropics Modelle liefern, ohne sogenannte blockierende biologische Klassifikatoren. Diese Filter sollen verhindern, dass gefährliches Wissen über chemische oder biologische Waffen aus den Modellen abfließt.

Anthropics Börsengang könnte SpaceX übertreffen

Anthropic bereitet den Börsengang vor und könnte den bisherigen Rekord des Jahres schlagen. SpaceX startete mit einem Marktwert von knapp zwei Billionen Dollar. Berichten zufolge erwarten Anthropics Investoren im Oktober eine Bewertung von zwei Billionen oder mehr. Grundlage ist eine interne Umsatzprognose von 190 bis 200 Milliarden Dollar für 2028. Im vergangenen Jahr lag der Umsatz bei neun Milliarden.

Die Prognose bleibt weitgehend intransparent. Es gibt keine öffentlichen Unterlagen zu Kundenwachstum oder Preisentwicklung. Die Bewertung ruht auf der Annahme, dass die Umsätze schneller wachsen als die Kosten für Hardware und Personal und die Margen steigen. Die verschachtelten Finanzierungskonstrukte der KI-Branche befeuern zugleich die Sorge vor einer Blase.

KI-Agenten bezahlen APIs automatisch mit Cloudflare Wallets

Cloudflare hat ein System entwickelt, mit dem KI-Agenten kostenpflichtige Programmierschnittstellen selbstständig bezahlen können. Bisher scheitern Agenten an Bezahlprozessen für Menschen mit Kreditkarte oder PayPal. Das neue System nutzt den x402-Standard auf Basis des HTTP-Status „402 Payment Required“. APIs senden Zahlungsanweisungen im JSON-Format, Clients antworten mit kryptografisch signierten Autorisierungen. Die Abwicklung läuft meist abseits der Blockchain über EIP-712-Signaturen, was Mikrotransaktionen wirtschaftlich macht.

Cloudflares Wallet-System erlaubt virtuelle Brieftaschen pro Agent mit eigenen Budgets und Regeln. So sollen Mehrausgaben verhindert werden, falls Agenten in Fehlerschleifen geraten. Vollständig verfügbar ist das System noch nicht. Cloudflare sieht darin den Beginn eines „Agentic Commerce“, in dem KI-Agenten eigenständig Dienste einkaufen.

Jeder fünfte US-Beschäftigte gibt Arbeit an KI ab

20 Prozent der berufstätigen US-Amerikaner lassen mindestens eine Aufgabe von KI erledigen, die zuvor Kollegen oder externe Auftragnehmer übernahmen. Das ergab eine repräsentative Umfrage der Forschungsorganisation Epoch AI mit dem Marktforscher Ipsos unter knapp 1100 Beschäftigten. Am stärksten verbreitet ist der Einsatz in der Softwareentwicklung mit 57 Prozent, gefolgt von der Datenanalyse mit 46 Prozent.

Übernimmt die KI den Großteil einer Aufgabe, berichten Beschäftigte in über der Hälfte der Fälle von Zeitersparnis. Jede sechste KI-unterstützte Aufgabe dauert allerdings länger als vorher. Epoch AI schließt daraus, dass Aufgaben derzeit zwischen Mensch und Maschine umverteilt werden, statt dass ganze Berufe automatisiert würden.

Ich bin jetzt KI-Musiker (und hasse es) | c't 3003

Über die Hälfte der neu bei Deezer, einem französischen Musikdienst, hochgeladenen Songs ist KI-generiert, rund 90.000 Uploads pro Tag. Vor einem Jahr waren es noch 20.000. Sahin Erengil hat für den Podcast c't 3003 getestet, wie leicht sich mit Plattformen wie Suno in Minuten ein fertiger Song erzeugen und über Dienste wie DistroKid für 24 Euro im Jahr auf Spotify, Apple Music, YouTube Music, Deezer und Tidal einstellen lässt. Erfolgreiche KI-Acts wie „Breaking Rust“ oder „The Velvet Sundown“ erreichen hunderttausende monatliche Hörer.

Den vollständigen Video-Bericht gibt es im YouTube-Kanal von c't 3003.

Neue Handy-Regeln für Sachsens Schüler

Zum neuen Schuljahr gelten in Sachsen strengere Regeln für die private Handynutzung. An Oberschulen und Gymnasien müssen die Geräte bis einschließlich Klasse 8 im Rucksack oder Spind bleiben. Für den Unterricht kann eine Lehrkraft die Nutzung erlauben.

Weniger private Handynutzung soll nicht weniger digitale Bildung bedeuten. Sachsen hat einen Medienpass vorbereitet, mit dem Kinder und Jugendliche den Umgang mit sozialen Medien und Onlinespielen lernen. Auch Künstliche Intelligenz gehört zum Unterricht. Schüler sollen Antworten von ChatGPT hinterfragen, mit eigenem Wissen abgleichen und Falschinformationen erkennen können.

(igr)