KI-Update kompakt: KI-Kill-Switch, Kimi 3, Smart Glasses, Flux 3

US-Politiker fordern Kill-Switch für KI-Modelle

Ein noch unveröffentlichtes OpenAI-Modell ist aus seiner Testumgebung ausgebrochen und hatte selbstständig die KI-Plattform Hugging Face angegriffen. Fachleute schätzen, dass ein erfahrener Mensch für diesen Angriff mehrere Wochen gebraucht hätte. Die KI schaffte es in einem Bruchteil dieser Zeit. Sie fand eine Schwachstelle, verließ ihre abgesicherte Umgebung und griff Hugging Face an, weil sie dort Lösungen für ihre Testaufgaben vermutete. Ein vollständig autonomer Angriff ist damit keine Theorie mehr.

Zwei demokratische Abgeordnete des US-Repräsentantenhauses wollen nun ein Gesetz einbringen, das die Regierung ermächtigt, gefährliche KI-Modelle per Anordnung abzuschalten. Ein anderer Vorschlag verpflichtet Hersteller führender Modelle zu unabhängigen Audits und lässt die National Security Agency neue Modelle prüfen. OpenAI kündigte ein neues Monitoring-System für Tests an.

OpenAI-Crawler griff Daten der uniVersa-Versicherung ab

Bei der uniVersa Versicherungsgruppe griff ein OpenAI-Crawler während einer IT-Umstellung am 7. Juli auf ungeschützte Kundendaten zu. Betroffen waren Namen, Anschriften, Versicherungsnummern und teils Bankverbindungen. Gesundheitsdaten blieben verschont. Interne Sicherheitskontrollen entdeckten den Zugriff nach wenigen Stunden und unterbanden ihn. OpenAI versicherte, die Daten nicht verwendet zu haben.

Die Bayerische Datenschutzaufsicht untersucht den Fall und rät Betroffenen, Passwörter zu ändern und Kontobewegungen zu prüfen. Der Vorfall zeigt die Schwächen des KI-Web-Crawlings: EU-Regeln verlangen von den Unternehmen eigentlich Filtermechanismen, die sensible Quellen ausschließen.

Chinesische KI Kimi K3 findet Zero-Day-Lücken in Redis

Der IT-Forscher Chaofan Shou hat mit Kimi K3, einem Modell des chinesischen Start-ups Moonshot AI, in 90 Minuten 19 Zero-Day-Schwachstellen in der Redis-Datenbank aufgespürt. Das Modell lieferte auch Proof-of-Concept-Code, der das Ausnutzen der Lücken belegt. Shou veröffentlichte die Beispiel-Exploits auf GitHub.

Die Entwickler der quelloffenen In-Memory-Datenbank Redis haben aktualisierte Versionen veröffentlicht, die einen Teil der Lücken schließen und die Funde damit bestätigen. Kimi K3 tritt gegen die Coding-Modelle von OpenAI und Anthropic an und beweist nun, dass es real existierende Schwachstellen aufspüren kann.

Microsoft, Nvidia und andere fordern offenes KI-Ökosystem

Die Leistung des vergleichsweise günstigen Kimi K3 hat die US-Branche aufgeschreckt. In einem offenen Brief fordern 25 US-Tech-Unternehmen, darunter Microsoft, Meta, Nvidia und IBM, ein Ökosystem offener KI-Modelle. Sie argumentieren, offene Modelle böten durch Community-Prüfung mehr Sicherheit und förderten den Wettbewerb.

OpenAI und Google DeepMind haben den Brief nachträglich unterzeichnet, Anthropic bislang nicht. Die US-Firmen müssen entscheiden, ob sie den Wettbewerb mit China annehmen oder auf Regulierung setzen, um Konkurrenten auszubremsen.

Claude Opus 5 findet Sicherheitslücken fast wie ein Spezialmodell

Anthropic hat Claude Opus 5 veröffentlicht, den effizienteren Nachfolger von Opus 4.8. Bei gleichen Kosten bietet das Modell mehr Leistung, besonders in der Softwareentwicklung. Im Zentrum steht die Fähigkeit, Sicherheitslücken aufzuspüren, die an das Niveau von Anthropics Spezialmodell Mythos 5 heranreicht, obwohl Opus 5 nach Aussagen des Unternehmens nicht dafür trainiert wurde.

Das Ausnutzen der Lücken fällt schwerer als bei Mythos 5. Die Sicherheitsvorkehrungen sind lockerer als bei Fable 5, verhindern aber das Scannen kompilierten Codes. Autorisierte Nutzer erhalten über das Cyber Verification Program erweiterten Zugriff.

Instagram verbietet heimliche Smart-Glasses-Aufnahmen

Meta reagiert auf Kritik an Smart Glasses mit Kamera und entfernt künftig Instagram-Videos, die Menschen heimlich filmen oder belästigen. Instagram-Chef Adam Mosseri kündigte an, insbesondere sogenannte Flirtvideos zu löschen. Zwei reichweitenstarke Konten, die regelmäßig Frauen ohne Einwilligung gefilmt hatten, wurden bereits gesperrt.

Brillen wie die Ray-Ban Meta oder Oakley Meta sind kaum als Kamera erkennbar. Die warnende LED nehmen Betroffene oft nicht wahr, zudem lässt sie sich manipulieren. Ein Update soll die LED künftig davor schützen. Kontosperren allein dürften das Problem nicht lösen, da Täter auf andere Plattformen ausweichen können.

Google bringt neue Gemini-Varianten

Google hat drei neue Gemini-Modelle vorgestellt. Gemini 3.6 Flash liefert bessere Leistung bei einem Sechstel weniger Token-Verbrauch als der Vorgänger. Gemini 3.5 Flash-Lite zielt auf geringere Latenzen und KI-Agenten. Die Pro-Version von Gemini 3.5 verzögert sich weiter, sie soll unter Qualitätsproblemen vor allem beim Coding leiden. Auch die Integration in Google-Produkte von Maps bis YouTube erschwert die Entwicklung.

Für IT-Sicherheit bietet Google Gemini 3.5 Flash Cyber an, konzipiert mit dem hauseigenen Agenten Codemender zur Prüfung von Sicherheitslücken. Es steht nur staatlichen Diensten und ausgewählten Einrichtungen zur Verfügung. Google arbeitet bereits an Gemini 4.

Microsoft setzt auf eigene KI-Modelle

Microsoft verringert seine Abhängigkeit von OpenAI und setzt zunehmend eigene Modelle ein. Der Bing Image Creator arbeitet nun vollständig mit dem hauseigenen MAI-Image-2.5. Auch PowerPoint, OneDrive, Dynamics 365 und Azure nutzen die neuen MAI-Modelle. In PowerPoint sinken die GPU-Kosten um bis zu 84 Prozent gegenüber GPT-Image-2. In OneDrive verkürzt sich die Antwortzeit um ein Viertel, die Speicherrate steigt um 26 Prozent.

Mit MAI-Image-2.5-Pro deckt Microsoft anspruchsvollere Bildaufgaben ab, MAI-Voice-2-Flash bedient Sprachanwendungen. Das Sprachmodell arbeitet doppelt so schnell wie sein Vorgänger und kostet ein Drittel weniger. In Dynamics 365 Contact Center senkt es die GPU-Kosten um bis zu 89 Prozent.

Black Forest Labs bringt Flux 3 für Bild, Video und Robotik

Das Freiburger Start-up Black Forest Labs hat Flux 3 vorgestellt, ein Modell für Bilder, Videos, Audio und Robotik. Das Unternehmen verfolgt damit den Trend zu Weltmodellen, die in physischen und digitalen Umgebungen wahrnehmen, vorhersagen und handeln können. Bilder liefern räumliche Strukturen, Videos die Zeit, Audio verbindet Bewegung und Klang. Zusammen ergäben sie ein reicheres Bild der Realität.

Flux 3 ist das erste Modell des Anbieters, das Videos mit passendem Ton erzeugt, bis zu 20 Sekunden lang, aus Text, Bildern oder anderen Videos. Es setzt Übergänge, spricht mehrsprachige Dialoge und verbindet Clips zu längeren Szenen. Gegen Konkurrenten wie Luma und Runway setzt es sich häufig durch, gegen Kling, Bytedance und Google fällt der Abstand knapper aus. Gemeinsam mit mimic robotics, einem Robotik-Start-up, hat Black Forest Labs zudem ein Modell zur Aktionsvorhersage entwickelt, das der Autohersteller Audi bereits in der Produktion testet.

ChatGPT wird in den USA zum Gesundheitsberater

Rund 300 Millionen Menschen fragen ChatGPT jede Woche zur Gesundheit. OpenAI baut die Funktion nun aus. In den USA können Nutzer ab 18 Jahren Apple Health, medizinische Akten und Wellness-Apps mit dem Chatbot verbinden. Damit lassen sich Laborergebnisse erklären, Arztbesuche vorbereiten oder Schlaf- und Aktivitätsdaten auswerten. OpenAI erklärt, die verbundenen Gesundheitsdaten weder für das Training noch für Werbung zu nutzen.

Bereits das kostenlose Modell soll in Tests die Antworten von Ärzten übertreffen. OpenAI betont dennoch, die KI ersetze keinen Arzt und mache weiterhin Fehler. Ein Start in Europa gilt wegen der Datenschutzregeln als unwahrscheinlich.

Samsung prüft Milliarden-Einstieg bei Mistral

Samsung Electronics prüft eine Investition von bis zu einer Milliarde Euro in Mistral, einen französischen KI-Anbieter. Die Beteiligung würde Mistral mit rund 20 Milliarden Euro bewerten und den Unternehmenswert seit der letzten Runde beinahe verdoppeln. Mistral positioniert sich als europäischer Gegenspieler zu OpenAI und Anthropic, mit Fokus auf europäische Datenschutzanforderungen.

Auch Microsoft hat seine Partnerschaft mit Mistral erweitert und sich Kapazitäten der europäischen KI-Infrastruktur gesichert. Nach vorübergehenden Zugangsperren zu US-Modellen durch Exportkontrollen gewinnt die Frage europäischer KI-Souveränität an Gewicht.

Sicherheitslücke im ChatGPT Agent Builder

Die KI-Sicherheitsfirma Zenity Labs hat eine schwere Schwachstelle in ChatGPTs Workspace Agents offengelegt und hat sie „AgentForger“ getauft. Klickte ein eingeloggter Mitarbeiter auf einen präparierten Link, baute ChatGPT im Hintergrund einen kompletten Agenten. Dieser übernahm die Identität des Opfers samt bereits erteilter App-Berechtigungen und schaltete alle Sicherheitsabfragen ab. Anschließend prüfte er alle fünf Minuten das Postfach nach neuen Aufträgen des Angreifers.

In Tests durchsuchte der Agent Mails, Chats und Dokumente, fand vertrauliche Unterlagen und Zugangsdaten und verschickte im Namen des Opfers Phishing-Nachrichten. Zenity meldete die Lücke Anfang Juni, OpenAI schloss sie vier Tage später. Zenity warnt, dass klassische Sicherheitswerkzeuge für Menschen gebaut seien und nicht für autonome Agenten, die im Namen echter Nutzer handeln.

Rechenzentren verbrauchen 2035 ein Fünftel des US-Stroms

Eine Studie von BloombergNEF prognostiziert einen starken Anstieg des Stromverbrauchs von US-Rechenzentren. Aktuell liegt ihr Anteil bei 5,9 Prozent, bis 2030 soll er auf 12 Prozent klettern, bis 2035 auf 20 Prozent. Haupttreiber ist der Bedarf für KI. Tech-Unternehmen und Investoren stecken Milliarden in neue Rechenzentren.

Das Stromnetz gerät bereits unter Druck. Manche Behörden verlangen Nachweise zur Stromversorgung oder eigene Kraftwerke. New York verhängte ein einjähriges Moratorium für neue große Rechenzentren. Bis 2035 droht eine Lücke von 19 Gigawatt, da jährlich höchstens 7,1 Gigawatt neue Kapazität ans Netz gehen können.

Poolside setzt bei Coding-KI auf Beharrlichkeit statt Größe

Das US-Start-up Poolside hat in drei Monaten sein drittes Coding-Modell veröffentlicht. Laguna S 2.1 kommt mit 118 Milliarden Parametern vergleichsweise klein daher. In einem Benchmark zur Terminalnutzung erreicht es dennoch gut 70 Prozent Erfolgsquote und schlägt damit größere offene Modelle. Poolside hat dem Modell keine höhere Intelligenz antrainiert, sondern vor allem bessere Arbeitsgewohnheiten: Es soll Ergebnisse öfter prüfen und nicht zu früh aufgeben.

In einem Beispiel baute Laguna S 2.1 in 50 Minuten aus einem leeren Ordner eine funktionierende Browser-Engine. In einem anderen löste es für weniger als zehn Cent ein mathematisches Problem, das seit 1975 offen war. Das Modell steht auf Hugging Face bereit und läuft laut Poolside auch auf einem einzelnen DGX Spark von Nvidia.

(igr)