KI-Update: UN-Bericht zu KI, Plädoyer für Open Source, Vorsicht vor KI-Kollegen

UN-Bericht warnt vor unregierbarer KI

Ein Expertengremium der Vereinten Nationen hat einen vorläufigen Bericht zu den Risiken künstlicher Intelligenz vorgelegt, den ersten Versuch, globale Chancen und Gefahren wissenschaftlich zu bilanzieren. Kernbefund: Die Technik entwickelt sich schneller, als Forschung und Regierungen folgen können. Der Bericht behandelt sieben Felder, darunter Wirtschaft, Medizin, Bildung und nationale Sicherheit.

Co-Vorsitzender Yoshua Bengio warnt, die Wissenschaft könne nicht garantieren, dass künftige KI keine katastrophalen Schäden anrichte, sei es autonom oder durch böswillige Akteure. Auch die globale Ungleichheit droht zu wachsen. Nutzen ziehen primär Länder mit starken Institutionen und Datenbeständen, also USA, China und Europa. Im globalen Süden fehlen diese Strukturen, während Automatisierung dort Jobs in Callcentern oder Textilfabriken bedroht.

Vermenschlichte KI-Agenten senken die Arbeitsqualität

Immer mehr Firmen, vorwiegend in den USA, führen KI-Werkzeuge nicht als Software ein, sondern als Agenten mit Namen, Titel und festen Aufgaben. Eine Studie der Boston University zeigt die Kehrseite: Beschäftigte finden deutlich weniger Fehler in den Ausgaben, wenn diese angeblich von einem „KI-Mitarbeiter“ stammen, statt von einem Chatbot.

Wer den Agenten als Kollegen wahrnimmt, fühlt sich weniger zuständig und reicht fragwürdiges nach oben weiter, statt es selbst zu korrigieren. Der Zeitvorteil verpufft. Microsoft, OpenAI, Anthropic und Google vermarkten ihre Agenten trotzdem ausdrücklich als digitale Kollegen. Fast ein Drittel der befragten Führungskräfte sieht sie ebenso, teils sogar mit Platz im Organigramm.

Mistral-Gründer warnt vor geschlossenen KI-Systemen

Arthur Mensch, Gründer des französischen KI-Unternehmens Mistral, wirbt auf LinkedIn für offene KI. Sein Hauptargument betrifft Geschäftsgeheimnisse: Anbieter geschlossener Modelle speicherten zunehmend Daten und gewönnen Einblick in Kundenprozesse. Einige hätten solche Informationen bereits genutzt, um erfolgreiche Kunden als Konkurrenten anzugreifen.

Mensch rät Firmen, Daten in offenen Systemen abzulegen und eigenes Training aufzubauen. Wer die Kontrolle abgebe, überlasse sein Wachstum anderen. Ähnlich argumentiert Palantir-Chef Alex Karp: Wer seine Modellgewichte kontrolliere, kontrolliere sein Schicksal. Gewichte seien die verdichtete Form jahrelang gesammelten Firmenwissens.

Generative KI lässt Schülerleistungen einbrechen

Eine Studie aus Zentralchina zeigt deutliche Lernverluste bei Schülern, die generative KI nutzen. Hausaufgaben erledigten sie schneller und mit besseren Noten, in Klausuren aber brachen ihre Leistungen um bis zu 24 Prozent ein. Ausgewertet wurden 30 Monate an Daten von mehr als 26.000 Schülern.

Wer die KI nur ergänzend einsetzte, schnitt in Klausuren ähnlich ab wie ohne. Viele Schüler lagern das Denken an die Maschine aus, statt selbst zu üben. Studien aus anderen Ländern zeigen ähnliche Muster.

Alibaba verbietet seinen Beschäftigten Claude

Der chinesische Onlinehändler Alibaba untersagt seinen Angestellten die Nutzung von Anthropics Modell Claude. Grund soll eine versteckte Funktion im Quellcode sein, mit der Anthropic erkennen können soll, ob ein Nutzer aus China stammt. Das berichten Alibaba-Mitarbeiter dem IT-Portal The Information. Anthropic verbietet die Nutzung seiner Modelle in China ohnehin, chinesische Firmen finden aber offenbar Wege.

Im Vormonat hatte Anthropic Alibaba beschuldigt, durch massenhafte Anfragen an Claude dessen Antworten systematisch zu sammeln, um die Funktionsweise zu rekonstruieren und die eigene Qwen-KI zu verbessern. Auch DeepSeek, Moonshot AI und MiniMax hat Anthropic bereits der Destillation bezichtigt.

Baidus „Unlimited OCR“ liest ganze Bücher am Stück

Forschende bei Baidu, einem chinesischen Internetkonzern, haben mit Unlimited OCR ein Modell zur Texterkennung entwickelt, das dutzende Seiten in einem Durchlauf verarbeitet. Bisherige OCR-Systeme kapitulieren bei rund zehn Seiten, weil ihr Zwischenspeicher mit jeder Zeile wächst. Baidu verarbeitet den Text als Bild und nutzt dabei nur die letzten 128 erzeugten Zeichen. Grundlage ist das offene Modell DeepSeek OCR, die Genauigkeit liegt bei rund 94 Prozent.

Gemini soll Autofahrern die Umgebung erklären

Google testet eine Funktion, mit der sein Modell Gemini Objekte am Straßenrand erkennt und erläutert. Ein Sprachbefehl aktiviert die Frontkamera, deren Bilder Gemini auswertet. Der Zugriff ist zeitlich begrenzt und endet nach der Antwort, um Datenschutzbedenken zu mildern.

Bei einer Testfahrt fragte ein Google-Mitarbeiter nach einer Skulptur und einem Haus. Gemini nannte den Namen der Skulptur und lieferte Hintergründe. Ob die Technik in Serienfahrzeuge kommt, ist offen. Für Android Automotive plant Google zudem eine Live-Spurführung in Google Maps, die per Frontkamera in Echtzeit Hinweise zum Spurwechsel gibt.

Bremen setzt KI zur Überwachung von Straßenbahnen ein

Der Bremer Verkehrsbetrieb BSAG will Fahrgäste mit KI vor Gewalt schützen. Das System „AI-Watch“ wertet die Innenraumkameras automatisch aus. Ein Sprachmodell analysiert laufend das Geschehen und schlägt bei Streit oder Gewalt Alarm.

Die Auswertung läuft an Bord auf lokaler Hardware. Erst im Alarmfall gehen Bilder an die Leitstelle, wo Menschen die Meldung prüfen. Damit unterscheidet sich Bremen von Projekten in Mannheim oder Hamburg, die stärker in die Privatsphäre eingreifen. Entwickelt wurde die Technik mit dem Anbieter Just Add AI.

„Stargate UK“ entpuppt sich als Luftnummer

Das 2025 angekündigte KI-Rechenzentrum „Stargate UK“ von OpenAI schrumpft zur PR-Nummer. Laut dem britischen Guardian haben weder OpenAI noch der geplante Betreiber Nscale das Grundstück in Nordengland je besucht. Geplant war der Einsatz von bis zu 31.000 Nvidia-Beschleunigern. Im April 2026 pausierte OpenAI das Vorhaben mit Verweis auf hohe Energiekosten und regulatorische Unsicherheit. Die beworbenen 20 Milliarden Pfund waren laut Guardian eher hypothetisch.

Das Vorhaben gehört zum größeren Stargate-Projekt, einer Allianz aus OpenAI, Oracle, SoftBank und einem Staatsfonds der Vereinigten Arabischen Emirate, das weltweit bis zu 500 Milliarden Dollar in Rechenzentren stecken soll.

(mali)