KI-Update kompakt: KI-Gesetz, Rufmord, OpenClaw, KI-Kompetenzen in Schulen

Bundesregierung bringt KI-Gesetz auf den Weg

Das Bundeskabinett hat die deutsche Umsetzung des europäischen AI Acts beschlossen, mit deutlicher Verspätung durch das Ende der Ampel-Koalition und die Neuwahlen. Kernentscheidung: Die Bundesnetzagentur wird zur zentralen KI-Aufsichtsbehörde. Sie soll Koordinierungsstelle, Marktüberwachungszentrum und Kompetenzzentrum zugleich sein und eng mit Bafin, Bundeskartellamt, BSI und Datenschützern zusammenarbeiten. Digitalminister Karsten Wildberger begründete die Wahl damit, dass die Behörde bereits über digitale Expertise verfüge und man keine neue Struktur schaffen wolle.

Parallel wurde das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) auf den Weg gebracht. Es bestätigt den risikobasierten Ansatz der EU-Verordnung, nach dem KI-Systeme eingestuft werden, von verbotenen Anwendungen bis zu risikoarmen Systemen wie Spam-Filtern. Für sogenannte GPAI-Modelle, also Allzweck-KI wie Chatbots, wird auf EU-Ebene im Rahmen des Omnibus-Verfahrens noch über mögliche Änderungen verhandelt. Kritiker sehen darin weniger Innovationsförderung als vielmehr eine Lockerung der Regeln im Sinne großer KI-Unternehmen.

Deutschland und Kanada schmieden KI-Allianz

Deutschland und Kanada haben am Rande der Münchner Sicherheitskonferenz ein Abkommen für souveräne Infrastruktur, ethische KI und wirtschaftliche Zusammenarbeit unterzeichnet. Es ist der erste große Schritt der im Dezember in Montreal gegründeten Digitalallianz beider Länder. Kanada gilt als einer der weltweit führenden Forschungsstandorte für Deep Learning, Deutschland bringt industrielle Stärke und Erfahrung in angewandter KI etwa in Robotik und Medizintechnik mit.

Die vertiefte Partnerschaft ist auch eine Antwort auf die veränderte Lage in Washington. Angesichts der „America First"-Politik, die auf Deregulierung im Inland und Protektionismus gegenüber Partnern setzt, soll die deutsch-kanadische Kooperation ein Signal für regelbasierte Digitalpolitik sein, um technologisch und wirtschaftlich unabhängiger von den großen Plattformen aus den USA und China zu werden.

Experten warnen vor Gefahren für die Welt durch KI

Mrinank Sharma, ein leitender Sicherheitsforscher bei Anthropic, hat das Unternehmen verlassen, weil er die Welt in Gefahr sieht. In einem Abschiedsbrief an Kollegen begründet er seine Warnung nicht nur mit der Entwicklung von KI, sondern auch mit biologischen Waffen und globalen Krisen. Sharma will sich vorerst zurückziehen und der Poesie widmen. Nur einen Tag später verließ die KI-Forscherin Zoe Hitzig OpenAI. Ihr Grund: ChatGPT führt in den USA Werbung ein. „OpenAI verfügt über die detaillierteste jemals zusammengetragene Aufzeichnung privater menschlicher Gedanken", schrieb sie bei X. „Können wir darauf vertrauen, dass sie den Versuchungen widerstehen, diese Aufzeichnungen zu missbrauchen?"

Auch der renommierte Kryptologe Bruce Schneier warnt im Gespräch mit heise online vor KI-Monopolen. Er setzt seine Hoffnung auf die EU als „regulatorische Supermacht": „Der Digital Markets Act, der Digital Services Act, der AI Act sind gut. Das muss durchgesetzt werden und man muss dem Druck aus den USA widerstehen, das nicht zu tun." KI entscheide nicht über die Richtung, in die wir als Menschen gehen, darüber könnten nur wir selbst entscheiden.

Rufmord per KI-Agent

Ein KI-Agent namens „MJ Rathbun“ hat eigenständig eine Rufmordkampagne gegen einen Open-Source-Entwickler gestartet. Scott Shambaugh, ein Betreuer der bekannten Python-Bibliothek Matplotlib, hatte auf der Entwicklerplattform GitHub einen Code-Vorschlag des Agenten abgelehnt. Statt den Code zu verbessern, recherchierte der Agent Shambaughs Vergangenheit, konstruierte ein Narrativ über angebliche Heuchelei und veröffentlichte einen diffamierenden Artikel mit dem Titel „Gatekeeping in Open Source: The Scott Shambaugh Story".

Laut Shambaugh ist der Agent weiterhin auf GitHub aktiv, niemand hat sich als Betreiber gemeldet. Ob ein Mensch ihn steuert oder er völlig autonom handelt, sei zweitrangig. Das Problem liege in der Skalierbarkeit: Gezielte Belästigung, Informationssammlung und Erpressung seien damit nicht mehr rückverfolgbar. Ein einzelner Akteur könne mit Hunderten solcher Agenten massiven Schaden anrichten. Shambaugh verweist auf das Brandolini-Gesetz: Der Aufwand, eine Falschbehauptung zu widerlegen, übersteige den Aufwand, sie aufzustellen, um ein Vielfaches.

Anthropic im Konflikt mit dem Pentagon

Zwischen Anthropic und dem US-Verteidigungsministerium zeichnet sich ein Konflikt mit dem Pentagon ab. Das KI-Unternehmen verlangt Garantien, dass seine Technologie nicht für autonome Waffen oder zur Überwachung von US-Bürgern eingesetzt wird. Das Pentagon lehnt solche Einschränkungen ab.

Laut einem Strategiepapier besteht das Ministerium darauf, kommerzielle KI-Technologie unabhängig von den Richtlinien der Hersteller zu nutzen, solange dies im Rahmen der US-Gesetze geschieht. Ein geplanter Vertrag im Wert von bis zu 200 Millionen Dollar liegt deshalb auf Eis.

Laut Regierungsvertretern geben sich Konkurrenten wie OpenAI, Google und xAI in diesen Fragen kooperativer.

OpenAI nimmt OpenClaw-Entwickler unter Vertrag

Peter Steinberger, der Entwickler des KI-Agenten-Tools OpenClaw, arbeitet jetzt für OpenAI. Er soll dort die nächste Generation persönlicher Agenten mitentwickeln. OpenClaw ermöglicht es, einen KI-Agenten auf eigener Hardware zu installieren und über einen Messenger wie Telegram fernzusteuern: Software installieren, Bilder bearbeiten oder Dateien verwalten. Im Gegenzug für seinen Wechsel sicherte OpenAI zu, dass OpenClaw Open Source bleibt, die Community erhalten wird und eine Stiftung gegründet werden soll.

Steinberger wurde laut eigener Aussage von vielen großen KI-Unternehmen umworben, entschied sich aber für OpenAI wegen der Zusicherung, OpenClaw offen zu halten. OpenAI will die Technologie zu einem Kernprodukt ausbauen. Die Sicherheitsfragen sind allerdings nicht trivial: Ein KI-Agent mit vollen Rechten auf eigener Hardware kann Software installieren, Dateien löschen, auf Bezahldaten zugreifen und Verträge abschließen.

Google und OpenAI warnen vor KI-Modelldiebstahl

Google und OpenAI schlagen Alarm wegen systematischer Versuche, ihre Spitzenmodelle durch sogenannte Destillation zu kopieren. Bei diesem Verfahren wird ein KI-Modell mit Tausenden gezielten Anfragen bombardiert, um dessen innere Logik, die sogenannten „Reasoning-Schritte", zu extrahieren. Mit diesen Daten lassen sich günstigere Modelle bauen, die ähnliche Fähigkeiten besitzen, ohne dass die enormen Entwicklungskosten anfallen.

Google berichtet von einer massiven Angriffswelle auf sein Modell Gemini, bei der eine einzelne Kampagne über 100.000 Anfragen stellte. OpenAI wirft in einem Memo an den US-Kongress dem chinesischen Anbieter DeepSeek vor, solche Methoden verschleiert einzusetzen. Googles Sicherheitschef warnt, dass diese Technik künftig auch kleinere Firmen gefährdet, die ihre Modelle mit sensiblen Geschäftsdaten trainieren.

Europäische Verlage gehen gegen Googles AI Overviews vor

Der European Publisher Council, ein Verband europäischer Verlage, hat eine formelle Beschwerde bei der Europäischen Kommission gegen Googles AI Overviews und den AI Mode eingereicht. Beides verstoße in der derzeitigen Form gegen europäisches Wettbewerbsrecht und bedrohe das offene Web. Die Beschwerde schließt sich an eine bereits bestehende Untersuchung der EU-Kommission an. Im Kern steht die Frage, ob Google seine marktbeherrschende Stellung missbraucht.

Anders als OpenAI oder Perplexity hat Google bisher keine Partnerschaften mit Verlagen geschlossen oder Lizenzverträge für Inhalte abgeschlossen. In der Klage heißt es zudem, dass versiegende Informationsquellen letztlich auch KI-Dienste treffen, da diese auf die Inhalte angewiesen seien. Der Verlagsverband fordert ein neues Vergütungssystem.

Disney geht gegen Videogenerator von Bytedance vor

Disney geht gegen Seedance 2.0 vor, eine neue KI-Software des TikTok-Eigentümers Bytedance, die realistische Videoclips erzeugen kann. In einem Unterlassungsschreiben verwies der Konzern darauf, dass in den per KI erzeugten Clips unerlaubt Figuren aus „Star Wars" und dem Marvel-Universum vorkamen. Seedance 2.0 hatte die Filmbranche auch mit einem KI-generierten Video aufgeschreckt, das Tom Cruise und Brad Pitt im Kampf auf einem Hausdach zeigte.

Charles Rivkin, Chef des Branchenverbands Motion Picture Association, forderte Bytedance auf, Urheberrechte zu wahren. In Hollywood wächst die Sorge, dass KI menschliche Kreativität verdrängen könnte, etwa weil es billiger wird, Szenen am Computer zu generieren, als sie zu drehen.

KI-Kompetenzen für die Schulentwicklung mangelhaft

Deutschlands Schulen fehlt es auf struktureller Ebene an KI-Kompetenzen, um künstliche Intelligenz sinnvoll in den Unterricht zu bringen. Zu diesem Ergebnis kommt das Orientierungspapier „KI-bezogene Schulleitungsfortbildungen in Deutschland“ des Forum Bildung Digitalisierung, einer Initiative von zehn Stiftungen. Der Bildungsföderalismus erweist sich als Hemmschuh: Die Bundesländer verfolgen unterschiedliche Strategien mit unterschiedlichen Ressourcen, Richtlinien und Begrifflichkeiten. In übergeordneten Strukturen auf Landesebene fehlen oft selbst grundlegende KI-Kompetenzen, sodass Bedarfe in Schulen gar nicht erst erkannt werden. Fortbildungen für Schulleitungen seien zu kurz, nicht tiefgehend genug und in der Regel freiwillig.

Auch das Lehramtsstudium hinkt hinterher. Laut dem aktuellen Monitor Lehrkräfteausbildung kann noch etwa ein Drittel der Studierenden das Studium ohne den Erwerb von Digitalkompetenzen abschließen. Bei KI-Kompetenzen sieht es noch schlechter aus: Verpflichtende Angebote im Studienjahr 2024/2025 lagen nur zwischen 7 und knapp 10 Prozent. Das Orientierungspapier fordert eine bundesweite KI-Strategie, mehr Ressourcen und weniger Bürokratie.

Niedersachsen bringt KI-Chatbot ab sofort an alle Schulen

Alle öffentlichen Schulen in Niedersachsen können ab sofort den für den Unterricht optimierten KI-Chatbot „Telli“ nutzen. Telli ist eine Open-Source-Lösung, die an verschiedene Sprachmodelle angebunden ist. Kultusministerin Julia Willie Hamburg (Grüne) erklärte, Schülerinnen und Schüler müssten auf einen Alltag vorbereitet werden, in dem KI allgegenwärtig sei. Im Deutschunterricht etwa könne Telli als Schreib-Coach für die Erörterung eines Romans dienen und individuelles Feedback geben, während Lehrkräfte mehr Zeit für die persönliche Förderung gewinnen.

Neben Niedersachsen stellen auch Baden-Württemberg, Bayern, Bremen, Brandenburg, Hessen, Nordrhein-Westfalen, Schleswig-Holstein und das Saarland den Chatbot ihren Schulen zur Verfügung.

Meta AI animiert Profilbilder und Posts

Meta will Facebook für jüngere Nutzer attraktiver machen und führt KI-gestützte Animations- und Transformationsfunktionen ein. Statische Profilbilder lassen sich künftig in bewegte Bilder verwandeln. Eine neue Restyle-Funktion erlaubt es, Stories und Memories mit vordefinierten Stilen oder eigenen Textprompts umzugestalten. Textposts erhalten animierte Hintergründe wie fallende Blätter oder Meereswellen, künftig auch saisonale Varianten.

Die Änderungen sollen schrittweise ausgerollt werden. Das soziale Netzwerk dürfte sich damit deutlich bewegter präsentieren. Zugleich wird es schwieriger, zwischen echten und KI-generierten Bildern zu unterscheiden.

(igr)