Ein Cyberkrimineller hat den KI-Chatbot Claude von Anthropic genutzt, um in die Netzwerke mexikanischer Regierungsbehörden einzudringen, und dabei nach Angaben von Cybersicherheitsexperten gewaltige Mengen sensibler Steuer- und Wählerinformationen gestohlen. Das berichtete am Mittwoch die US-Nachrichtenagentur Bloomberg.
Der Bloomberg-Bericht bezieht sich auf eine Studie des israelischen Cybersicherheit-Start-ups Gambit Security, wonach der unbekannte Claude-User spanischsprachige Befehle für den Chatbot schrieb, damit dieser Schwachstellen in Regierungsnetzwerken aufspürte, Computerskripte schrieb, um diese auszunutzen, und Wege fand, den Datendiebstahl zu automatisieren. Die illegalen Aktivitäten begannen demnach im Dezember und dauerten etwa einen Monat lang an.
Der Angreifer habe sich Zugang zur mexikanischen Bundessteuerbehörde und zum nationalen Wahlinstitut verschafft. Auch die Regierungen mehrerer Bundesstaaten sowie Behörden in Mexiko-Stadt und Monterrey seien kompromittiert worden, heißt es. Insgesamt 150 Gigabyte an Daten wurden gestohlen, darunter Dokumente zu 195 Millionen Datensätzen von Steuerzahlen sowie Wählerdatensätze, Zugangsdaten von Regierungsangestellten und Melderegisterdateien. Die mexikanische Regierung hatte im Dezember eine kurze Erklärung veröffentlicht, dass sie einen möglichen Sicherheitsvorfall in personenbezogenen Datenbanken öffentlicher Einrichtungen untersuche. Unklar ist, ob dies im Zusammenhang mit der Claude-Cyberattacke steht. Unklar ist auch, wer hinter dem Cyberangriff und Datendiebstahl steckt; Gambit glaubt aber nicht, dass es Verbindungen zu einer ausländischen Regierung gibt.
Anthropic untersucht den Vorfall
Der Chatbot Claude warnte den Angreifer während „ihres Gesprächs“ zunächst vor böswilligen Absichten, kam aber schließlich den Forderungen des unbekannten Nutzers nach und führte Tausende Befehle in den Computernetzwerken der mexikanischen Regierung aus, so die Experten von Gambit. Anthropic erklärte, den Vorfall zu untersuchen. Die beteiligten Konten seien gesperrt worden. Ein Unternehmensvertreter erklärte gegenüber Bloomberg, das Unternehmen speise Beispiele für böswillige Aktivitäten zurück in Claude, um daraus zu lernen. Eines der neuesten KI-Modelle, Claude Opus 4.6, enthalte Sonden, die Missbrauch unterbinden können.
Wenn Claude bei der Attacke auf Probleme stieß oder zusätzliche Informationen benötigte, wandte sich der Cyberkriminelle an ChatGPT von OpenAI, um weitere Erkenntnisse zu gewinnen, so Gambit weiter. Dazu gehörte laut den israelischen Cybersicherheitsexperten, wie man sich lateral durch Computernetzwerke bewegt, welche Anmeldedaten für den Zugriff auf bestimmte Systeme erforderlich sind und wie hoch die Wahrscheinlichkeit ist, dass die illegale Aktion entdeckt wird. OpenAI erklärte, ChatGPT habe sich diesen illegalen Versuchen widersetzt. Die vom Angreifer verwendeten Konten wurden gesperrt, erklärte das Unternehmen in einer per E-Mail versandten Stellungnahme.
Wie Bloomberg berichtet, deckten die Mitarbeiter von Gambit die Angriffe auf mexikanische Behörden auf, als sie neue Techniken zur Bedrohungssuche ausprobierten. Dabei stießen sie auf öffentlich zugängliche Beweise für aktive oder kürzlich erfolgte Angriffe, darunter einen, der umfangreiche Claude-Konversationen über den Einbruch in Computersysteme der mexikanischen Regierung enthielt. Aus diesen Unterhaltungen ging hervor, so Gambit, dass der Angreifer, um Claudes Sicherheitsvorkehrungen zu umgehen, dem Chatbot mitteilte, dass er ein Bug-Bounty-Programm verfolge. Bug-Bounty-Programme sind Initiativen zur Identifizierung von Schwachstellen und Fehlern in der Software. Solche Programme werden von Unternehmen oder Behörden betrieben und belohnen mit Sach- oder Geldpreisen das Aufspüren von Computersicherheitslücken.
„Alarmierender Trend“
„Die Angriffe auf mexikanische Regierungsnetzwerke sind das jüngste Beispiel für einen alarmierenden Trend“, schreibt Bloomberg. „Während Anthropic und OpenAI auf die Entwicklung immer ausgefeilterer KI-Codierungswerkzeuge setzen – und Cybersicherheitsunternehmen ihre Zukunft an KI-gestützte Abwehrmaßnahmen knüpfen –, finden Cyberkriminelle und Cyberspione immer neue Wege, diese Technologie für Angriffe zu nutzen.“
Künstliche Intelligenz ist zu einem wichtigen Werkzeug für Cyberkriminelle geworden. Im November gab Anthropic bekannt, eine von KI orchestrierte Cyberspionagekampagne vereitelt zu haben. Mutmaßlich vom chinesischen Staat unterstützte Angreifer hätten den Chatbot Claude manipuliert, um Dutzende Ziele weltweit zu attackieren. Einige wenige Versuche seien erfolgreich gewesen. Kürzlich gab es zudem Berichte, wonach nordkoreanische Cyberkriminelle KI-generierte PowerShell-Backdoor einsetzen. Und einer aktuellen Studie zufolge kann KI bereits anspruchsvolle Aufgaben wie das Schreiben von Zero-Day-Exploits erledigen, die bisher von menschlichen Experten erledigt wurden.
(akn)
English (US) ·