US-Vizepräsident JD Vance und US-Finanzminister Scott Bessent haben sich mit den Köpfen führender Big-Tech-Unternehmen besprochen, um über KI-Sicherheit zu reden. Ein entsprechendes Telefonat soll vergangene Woche stattgefunden haben, etwa eine Woche, bevor Anthropics neues KI-Modell Mythos Preview ausgewählten Unternehmen zur Verfügung gestellt wurde. Mythos soll in jeder wichtigen Software Sicherheitslücken finden und auch gleich passende Angriffe entwickeln können.
Dem US-Nachrichtensender CNBC zufolge sollen dem Anruf Anthropic-CEO Dario Amodei, xAI-Chef Elon Musk, Google-Chef Sundar Pichai, OpenAI-Chef Sam Altman, Microsoft-Chef Satya Nadella, CrowdStrike-Chef George Kurtz und Palo-Alto-Networks-Chef Nikesh Arora zugeschaltet gewesen sein. Als Quellen beruft sich CNBC auf zwei Personen, deren Namen aufgrund der Vertraulichkeit der Angelegenheit nicht bekannt werden sollen. Ein Anthropic-Sprecher wollte zu dem Thema keinen Kommentar abgeben, bestätigte aber, dass es am Freitag voriger Woche ein Treffen mit Spitzenvertretern der Regierung gegeben habe.
Noch vor jeglicher externer Veröffentlichung habe Anthropic hochrangige Vertreter der US-Regierung über den vollen Funktionsumfang von Mythos Preview informiert, einschließlich seiner offensiven und defensiven Cyber-Anwendungen, erklärte er. „Die Regierung frühzeitig einzubeziehen – darüber, was das Modell leisten kann, wo die Risiken liegen und wie wir damit umgehen – hatte von Anfang an Priorität“, so der Sprecher.
Den beiden anonymen Quellen zufolge sollen die Teilnehmer des Anrufs über die Sicherheitslage bei LLMs und ihren sicheren Einsatz gesprochen haben und auch darauf eingegangen sein, wie eine mögliche Reaktion aussehen könnte, falls sich die Modelle zugunsten der Angreifer entwickeln.
Weitere Banken testen Mythos
Im Zuge der jetzt vorgestellten Initiative „Project Glasswing“ hatte Anthropic nach eigenen Angaben seine neue KI einer Reihe ausgewählter Unternehmen zur Verfügung gestellt. Dazu gehören demnach unter anderem Amazon Web Services (AWS), Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, die Linux Foundation, Microsoft, NVIDIA und Palo Alto Networks. 40 weitere Organisationen, die Software für kritische Infrastruktur verantworten, seien ebenfalls beteiligt.
Bessent und der US-Notenbankchef Jerome Powell riefen die Chefs der wichtigsten US-Banken am selben Tag zu einem dringenden Treffen zusammen, um vor den Gefahren von Anthropics neuem KI-Modell Claude Mythos Preview zu warnen. Sie appellierten an die Finanzhäuser, die KI ernstzunehmen. Zu den Unternehmen mit Mythos-Zugang sollen dem Nachrichtensender Bloomberg zufolge auch die Banken Goldman Sachs, Citigroup, Bank of America und Morgan Stanley zählen. Sie sind von der US-Regierung aufgefordert, mit Mythos nach Schwachstellen zu suchen. Bloomberg erfuhr das von eingeweihten Personen.
Hierzulande beschäftigt Mythos das Bundesamt für Sicherheit und Informationstechnik. Man erwarte „Umwälzungen im Umgang mit Sicherheitslücken und in der Schwachstellenlandschaft insgesamt“, sagte BSI-Präsidentin Claudia Plattner der dpa. Konsequent zu Ende gedacht, könnte es mittelfristig keine unbekannten klassischen Software-Schwachstellen mehr geben, meint sie. „Dies würde eine Verschiebung der Angriffsvektoren und einen Paradigmenwechsel mit Blick auf die Cyberbedrohungslage zur Folge haben.“
(nen)
English (US) ·