Das US-amerikanische CAISI (Center for AI Standards and Innovation) hat eine neue Vereinbarung mit Google DeepMind, Microsoft und xAI bekannt gegeben. Im Rahmen der Zusammenarbeit evaluiert das CAISI die KI-Modelle dieser Anbieter vor deren Veröffentlichung. Die Kooperation steht im Zeichen der KI-Security und der nationalen Sicherheit. Im Zuge des neuen Abkommens mit Google, Microsoft und xAI hat das CAISI eine bestehende Vereinbarung mit OpenAI und Anthropic neu verhandelt.
Die Übereinkunft der KI-Anbieter und der Behörde umfasst neben der Evaluation vor der generellen Verfügbarkeit der Modelle Beurteilungen nach der Bereitstellung und nicht näher benannte weitere Forschung. Das soll bisher mit mehr als 40 Modellen passiert sein, von denen einige dem Stand der Technik entsprechen und noch unveröffentlicht sind. Für seine Untersuchungen soll das CAISI Modelle mit reduzierten oder entfernten Sicherheitsvorkehrungen erhalten. Laut dem CAISI fördern die Abkommen mit den Tech-Firmen den Informationsaustausch und helfen der US-Regierung, ein klares Verständnis der KI-Fähigkeiten und des internationalen Wettbewerbs zu erhalten.
Was ist CAISI?
Das CAISI ist Teil des NIST (National Institute of Standards and Technology), das etwa Richtlinien für Software in Regierungsbehörden oder Vorschläge für sichere Router veröffentlicht. Die Behörden unterstehen dem Handelsministerium der Vereinigten Staaten (US-Department of Commerce). Das Mission-Statement des CAISI ist das Entwickeln und Veröffentlichen von freiwilligen Leitlinien, die die verantwortungsvolle Konzeption, Entwicklung, Einführung, Nutzung und Steuerung fortschrittlicher KI-Modelle, -Systeme und -Agenten fördern sollen. Das Zentrum fungiert in Sachen KI als zentraler Ansprechpartner der Wirtschaft in der US-Regierung. Microsoft hat im gleichen Zuge eine ähnliche Vereinbarung mit dem AI Security Institute des Vereinigten Königreichs bekannt gegeben.
Die Pressemitteilung des CAISI zum Abkommen mit Microsoft, Google DeepMind und xAI findet sich hier.
(pst)
English (US) ·