KI-Update kompakt: KI-Verhaltenskodex, Intellect-1, Fugatto, Robo-Bus

KI-Büro der EU schlägt externe Tests für große Modelle vor

Der erste Entwurf des EU-Verhaltenskodex für universelle KI-Systeme sieht vor, dass Anbieter von GPAI-Modellen mit systemischem Risiko diese zwei Wochen vor Trainingsbeginn der EU melden und externe Tests durch das EU KI-Büro und Dritte zulassen müssen.

Der Kodex schreibt ein umfassendes Sicherheitsrahmenwerk (SSF) mit Risikoanalyse, Schutzmaßnahmen und Bewertungsverfahren vor. Für jedes Modell muss ein detaillierter Sicherheitsbericht (SSR) erstellt werden, der Risikoanalysen, Wirksamkeitsbewertungen und Prüfergebnisse dokumentiert.

Anbieter müssen zudem strenge Copyright-Regeln einhalten, Vorbehalte von Rechteinhabern beachten und den Standard robots.txt unterstützen. Maßnahmen sollen ergriffen werden, um Piraterie-Websites von Crawling-Aktivitäten auszuschließen. Der Entwurf wird nun mit Stakeholdern diskutiert und weiterentwickelt.

Sprachmodell Intellect-1 auf mehreren Kontinenten gleichzeitig trainiert

Das KI-Start-up Prime Intellect hat das erste dezentral trainierte Sprachmodell mit 10 Milliarden Parametern nach elf Tagen Training fertiggestellt. Intellect-1 wurde gleichzeitig auf Rechnern in den USA, Europa und Asien trainiert und soll in einer Woche als Open Source veröffentlicht werden.

Technologische Grundlage ist "OpenDiLoCo", Intellects Open-Source-Implementierung von DeepMinds Distributed Low-Communication-Methode. Sie ermöglicht Training auf global verteilten Geräten mit reduzierten Kommunikationsanforderungen. Intellect-1 basiert auf der LLaMA-3-Architektur und wurde mit hochwertigen Open-Source-Datensätzen trainiert. Prime Intellect sieht in dem Projekt einen Meilenstein für die Demokratisierung des KI-Trainings. Geplant ist, das dezentrale Training auf die leistungsfähigsten Open-Source-Modelle auszuweiten. Mit 10 Milliarden Parametern ist Intellect-1 allerdings noch relativ klein im Vergleich zu kommerziellen Modellen. Die Skalierung der Idee bleibt abzuwarten.

Neue KI von Nvidia kann Musik generieren und Stimmen Akzent verleihen

Nvidia präsentiert mit Fugatto eine neuartige KI-Technologie für Audiogenerierung, die bisherige Konkurrenzdienste in Vielseitigkeit und Qualität übertreffen soll. Die KI ermöglicht verschiedene Audiotransformationen wie die Umwandlung von Klavierspiel in Gesang oder die Modifikation von Stimmen hinsichtlich Akzent und Stimmung.

Das ausschließlich mit Open-Source-Material trainierte System wird über Textbefehle oder Audiodateien gesteuert. In Demonstrationen zeigt Nvidia verschiedene Anwendungsmöglichkeiten: Von der Generierung von Zuggeräuschen, die sich in Orchestermusik verwandeln, bis hin zur Extraktion und Neugenerierung von Stimmen sowie dem Hinzufügen von Instrumenten zu bestehenden Musikstücken. Die Technologie ist für Musikproduktion, Spieleentwicklung und kreative Einzelnutzer gedacht. Aufgrund potenzieller Risiken gibt es noch keine konkreten Pläne zur öffentlichen Freigabe.

Musk vs. OpenAI ist besser als jede HBO-Show

Neu veröffentlichte E-Mails dokumentieren die Spannungen, die zum Bruch zwischen Elon Musk und dem von ihm mitgegründeten KI-Unternehmen OpenAI führten. Musk war von Beginn an getrieben von der Sorge, Google und DeepMind könnten eine zu dominante Position einnehmen.

Ein erster Konflikt bahnte sich 2016 an, als OpenAI mit Microsoft über Rechenkapazitäten verhandelte. 2017 äußerte die OpenAI-Führung Bedenken, Musk könnte als CEO einer geplanten Tochtergesellschaft "unilaterale absolute Kontrolle" über eine mögliche künstliche Superintelligenz erlangen. Musk reagierte mit einem Ultimatum. Anfang 2018 verschärfte sich Musks Kritik an OpenAIs Strategie weiter. Als letzten Ausweg schlug er vor, OpenAI solle sich Tesla anschließen. Nach Ablehnung durch OpenAI trat Musk im Februar 2018 aus dem Vorstand zurück. Die Spannungen halten bis heute an.

Der ehemalige DeepMind-Spitzenforscher Nando de Freitas wies die Vorwürfe gegen DeepMind als "absoluten Unsinn" zurück. Er wirft Musk und der OpenAI-Führung vor, DeepMinds Offenheit missbraucht zu haben und sieht in den E-Mails ein Argument für mehr Transparenz in der KI-Entwicklung.

Pilotprojekt für Robo-Busse in Friedrichshafen verlängert

Selbstfahrende Kleinbusse werden sich in Friedrichshafen für ein paar weitere Monate auf den Straßen tummeln. Baden-Württembergs Verkehrsminister Winfried Hermann gab zum Abschluss der ersten Förderphase jetzt bekannt, das Verbundprojekt RABus in der Stadt am Bodensee zu verlängern. RABus steht für "Reallabor für den Automatisierten Busbetrieb".

Dem Konsortium gehören unter anderem auch das Forschungsinstitut für Kraftfahrwesen und Fahrzeugmotoren Stuttgart, DB Regio Alb-Bodensee und der Stadtverkehr Friedrichshafen an. Die Initiative startete im September 2020. Vier Jahre später erhielt ZF Friedrichhafen vom Kraftfahrtbundesamt eine "Level 4"-Genehmigung für die Shuttles des Technologiepartners. Sie erlaubt vollautomatisiertes Fahren. Ein Mensch muss sich hier nicht mehr ständig zum Eingreifen bereithalten.

Nach dem erfolgreichen Abschluss des mehrjährigen Testbetriebs startete in Friedrichshafen und Mannheim am 28. Oktober so die sogenannte Probandenphase, bei der zum ersten Mal ausgewählte Fahrgäste mit an Bord durften. Eigentlich sollte Ende des Jahres schon wieder Schluss sein, da das mit 14 Millionen Euro staatlich geförderte Projekt dann offiziell ausläuft. Nun können Passagiere die autonomen Shuttles so noch bis Ende Juni 2025 nutzen. Dies soll helfen, zusätzliche Erkenntnisse für den künftigen Einsatz automatisierter Fahrzeuge im öffentlichen Nahverkehr zu gewinnen. Insgesamt haben sich bisher 1450 Bürger für eine Probefahrt angemeldet, berichten Begleitforscher aus dem Verkehrswesen des Karlsruher Instituts für Technologie. Sie wollten das Angebot vor allem zur Überbrückung von Lücken im ÖPNV-Angebot und auf kürzeren Strecken nutzen.

KI-Nutzung in Unternehmen hat sich fast verdoppelt

KI-Technologien halten in der Wirtschaft in Deutschland zunehmend Einzug. In einer Erhebung des Statistischen Bundesamtes gab jedes fünfte Unternehmen an, Künstliche Intelligenz zu nutzen. Bei der Befragung im vergangenen Jahr waren es noch 12 Prozent. Dabei setzten größere Unternehmen KI tendenziell häufiger ein.

Verwendet werden KI-Technologien der Umfrage zufolge am häufigsten zur Analyse von Schriftsprache und zur Spracherkennung. Haupteinsatzfelder dieser Anwendungen sind Marketing und Vertrieb. Außerdem nutzen die Unternehmen KI für Produktions- und Dienstleistungsprozesse, zur Organisation ihrer Verwaltung sowie für die Buchführung. Diejenigen, die sich bislang gegen KI entscheiden, begründen dies vor allem mit fehlendem Wissen, Unklarheit über die rechtlichen Folgen und Bedenken im Hinblick auf den Datenschutz. Gut jeder fünfte der Nicht-KI-Nutzerinnen und -Nutzer hält den Einsatz von künstlicher Intelligenz im eigenen Unternehmen sowieso nicht für sinnvoll.

Das war das KI-Update von heise online vom 26. November 2024. Eine neue Folge gibt es jeden Werktag ab 15 Uhr.

(igr)