KI-Update: Manipulation bei Grok, KI mit Selbstkorrektur, KI-Molekularforschung

xAI räumt erneut politische Manipulation von Grok ein

Elon Musks KI-Firma xAI hat zugegeben, dass ihr Chatbot Grok durch eine "unautorisierte Modifikation" des System-Prompts zu politisch gefärbten Antworten verleitet wurde. Am 14. Mai fiel Grok durch bizarres Verhalten auf: Selbst bei harmlosen Fragen antwortete der Chatbot mit Texten über einen angeblichen "White Genocide" in Südafrika – eine bekannte rechtsextreme Verschwörungserzählung.

Dies ist bereits der zweite derartige Vorfall binnen weniger Monate. Im Februar hatte Grok bei Fragen zu Elon Musk und Donald Trump plötzlich seine kritischen Antworten abgeschwächt. xAI verspricht nun mehr Transparenz: Künftig sollen alle System-Prompts offen auf GitHub veröffentlicht werden, strengere Prüfprozesse eingeführt und ein 24/7-Überwachungsteam eingesetzt werden.

Anthropic entwickelt selbstkorrigierende KI-Modelle

Anthropic arbeitet an einer neuen Generation von Claude-Modellen, die deutlich autonomer agieren sollen. Die in den kommenden Wochen erwarteten Systeme der Sonnet- und Opus-Reihe können eigenständig zwischen Denkprozessen und der Nutzung externer Tools wechseln – und sich bei Fehlern selbst korrigieren. Erkennen die Modelle Probleme bei der Werkzeugnutzung, wechseln sie in einen Analysemodus, identifizieren Fehler und passen ihre Strategie an.

Auch bei der Codegenerierung zeigen die neuen Modelle mehr Eigeninitiative, indem sie erzeugten Code automatisch testen und korrigieren. Damit folgt Anthropic einem branchenweiten Trend: KI-Systeme sollen mit minimaler Anleitung kontinuierlich arbeiten und Probleme selbstständig lösen – ähnlich wie OpenAIs neue o-Modelle, die ebenfalls Reasoning-Prozesse mit Tool-Nutzung verbinden.

Meta veröffentlicht KI-Werkzeuge für die Molekularforschung

Meta hat mit Open Molecules 2025 (OMol25) das bislang größte frei verfügbare Datenset für KI-gestützte Chemie veröffentlicht. Der Datensatz enthält über 100 Millionen präzise Berechnungen zu Molekülen – das Ergebnis von mehr als sechs Milliarden Stunden Rechenzeit. Die Daten umfassen eine breite Palette von Molekülen und deren Verhalten in unterschiedlichsten Situationen.

Parallel dazu stellt Meta mit dem Universal Model for Atoms (UMA) ein KI-Modell vor, das auf diesen Daten trainiert wurde. UMA kann chemische Eigenschaften auf atomarer Ebene vorhersagen – und das deutlich schneller als klassische Methoden. Simulationen, die früher Tage dauerten, lassen sich nun in Sekunden durchführen. Sowohl die OMol25-Daten als auch die UMA-Modelle sind auf Hugging Face frei verfügbar.

Peak Points: YouTube will Werbung im wichtigsten Moment einspielen

YouTube will künftig mithilfe von Googles KI-Modell Gemini Werbung genau an der Stelle in Videos schalten, die eine besonders hohe Aufmerksamkeit durch Zuschauer erhalten. Mit diesem Tool bedient sich der Konzern eines alten Tricks aus der Fernsehwelt: Bei der spannendsten Szene wird Werbung geschaltet, um einen möglichst starken Werbeeffekt zu erzielen.

YouTube nennt solche wichtigen Szenen "Peak Points" und identifiziert sie mithilfe von Googles Gemini-KI, die auf die Analyse von Video-Elementen trainiert wurde. Das neue Werbeformat befindet sich noch in der Pilotphase und soll im Laufe des Jahres freigeschaltet werden. Mit solchen gezielten Werbeunterbrechungen könnte YouTube nicht nur einen stärkeren Werbeeffekt erzielen, sondern auch Nutzer motivieren, ein werbefreies Abo abzuschließen.

OpenAI bucht weitere 4 Milliarden US-Dollar an KI-Rechenzeit bei CoreWeave

Der KI-Rechenzentrumsbetreiber CoreWeave wird OpenAI in den nächsten vier Jahren Cloud-Computing-Kapazitäten im Wert von bis zu 4 Milliarden US-Dollar zur Verfügung stellen. OpenAI hat bereits rund 12 Milliarden Dollar in CoreWeave investiert und sich dabei Unternehmensanteile gesichert, kurz bevor das Unternehmen Ende März an die Börse ging.

CoreWeave ist eng mit Microsoft verbunden, das auch OpenAI finanziell unterstützt. Im Jahr 2024 machte CoreWeave 62 Prozent seines Jahresumsatzes mit Servern für Microsoft. Trotz des steigenden Aktienkurses schreibt CoreWeave weiterhin rote Zahlen – im ersten Quartal lag der Nettoverlust bei rund 315 Millionen Dollar bei einem Umsatz von 981 Millionen Dollar. "Die Nachfrage ist wirklich unersättlich", sagte CoreWeave-Chef Michael Intrator, weshalb geplante Investitionen vorgezogen werden sollen.

(mali)