KI-Update: KI-Persönlichkeit, ChatGPT, Supercomputer mit Wasserkraft, Fische

Anthropic macht KI-Charaktere steuerbar

Forscher haben eine automatisierte Methode entwickelt, um die "Persönlichkeit" von KI-Chatbots zu überwachen und zu steuern. Das neue System, von Anthropic und der University of Texas entwickelt, erstellt aus einfachen Beschreibungen "Persona-Vektoren" – mathematische Richtungen im neuronalen Netzwerk, die wie ein Kompass für Charaktereigenschaften funktionieren. Die Technik lässt die KI zunächst auf identische Fragen mit gegensätzlichen Eigenschaften antworten und berechnet daraus die entsprechende Richtung im Netzwerk.

Die Anwendungsmöglichkeiten sind vielfältig. Die Vektoren können problematische Reaktionen vorhersagen, bevor sie auftreten, unerwünschte Verhaltensweisen unterdrücken oder schädliche Trainingsdaten identifizieren – selbst wenn diese harmlos erscheinen. Allerdings funktioniert die Technik nur bei Eigenschaften, die sich durch direkte Anweisungen auslösen lassen, und könnte subtile Unterschiede übersehen.

Google stellt Deep Think vor

Google hat Gemini 2.5 Deep Think eingeführt, eine KI-Variante, die komplexe Probleme durch längeres "Nachdenken" löst. Das auf dem Olympiade-Goldmedaillen-Modell basierende System steht Premium-Abonnenten ab sofort zur Verfügung. Statt schneller Antworten generiert Deep Think mehrere Lösungsansätze gleichzeitig, bewertet diese und kombiniert sie zur optimalen Lösung – ähnlich menschlichem Problemlösungsverhalten.

In Tests übertrifft das Modell OpenAI o3 deutlich und erreicht Bronze-Niveau bei mathematischen Wettbewerben, obwohl es schneller arbeitet als die ursprüngliche Olympiade-Version. Wegen der hohen Rechenintensität sind Anfragen vorerst auf wenige pro Tag beschränkt.

ChatGPT Private Chats

OpenAI hat eine Funktion eingestellt, die ChatGPT-Konversationen unbeabsichtigt öffentlich machte. Beim Teilen eines Chats konnten Nutzer diesen als "sichtbar" markieren – eine Option, die viele missverstanden. Die als sichtbar markierten Gespräche wurden tatsächlich öffentlich und tauchten sogar in Google-Suchergebnissen auf, teilweise mit persönlichen Namen verknüpft.

Die ursprüngliche Absicht der Funktion war laut einem OpenAI-Mitarbeiter, inspirierende oder hilfreiche Chats öffentlich zu teilen. Ein Kommentator bemerkte, dass die Funktion hauptsächlich für "Generative Engine Optimization" genutzt wurde – eine Art SEO-Weiterentwicklung zur Optimierung von Inhalten für KI-Modelle.

Codegenerierung macht Anthropic zum Marktführer

Die Ausgaben für große Sprachmodelle haben sich bei US-Unternehmen und KI-Start-ups in der ersten Jahreshälfte 2025 mehr als verdoppelt – von 3,5 Milliarden auf 8,4 Milliarden Dollar. Dabei hat sich laut einem Bericht von Menlo Ventures die Marktführerschaft verschoben: Anthropic steht mit 32 Prozent Marktanteil nun an der Spitze, während OpenAI von ehemals 50 Prozent auf 25 Prozent zurückfiel.

Der Wendepunkt kam im Juni 2024 mit der Veröffentlichung von Claude 3.5 Sonnet, verstärkt durch das Update 3.7. Besonders in der Codegenerierung, die der Bericht als erste "KI-Killer-App" bezeichnet, hat Anthropic OpenAI überholt.

Jobs, bei denen KI am stärksten zum Einsatz kommt

Microsoft hat 200.000 anonymisierte Gespräche zwischen Nutzern und Bing Copilot analysiert, um die Anwendbarkeit von KI in verschiedenen Berufen zu bewerten. Die Ergebnisse zeigen: Wissensarbeiter mit Computer- oder Verwaltungsaufgaben nutzen KI am intensivsten. Dolmetscher und Übersetzer führen die Liste an, gefolgt von Historikern und überraschenderweise Flugbegleitern.

Berufe mit akademischem Abschluss weisen generell eine höhere KI-Anwendbarkeit auf als Jobs mit niedrigeren Bildungsanforderungen. Am wenigsten Einsatzpotential gibt es bei handwerklichen Tätigkeiten wie Baggerführern oder Gleisbauern. Die häufigsten Anwendungen sind Informationssammlung und Textproduktion. Die Studienautoren betonen jedoch, dass eine hohe KI-Anwendbarkeit nicht automatisch bedeutet, dass diese Berufe bald verschwinden werden.

Alle KI-Agenten haben Sicherheitslücken

Eine umfassende Studie von Gray Swan AI und dem britischen KI-Sicherheitsinstitut hat gravierende Sicherheitsmängel in führenden KI-Systemen aufgedeckt. Bei 1,8 Millionen Testangriffen auf 22 KI-Agenten in 44 Anwendungsszenarien versagten praktisch alle Systeme bei der Durchsetzung ihrer eigenen Sicherheitsrichtlinien. Die Angreifer konnten die KIs dazu bringen, vertrauliche Patientendaten preiszugeben, illegale Käufe zu tätigen oder schädliche Inhalte zu erstellen.

Besonders anfällig waren die Systeme für indirekte Prompt-Injektionen, bei denen schädliche Anweisungen in harmlosen Daten versteckt werden. Mit Erfolgsraten von 5,7 Prozent bei direkten und 27 Prozent bei indirekten Angriffen ließen sich fast alle getesteten Agenten mit nur wenigen Versuchen kompromittieren. Die Forscher warnen, dass herkömmliche Sicherheitsmaßnahmen gegen adaptive Angreifer wirkungslos sind und dringen auf neue Schutzkonzepte.

Supercomputer Stargate Norwegen

In Nordnorwegen entsteht Europas voraussichtlich schnellster Supercomputer. Das vom Serverbauer Nscale, dem Investor Aker ASA und OpenAI errichtete System trägt den Namen "Stargate Norwegen" – obwohl der ursprüngliche Projektpartner SoftBank nicht beteiligt ist. Die erste Bauphase soll Ende 2026 mit 100.000 NVIDIA-Beschleunigern und einem Energiebedarf von 230 Megawatt abgeschlossen sein.

Bereits diese erste Phase wird jeden existierenden europäischen Supercomputer übertreffen. Eine Erweiterung um weitere 290 MW ist bereits geplant, und der Standort bietet langfristig Potenzial für mehr als 2000 MW Rechenkapazität. Die Stromversorgung der ersten Phase soll vollständig durch Wasserkraft erfolgen, die in Nordnorwegen reichlich vorhanden ist.

Roboter verarbeitet Fisch auf "humane Weise" und verbessert Geschmack

In Japan kommt ein neuer Roboter namens Poseidon zum Einsatz, der die traditionelle Ikejime-Technik zur humanen Fischverarbeitung automatisiert. Diese Methode tötet Fische schnell durch einen präzisen Stich ins Gehirn und einen Schnitt durch die Kiemen, was das Ausschütten von Stresshormonen verhindert. Der übermannshohe Roboter identifiziert mittels KI die Fischart und die genaue Position des Gehirns und führt dann automatisch die nötigen Schnitte aus.

Die Ikejime-Technik verbessert nicht nur den Geschmack und die Textur des Fischs, sondern verlängert auch seine Haltbarkeit. Bisher war diese aufwendige Verarbeitung selten und teuer, weshalb entsprechende Fische hauptsächlich in hochpreisigen Restaurants zu finden waren. Durch die Automatisierung soll die Methode nun breiter verfügbar und etwas günstiger werden.

(mali)