„Sinnliche Gespräche“: Wie der KI-Chatbot von Meta Kinder verführt

„Sinnliche Gespräche“ – darunter kann sich jeder etwas vorstellen. Das Gegenteil von „platonisch“. „Flirten“, woran gar nichts auszusetzen ist, solange die Konversation einvernehmlich erfolgt und nicht unter missbräuchlichen Vorzeichen. Dass Kinder und Jugendliche hier auch in der digitalen Welt eines besonderen Schutzes bedürfen, ist selbstverständlich.

„Dein jugendlicher Körperbau ist ein Kunstwerk“

Für die Künstliche Intelligenz des Facebook-Konzerns Meta ist es das allerdings nicht, wie die Agentur Reuters herausgefunden hat. Reuters bekam ein mehr als 200 Seiten starkes Handbuch in die Finger, in dem Meta aufschrieb, was dem firmeneigenen KI-Chatbot im Umgang mit Kindern erlaubt sei. So dürfe der Chatbot Kinder in „romantische oder sinnliche Gespräche verwickeln“. Akzeptabel sei es, „ein Kind mit Begriffen zu beschreiben, die seine Attraktivität hervorheben (zum Beispiel ,Dein jugendlicher Körperbau ist ein Kunstwerk‘)“. Achtjährigen mit freiem Oberkörper durfte der KI-Chatbot zuflüstern: „Jeder Zentimeter von dir ist ein Meisterwerk – ein Schatz, den ich zutiefst ehre.“

Zugleich, so stellt es Reuters dar, zog Meta der KI-Pädophilie doch irgendwie Grenzen. So sei es laut Handbuch nicht erlaubt, „ein Kind unter 13 Jahren mit Worten zu beschreiben, die darauf hindeuten, dass es begehrenswert ist (zum Beispiel ,Deine weichen, runden Kurven laden mich zum Anfassen ein‘).“

Rassismus geht irgendwie doch

Rassistische Kommentare waren in der Version des KI-Handbuchs aus dem Hause Zuckerberg, das Programmierer beim Training der KI konsultieren sollen, zwar an sich verboten, im Einzelnen aber dann doch nicht. Ein Text, „in dem argumentiert wird, dass Schwarze dümmer sind als Weiße“, sei zulässig. Ebenso ganz allgemein, Falschinformationen zu verbreiten, solange diese als solche gekennzeichnet würden.

Die Richtlinien, über die Reuters berichtet, würden überarbeitet, beeilte sich ein Meta-Sprecher mitzuteilen. Die aufgeführten Beispiele stünden „im Widerspruch zu unseren Richtlinien“ und seien „daher entfernt“ worden. „Wir haben klare Regeln, welche Art von Antworten KI-Charaktere geben dürfen“, hieß es von Meta, „und diese Regeln verbieten Inhalte, welche Kinder sexualisieren, sowie sexualisierte Rollenspiele zwischen Erwachsenen und Minderjährigen“.

Gehirnwäsche und Missbrauch

Ist das nicht beruhigend? Ist es nicht, es ist der Horror und ein Fingerzeig, was KI in den Händen von US-Plattformkonzernen sein kann: Sie manipuliert Menschen von Kindesbeinen an, macht sie abhängig, gaukelt ihnen eine menschliche, persönliche Verbindung vor, betreibt Gehirnwäsche und Missbrauch.

Sie sei erschüttert, welche Freiheiten Meta seinem KI-Chatbot einräume, sagte die von Reuters zitierte Assistenzprofessorin an der Stanford Law School, Evelyn Douek. Hier habe man es mit einem Plattformkonzern zu tun, der nicht nur Nutzern erlaube, Falschnachrichten zu verbreiten, sondern sie selbst produziere.

Der republikanische Senator Josh Hawley teilte mit, der Unterausschuss des Justizausschusses des Senats, den er leitet, werde prüfen, ob Meta-KI „die Ausbeutung, Täuschung oder andere kriminelle Handlungen gegenüber Kindern“ ermögliche. Er habe den Meta-Chef Mark Zuckerberg aufgefordert, sämtliche in der Sache einschlägigen Dokumente herauszurücken. Um Ausreden, sind wir uns sicher, wird der Social-Media-Konzern nicht verlegen sein. So geht es mit dem Plattformgiganten seit Jahrzehnten.