Sprechen jugendliche Instagram-Nutzer mit dem Chatbot Meta AI über Selbstverletzung oder Suizid, soll dieser abschätzen, ob reale Gefahr besteht. Gegebenenfalls wird eine Prüfung durch Meta-Mitarbeiter angestoßen. Können diese den Verdacht nicht ausräumen, alarmieren sie die Eltern – vorausgesetzt, diese haben ebenfalls ein Konto bei Meta Platforms und nutzen den Dienst „Elternaufsicht”.
Meta Platforms gibt an, die entsprechenden Indizien zusammen mit Experten ausgearbeitet zu haben. Sollte die Unterhaltung zu Suizid oder Selbstverletzung kein eindeutiges Risiko zeigen, werden die Eltern trotzdem informiert. Meta geht lieber auf Nummer Sicher und nimmt dafür Fehlalarme in Kauf.
Natürlich ist es für Eltern eine große Herausforderung, das Thema mit ihrem Nachwuchs zu besprechen. Daher will Meta bei einer Alarmierung auch gleich auf Ratschläge verweisen. Derzeit gibt es die Elternalarme aber nur in Australien, Kanada, den USA und dem Vereinigten Königreich. Der Rest der Welt soll bis Jahresende hinzukommen. Im April hat Meta damit begonnen, Eltern Einsicht in die KI-Chats ihrer Kinder zu gewähren.
Mehr Zensur im Chatbot
Zudem arbeitet Meta daran, seinem Chatbot beizubringen, direkt Blaulichtorganisationen zu verständigen, wenn der Chatbot das Risiko eines unmittelbaren Suizids zu erkennen meint. Diese Funktion ist altersunabhängig. Bei Postings auf Facebook und Instagram gibt es so etwas schon, was laut Meta 2025 zu weltweit mehr als 19.000 Notrufen geführt hat. Nähere Angaben dazu liegen nicht vor.
Neu ist, dass der Chatbot Meta AI gegenüber Teenager besonders strikte Zensur übt, wenn die Eltern dies vorgeben. In der Elternaufsicht gibt es bei „sensiblen Inhalten” auf Facebook und Instagram schon jetzt die Wahl zwischen „Weniger” und „Eingeschränkt” (auf Englisch: „Limited Content”). Letzteres ist besonders strikt, doch was genau blockiert wird, verrät Meta nicht.
Soweit bekannt, unterdrückt der Filter anatomische, psychische und andere gesundheitsbezogene Informationen sowie Themen rund um sexuelle Orientierung und Geschlechtsidentitäten, aber auch körperliche Ertüchtigung („Fitness”). Zudem werden Stunts und sogenannte „Challenges” versteckt, ebenso Schimpfworte und manches Humoristische. Nicht zuletzt deaktiviert die Einstellung „Eingeschränkt” die Kommentarfunktion auf Instagram und Facebook: Betroffene können Kommentare weder sehen noch erhalten, noch selbst abfassen. Nun sollen diese Filter, soweit zutreffend, auch die Meta AI beschränken.
(ds)
English (US) ·