Kunstaktion in London: „Wir haben eine Maschine gebaut, die Teenagern sagt, sie sollen sich umbringen“

Das „Education World Forum“ bezeichnet sich als weltgrößte Zusammenkunft von Bildungsministern. Schaut man sich die Agenda für dieses Jahr an, könnte das Motto lauten: „Kein Tag ohne KI“. Vergangene Woche diskutierten die Experten vier Tage lang, wie man Lehrer im Zeitalter der KI „befähigt“ und wie Bildung angesichts einer „menschenzentrierten KI-Zukunft“ aussehen sollte. Vielleicht sahen einige von ihnen, nachdem sie das Tagungszentrum in London verlassen hatten, eine ganz andere Botschaft: „Ja, wir haben eine Maschine gebaut, die Teenagern sagt, sie sollen sich umbringen. Aber – sie könnte ihnen auch bei den Hausaufgaben helfen. ChatGPT“.

Das stand Bildern in sozialen Medien zufolge auf Plakaten in der Londoner U-Bahn. Der englische Text, weiß auf schwarzem Grund, erinnert in seinem minimalistischen Stil an Werbebotschaften des KI-Konzerns Open AI. Natürlich war es eine Fälschung. Der britische Künstler Darren Cullen hat sich zu der Aktion bekannt.

Das Kalkül ist, sie in der Schule zu erwischen

Der springende Punkt ist das „Aber“, auf dem Plakat betont durch den Gedankenstrich, mit dem Chatbots typischerweise ihre Texte überfrachten. Tatsächlich wird die Technologie mit einer ganzen Reihe von Suiziden in Verbindung gebracht. In den Vereinigten Staaten haben die Eltern von Adam Raine Open AI verklagt. Der Sechzehnjährige hatte sich umgebracht und davor laut Gerichtsdokumenten Tipps für die Selbsttötung von ChatGPT erhalten. Open AI sprach vor Gericht von einer „missbräuchlichen“ und „unbefugten“ Nutzung seiner Technologie.

Was die Frage aufwirft: Wie sollen Teenager die Technologie denn korrekt nutzen? Die Antwort scheint „Hauptsache, viel“ zu lauten. Open AI versucht mit allen Mitteln, in das Leben junger Menschen einzudringen und dort seine Marktmacht zu festigen. Das Kalkül ist, sie in der Schule zu erwischen. Auf dem „Education World Forum“ trat Open AI als einer der Hauptsponsoren auf. Vergangenes Jahr verschenkte der Konzern sein 20 Dollar teures Abo kurz vor der Prüfungsphase an Studenten in den USA. Lehrer bekommen ChatGPT dort gratis. In Estland sollen seit 2025 alle Schüler Zugang erhalten.

Natürlich ist der Verweis auf die Suizide des Plakats eine Zuspitzung, aber er steht für viele Tücken der Technik. Forscher sehen in der Art, wie Chatbots Jugendliche in Gedankenspiralen treiben, ein Problem für die öffentliche Gesundheit. Lehrer klagen über Schüler, die durch den KI-Einfluss gleichgeschaltet wirken. Studien legen nahe, dass KI-Unterstützung dem Lernprozess schadet. Diese Schattenseiten der Technologie sind echt. Vor diesem Hintergrund dürfen KI-Konzerne nicht mit einem „Aber“ durchkommen, um dann einen vermeintlichen Nutzen ihrer Produkte zu betonen.