OpenAI will jugendliche Nutzer von ChatGPT besser schützen, kündigte CEO Sam Altman in einem Blog-Eintrag an. Anders als bei Erwachsenen soll der KI-Chatbot beispielsweise unter keinen Umständen beim Verfassen von Texten helfen, in denen Suizid dargestellt wird – selbst wenn es sich dabei ausschließlich um fiktive Geschichten handeln sollte.
Nachdem ein Junge aus Kalifornien Suizid begangen hatte, gaben seine Eltern OpenAI die Mitschuld und verklagten das Unternehmen. Aus den Chatprotokollen ging unter anderem hervor, dass ChatGPT dem 16-Jährigen angeboten haben soll, einen Abschiedsbrief zu verfassen. Um Jugendliche besser schützen zu können, muss ChatGPT aber ihr Alter kennen: Ein System zur Schätzung des Alters werde gerade entwickelt, schreibt Altman, ohne nähere Details zu nennen. Wie dieses System funktionieren soll und wie verlässlich es das Alter von Usern einschätzen kann, bleibt offen. Im Zweifelsfall gehe das System aber immer von einem Jugendlichen aus.
"Behandle unsere erwachsenen User wie Erwachsene"
Beim Datenschutz will OpenAI eine Ausnahme in Extremfällen machen. Konversationen, in denen Menschen tagtäglich ChatGPT die persönlichsten Dinge anvertrauten, müssen vertraulich behandelt werden, schreibt Altman. Dennoch gebe es automatisierte Systeme, die schwerwiegende Missbräuche melden oder vor kritischen Risiken und Gefahren warnen. Sind Menschenleben in Gefahr oder gesellschaftliche Schäden wie massive Cybersicherheitsvorfälle zu befürchten, sollen solche Verdachtsmomente zur Überprüfung an Menschen eskaliert werden. OpenAI versuche dann etwa, Eltern oder Behörden zu kontaktieren.
Erwachsene Nutzer will Altman dagegen nicht einschränken. Ihnen liefere die KI zwar keine Anleitung zum Suizid, könne aber auf Nachfrage weiterhin Tipps für eine erdachte Story geben, die Suizid als Thema behandeln. Altman betont, bei OpenAI sei man sich bewusst, dass keine Lösung perfekt sei. Es handele sich um schwierige Entscheidungen, die nach Rücksprache mit Experten getroffen worden seien.
In Deutschland finden Sie Hilfe und Unterstützung bei Problemen aller Art, auch bei Fragen zu Mobbing und Suiziden, bei telefonseelsorge.de und telefonisch unter 0800 1110111. Die Nummer gegen Kummer (Kinder- und Jugendtelefon) lautet 116 111. In Österreich gibt es ebenfalls kostenfreie Hilfsangebote, darunter speziell für Kinder der Kindernotruf unter 0800 567 567 sowie Rat auf Draht unter 147. Dieselbe Telefonnummer führt in der Schweiz zu Pro Juventute.
(aki)
English (US) ·