Prinz Harry und Meghan schließen sich Appell gegen KI-»Superintelligenz« an

vor 2 Tage 1

Meghan und Harry auf einer Gala für psychische Gesundheit

Der Physik-Nobelpreisträger Geoffrey Hinton , der Apple-Mitgründer Steve Wozniak, der britische Milliardär Richard Branson, Barack Obamas nationale Sicherheitsberaterin Susan Rice, die irische Ex-Präsidentin Mary Robinson … Preisfrage: Wer fehlt in dieser Aufzählung? Richtig, Prinz Harry und seine Frau Meghan.

Die beiden haben sich der illustren – und noch deutlich längeren – Liste von prominenten Informatikern, Wirtschaftswissenschaftlern, Künstlern und weiteren Personen des öffentlichen Lebens angeschlossen, um ein Verbot der KI-»Superintelligenz« zu fordern, die die Menschheit bedrohe.

In einem Brief richtet sich die politisch und geografisch vielfältige Gruppe von Persönlichkeiten des öffentlichen Lebens direkt an Technologiegiganten wie Google, OpenAI und Meta Platforms, die darum wetteifern, eine Form der künstlichen Intelligenz zu entwickeln, die den Menschen bei vielen Tätigkeiten übertreffen soll.

Die 30-Wort-Erklärung lautet: »Wir fordern ein Verbot der Entwicklung von Superintelligenz, das nicht aufgehoben wird, bevor ein breiter wissenschaftlicher Konsens darüber besteht, dass dies sicher und kontrollierbar geschieht, und eine starke öffentliche Zustimmung vorliegt.«

In einer Präambel zum Brief wird festgestellt, dass KI-Tools Gesundheit und Wohlstand bringen können, aber neben diesen Tools hätten »viele führende KI-Unternehmen das erklärte Ziel, in den kommenden zehn Jahren Superintelligenz aufzubauen, die alle Menschen bei im Wesentlichen allen kognitiven Aufgaben erheblich übertreffen kann.« Dies habe Bedenken aufgeworfen, dass der Mensch dabei überflüssig gemacht werde, und dass die Entwicklung zur Entmachtung des Menschen, zum Verlust von Freiheit, Bürgerrechten, Würde und Kontrolle führen könnte, bis hin zu nationalen Sicherheitsrisiken und sogar dem potenziellen Aussterben der Menschheit.

»Der wahre Test des Fortschritts wird nicht sein, wie schnell wir uns bewegen, sondern wie weise wir steuern.«

Prinz Harry

Prinz Harry fügt in einer persönlichen Notiz hinzu: »Die Zukunft der KI sollte der Menschheit dienen, nicht sie ersetzen. Ich glaube, der wahre Test des Fortschritts wird nicht sein, wie schnell wir uns bewegen, sondern wie weise wir steuern. Es gibt keine zweite Chance.« Neben dem Herzog von Sussex unterzeichnete auch seine Frau Meghan, die Herzogin von Sussex.

»Dies ist kein Verbot oder gar ein Moratorium im üblichen Sinne«, schreibt ein weiterer Unterzeichner, Stuart Russell, KI-Pionier und Professor für Informatik an der University of California, Berkeley. »Es ist einfach ein Vorschlag, angemessene Sicherheitsmaßnahmen für eine Technologie zu fordern, die laut ihren Entwicklern eine erhebliche Chance hat, das Aussterben der Menschheit zu verursachen. Ist das zu viel verlangt?«

Ebenfalls unterzeichnet haben die KI-Pioniere Yoshua Bengio und Geoffrey Hinton. Beide haben bereits in der Vergangenheit lautstark auf die Gefahren der Technologie aufmerksam gemacht, die sie mitentwickelt haben.

Auch Steve Bannon unter den Unterzeichnern

Die Liste enthält einige Überraschungen, darunter den früheren Trump-Intimus Steve Bannon und den rechten US-Moderator Glenn Beck, beide illustre Figuren der MAGA-Bewegung (»Make America Great Again«) von Donald Trump. Das überrascht insofern, als Trumps Mitarbeiter im Weißen Haus versucht haben, die Grenzen für die KI-Entwicklung in den USA zu lockern.

Auf der Liste stehen auch der ehemalige Vorsitzende der US-Generalstabschefs Mike Mullen, der unter republikanischen und demokratischen Regierungen diente, mehrere britische und europäische Parlamentarier, die Schauspieler Stephen Fry und Joseph Gordon-Levitt sowie der Musiker will.i.am, der KI ansonsten bei der Musikproduktion einsetzt.

»Ja, wir wollen spezifische KI-Tools, die helfen können, Krankheiten zu heilen, die nationale Sicherheit zu stärken und so weiter«, schreibt Gordon-Levitt. Dessen Frau Tasha McCauley saß vor der Krise, die 2023 zur vorübergehenden Absetzung von CEO Sam Altman führte, im Vorstand von OpenAI. »Aber«, führt er weiter aus, »muss KI auch Menschen imitieren, unsere Kinder manipulieren, uns alle in faule Junkies verwandeln und Abermilliarden von Dollar mit Werbung verdienen? Die meisten Leute wollen das nicht.«

Der Brief dürfte Debatten in der KI-Forschungsgemeinschaft über die Wahrscheinlichkeit einer übermenschlichen KI, die technischen Wege dorthin und wie gefährlich sie sein könnte, befeuern. »In der Vergangenheit waren es meistens die Nerds gegen die Nerds«, sagte Max Tegmark, Präsident des Future of Life Institute, das den Brief initiiert hat, und Professor am Massachusetts Institute of Technology. »Was wir hier wirklich sehen, ist, wie sehr die Kritik Mainstream geworden ist.«

»Deshalb ist es so wichtig, den Wettlauf zur Superintelligenz zu stigmatisieren, bis zu dem Punkt, an dem die US-Regierung einfach eingreift.«

Max Tegmark, Präsident des Future of Life Institute

Was künstliche Intelligenz oder gar Superintelligenz leisten oder sein könnte, ist allerdings umstritten. Oft versprechen die Entwickler zu viel, als Teil ihres Marketings. Deshalb fürchten einige Beobachter, es könnte zum Platzen einer KI-Blase kommen , wenn sich die Milliardeninvestitionen in die neue Technik nicht rechnen.

OpenAI wurde kürzlich von Mathematikern und KI-Wissenschaftlern verspottet, weil die Entwickler behauptet hatten, der Chatbot ChatGPT habe ungelöste mathematische Probleme gelöst. Tatsächlich hatte der Bot nur das gefunden und zusammengefasst, was bereits online war. »Es gibt eine Menge Zeug, das überbewertet ist, und man muss als Investor vorsichtig sein, aber das ändert nichts an der Tatsache, dass – wenn man das Gesamtbild betrachtet – die KI in den letzten vier Jahren viel schneller vorangekommen ist, als die meisten Leute vorhergesagt haben«, sagte Tegmark.

Tegmarks Gruppe stand auch hinter einem Brief vom März 2023 – noch am Anfang des kommerziellen KI-Booms –, der Technologiegiganten aufforderte, die Entwicklung leistungsfähigerer KI-Modelle vorübergehend zu unterbrechen. Keines der großen KI-Unternehmen folgte diesem Aufruf. Und der prominenteste Unterzeichner des Briefes von 2023, Elon Musk, gründete zur gleichen Zeit still und leise sein eigenes KI-Start-up, um mit denen zu konkurrieren, von denen er eine sechsmonatige Pause verlangte.

Auf die Frage, ob er Musk diesmal wieder kontaktiert habe, sagte Tegmark, er habe die CEOs aller großen KI-Entwickler in den USA kontaktiert, aber nicht erwartet, dass sie unterschreiben.

Er habe Mitgefühl für sie, sagt er, weil sie dem Druck dieses technischen Wettrennens ausgesetzt seien. »Ich denke, deshalb ist es so wichtig, den Wettlauf zur Superintelligenz zu stigmatisieren, bis zu dem Punkt, an dem die US-Regierung einfach eingreift.«

Gesamten Artikel lesen