KI-Update DeepDive: Europas Chance ist eine vertrauenswürdige KI

CAIRNE: Eine europäische Initiative

Cairne, früher Claire ist eine Initiative, um ein europaweites Netzwerk für KI zu schaffen – es gibt sie bereits seit 2018, also lange vor dem Durchbruch von ChatGPT. Prof. Holger Hoos ist einer der Gründer. "Wir haben damals schon gesehen, dass es Handlungsbedarf gibt", sagt Hoos, "Handlungsbedarf auch im Sinne von nötigen Investitionen in KI, damit wir in Europa gut aufgestellt sind." Der Experte begrüßt, dass es inzwischen ein Bekenntnis der EU-Kommission gibt, größere Investitionen vorzunehmen. Er spricht in dieser Folge des Deep-Dives über Gefahren, wenn wir unzuverlässige KI überall einsetzen, welche Ansätze es gibt, Ressourcen zu sparen, wie wir Talente zurück nach Europa holen können und warum wir voller Hoffnung sein können, nicht abgehängt zu werden.

Spannend findet Hoos, der eine Alexander von Humboldt-Professur innehat, wie seit der weiten Verbreitung von generativer KI in nahezu jedem Bereich darüber nachgedacht werde, wo KI eingesetzt werden kann – Behörden, Unternehmen aller Größen, Schulen, Krankenhäuser und mehr. Aber, warnt Hoos, "man muss das auch vernünftig begleiten."

KI hilft nicht immer gegen den Fachkräftemangel

Oftmals heißt es vor allem von den KI-Anbietern, KI werde Mitarbeiter produktiver machen, teilweise ist sogar die Rede davon, dass sie Mitarbeiter ersetzen kann. Nvidias CEO Jen-Hsun Huang spricht davon, dass es bald keine Softwarentwickler mehr bedürfe, weil KI die Aufgaben übernimmt. Dem stimmt Hoos nicht zu: "Dazu muss ich nicht nur als KI-Experte, sondern auch als Informatiker sagen, das ist einfach ein Irrglaube und zwar ein gefährlicher, weil eine der großen und gut dokumentierten Schwächen von generativen KI-Systemen wie ChatGPT ist, dass sie im Wesentlichen mit Logik überhaupt gar nicht gut umgehen können." Dabei seien Computer eben Logikmaschinen und um diese vernünftig zu programmieren, um Software zu erstellen, die nachher zuverlässig und sicher ist, müsse man logisch denken können.

Die Nutzung von zu viel KI und KI-Assistenten bei der Softwareentwicklung könne zu vielen Bugs führen. "Es droht eine Situation, in der wir alle in fehlerhafter und ineffizienter Software ertrinken."

Nicht noch mehr Deutsche Bahn

Haben wir bald eine Welt mit sehr hoher Fehlertoleranz, wenn überall KI eingesetzt wird? Hoos sagt: "Die Leute beschweren sich zu Recht darüber, dass unsere Bundesbahn nicht mehr so richtig gut funktioniert, was übrigens, glaube ich, mit KI fast nichts zu tun hat. Aber vielleicht kann KI uns ein bisschen helfen, dass das in der Zukunft besser wird. Das nur nebenbei." Die Probleme, die wir kriegen, wenn jetzt großflächig die falsche Art von KI-Systemen für alle möglichen Zwecken eingesetzt wird, hält der Experte allerdings tendenziell für schlimmer: "Dagegen ist die unzuverlässige Bundesbahn nichts."

Ähnlich sei es beim Abbau von Bürokratie, wenn wir auch dort versuchen, überall KI einzusetzen. "Wenn man jetzt Bürokratie dadurch versucht abzubauen, dass man unzuverlässige KI- oder IT-Systeme einsetzt, hat man im Grunde genommen nichts gewonnen, sondern eigentlich noch viel mehr verloren. Und diese Art von Bürokratie schadet uns dann allen und fährt letzten Endes auch die Wirtschaft an die Wand."

Voller Hoffnung für Europas KI

Dennoch ist Hoos kein Pessimist. "Es gibt zurzeit enorme Chancen, Talente aus den USA wieder hier zurückzubekommen. Ich bin mir ganz sicher, dass wir das schaffen können, aber es ist eine Frage des Wollens, insbesondere des politischen Willens. Davon haben wir jetzt eine ganze Menge mehr, wenn man sich den Koalitionsvertrag anguckt."

Eine Idee von Hoos, der auch Leiter des KI-Centers der RWTH Aachen ist, eine Art Cern für KI. "Eine europäische Großforschungseinrichtung, in dem Fall auch eine sehr industrienahe, wo Spitzentalente aus aller Welt Arbeitsbedingungen vorfinden, die um nichts dem hinterher stehen, was sie in der amerikanischen Großindustrie haben können. Das wäre, glaube ich, eine sehr geschickte Sache."

Aber auch Professuren und Unterstützung etwa durch den Europäischen Forschungsrat seien gute und wichtige Ansätze. Zudem müsse die öffentliche Hand investieren – dann gäbe es eine Menge zu gewinnen. So sollten etwa Aufträge aus dem öffentlichen Raum, beispielsweise von Krankenhäusern, Verwaltungen, Schulen, an KI-Anbieter vergeben werden, die den europäischen Qualitätsmaßstäben und Werten entsprechen. Dann hätte die hiesige KI-Industrie automatisch einen enormen Absatz. "Das ist ja das andere Problem unserer Zeit, nicht wahr? Die technologische Souveränität, die wir zurzeit nicht haben, die wir aber dringend zurückerlangen sollten."

(emw)