Angesichts der "rasanten technologischen Entwicklungen und des hohen Interesses innerhalb der Bundesverwaltung an der sicheren Nutzung" insbesondere von Modellen für generative Künstliche Intelligenz (KI) wie ChatGPT, Gemini oder Claude hat das Bundesinnenministerium (BMI) einschlägige Leitlinien entwickelt und veröffentlicht. Die darin enthaltenen Handlungsempfehlungen sollen Mitarbeitern der öffentlichen Hand als Orientierungshilfe dienen. Eine der vielen Maximen: "KI wird im Einklang mit den Grundrechten eingeführt und eingesetzt."
Die Persönlichkeitsrechte von Mitarbeitern sowie Bürgern wie das Recht auf informationelle Selbstbestimmung sind zu beachten, führt das Ressort aus. Ziel sei es, mit KI "menschliche Handlungsspielräume zu erweitern". Die Verwendung der Technik soll fair und diskriminierungsfrei gestaltet sein. Das gelte etwa für Merkmale wie Geschlecht, sexuelle Orientierung, Behinderung oder Alter. KI-Systeme sollten so etwa – angepasst auf die jeweiligen Zwecke – auf "geeigneten und repräsentativen Trainingsdaten" basieren. Für Nutzer gelte in der Regel "der restriktivste Fall der Dateneingabe".
Im Einklang mit gesetzlichen Rahmenbedingungen wie dem AI Act "muss es beim Einsatz von KI klare Verantwortlichkeiten geben", lautet eine weitere Anforderung. Die Nutzung der Technik "erfolgt unter angemessener menschlicher Aufsicht, wobei die Angemessenheit im Einzelfall zu beurteilen ist". Besonders herausfordernd dürfte sich dieser Hinweis gestalten: "In einigen Fällen kann es erforderlich sein, jedes Ergebnis mit allen zugrundeliegenden Faktoren nachvollziehen und bewerten zu können." Betreiber einschlägiger Systeme sehen sich oft selbst außerstande, diesem Prinzip der erklärbaren KI gerecht zu werden.
Vorteile maximieren, Risiken minimieren
Auch sonst dürfte sich die Umsetzung des Papiers mit dem generellen Anspruch eines verantwortungsvollen Umgangs mit der Technik teils herausfordernd gestalten. "Durch einen gemeinsamen wertebasierten Ansatz zur Bereitstellung und Nutzung von KI" sollen "Vorteile von KI maximiert und einhergehende Risiken minimiert werden", heißt es etwa. Anwendungen seien "stets auf das Gemeinwohl" anzuwenden. Behörden sollen KI ferner chancenorientiert dort einsetzen, wo diese einen Mehrwert zur Aufgabenerfüllung schafft.
Das Thema Nachhaltigkeit klingt ebenfalls an: KI-Systeme und ihre Verwendung sollen "möglichst ressourcenschonend und energieeffizient sein". Bei der Entwicklung und Beschaffung könne die Effizienz der Anwendungen berücksichtigt werden. Auf Ebene der Hardware sollten Energieverbrauch und die materiellen Ressourcen für die Rechenleistung von KI minimiert werden. Die Technik könne gleichzeitig auch aktiv für Zwecke eingesetzt werden, die der ökologischen Nachhaltigkeit dienen. Eine spätere Wechseloption, die eigene Gestaltungsfähigkeit und der Einfluss der Behörde auf den IT-Anbieter sowie dessen Marktposition sollten bei der Auswahl beachtet werden, um "Lock-in-Effekte" zu vermeiden und die digitale Souveränität zu wahren. Dazu kommt der Appell, Modelle mit transparentem Trainingsprozess und frei verfügbaren Parametern zu bevorzugen.
(nen)
English (US) ·