Der niedersächsische Datenschutzbeauftragte Denis Lehmkemper kritisiert in seinem am Donnerstag veröffentlichten Tätigkeitsberichts 2025 das Durchführungsgesetz zur KI-Verordnung scharf: Die damit erfolgte Zentralisierung der Marktüberwachung bei der Bundesnetzagentur verstößt ihm zufolge nicht nur prinzipiell gegen die europarechtlichen Vorgaben, sondern bei Schulen oder Polizei auch gegen das Grundgesetz.
KI und personenbezogene Daten
Bereits seit dem Beschluss des AI Acts fordert die Datenschutzkonferenz von Bund und Ländern, die Durchsetzung der KI-Verordnung in Deutschland zu übernehmen. Grund: KI-Systeme seien zutiefst mit der Verarbeitung personenbezogener Daten verwoben. Eine Ansiedlung der Marktüberwachung bei einer Bundesbehörde drohe den bewährten Grundrechtsschutz zu untergraben.
Auch Lehmkemper hält es „für verfassungsrechtlich zwingend und auch deutlich sinnvoller, dass die Marktaufsicht über in der niedersächsischen Verwaltung eingesetzte KI-Systeme auch in Niedersachsen angesiedelt ist“. Doch der Appell der Datenschützer stieß bislang auf taube Ohren.
Neben der Debatte über die KI-Regulierung spiegeln die aktuellen Zahlen der niedersächsischen Behörde eine hohe Belastung wider: Ein neuer Rekordstand bei Bürgerbeschwerden, generative KI und die Notwendigkeit digitaler Souveränität prägen das abgelaufene Berichtsjahr.
Wie Lehmkemper darlegt, stiegen die Eingaben um über 70 Prozent auf 4022 Fälle. Diesen sich 2026 fortsetzenden Trend bestätigen andere Landeskontrolleure. Eine Ursache liegt in KI-Chatbots: Sie erstellen bei Recherchen zu Datenschutzverstößen direkt Musterschreiben. Diese Welle teils unvollständiger Anträge stellt die Aufsicht vor Herausforderungen.
Open Source als Alternative
Zugleich entwickelte sich KI zum Beratungsschwerpunkt. Neben 20 Beschwerden gegen KI-Betreiber begleitete die Behörde Pilotversuche wie LLMoin und MS-Copilot Chat in der Verwaltung. Dabei traten Hürden zutage: Spezifische Rechtsgrundlagen fehlten weitgehend, heißt es in dem Bericht. KI-Halluzinationen und Verzerrungen gefährdeten ferner die Datenrichtigkeit in Verwaltungsverfahren.
Lehmkemper fordert vom Gesetzgeber klare Rahmenbedingungen fürs KI-Training sowie verbindliche Schulungen und präzisere Modell-Einstellungen. Nachdrücklich plädiert der Datenschützer für digitale Souveränität. Die tiefgreifende Abhängigkeit von außereuropäischen IT-Monopolen gefährde die Sicherheit und Selbstbestimmung des Landes. Anstelle proprietärer Angebote von US-Tech-Konzernen empfiehlt die Behörde europäische Open-Source-Lösungen.
Insgesamt verhängte der Landesdatenschutzbeauftragte 2025 in 34 Erstbescheiden Bußgelder von rund 705.000 Euro. Lehmkemper betont angesichts von Zentralisierungsrufen, dass wirksamer Grundrechtsschutz und Innovation Hand in Hand gehen müssten. Dafür bleibe eine gut ausgestattete Aufsicht vor Ort unverzichtbar.
(vbr)
English (US) ·