Bundesnetzagentur von Habeck-Vertrautem soll zentrale Rolle bei KI-Aufsicht übernehmen

Die Bundesnetzagentur (BNetzA) soll nach Plänen des Bundesministeriums für Digitales und Verkehr (BMDV) eine Schlüsselrolle bei der Umsetzung des EU-KI-Verordnung in Deutschland übernehmen. Das geht aus einem aktuellen Referentenentwurf hervor. Die Behörde, die seit der Ampel vom ehemaligen Grünen-Politiker Klaus Müller geleitet wird, soll demnach künftig zentrale Aufsichtsaufgaben im Bereich Künstlicher Intelligent übernehmen. Ergänzt werden soll sie durch ein Geflecht weiterer Behörden, die jeweils Teilbereiche regulieren.

Damit folgt die Bundesregierung der Logik eines „Mosaiks“ aus Zuständigkeiten: Während die BNetzA für übergreifende Fragen der Marktaufsicht und Risikobewertung verantwortlich sein soll, werden Fachbehörden wie etwa das Kraftfahrt-Bundesamt oder das Bundesinstitut für Arzneimittel und Medizinprodukte spezielle Sektoren überwachen. Vorgesehen ist außerdem ein neuer „KI-Beirat“, der die Aufsicht koordinieren und bewerten soll.

Die Wahl von Müllers Bundesnetzagentur als Hauptverantwortliche wirft allerdings Fragen auf – nicht zuletzt wegen ihrer jüngeren Vergangenheit bei der Umsetzung des EU-Digital Services Act (DSA). Dort hatte die Behörde bereits Aufsichtsaufgaben übernommen, war jedoch mehrfach in die Kritik geraten. Vor allem ihre Praxis bei der Zertifizierung sogenannter „Trusted Flaggers“, Hinweisgeber für vermeintlich problematische Online-Inhalte, die dabei häufig staatlich geförderte Meldestellen waren, löste Kontroversen aus.

Insbesondere mangelnde Transparenz bei den Vergabeverfahren und ein mindestens ambivalentes Verhältnis zur Meinungsfreiheit prägten dabei das Auftreten der Behörde, die auch unter der neuen Bundesregierung weiterhin für die „Trusted Flagger“-Zertifizierung zuständig ist (Apollo News berichtete).

Mit dem EU-KI-Gesetz kommt nun eine weitere Mammutaufgabe auf die Behörde zu. Es soll sicherstellen, dass KI-Systeme mit hohem Risiko – etwa im Gesundheitswesen, in der Arbeitswelt oder bei Sicherheitsbehörden – strengen Anforderungen unterliegen. Ziel sei es, Innovationen zu ermöglichen, ohne zugleich Risiken für Grundrechte und Sicherheit zu vernachlässigen.

Der Gesetzentwurf sieht vor, dass die BNetzA in ihrer neuen Rolle eng mit europäischen Institutionen zusammenarbeitet. Sie soll zudem Anlaufstelle für Beschwerden und Prüfungen werden. Für die Wirtschaft bedeutet dies: Wer KI-Systeme in Deutschland auf den Markt bringt, muss künftig mit der Bonner Behörde des Habeck-Vertrauten Müller rechnen.