Neue EU-Verordnung: KI-Betreiber müssen Daten liefern, um „Desinformation“ zu verhindern

Die Europäische Kommission ist der Ansicht, dass Künstliche Intelligenz „systemische Risiken bergen“ könne. Es wird befürchtet, dass eine KI Desinformationen und „hasserfüllte“ Inhalte verbreiten könnte. Außerdem könnte von KIs eine Gefahr „für demokratische Werte und Menschenrechte“ ausgehen und Diskriminierung ausgeübt werden. Um dieser vermeintlichen Gefahr entgegenzuwirken, hat die Kommission zusammen mit dem EU-Parlament und dem EU-Rat die „Verordnung über Künstliche Intelligenz“ erlassen.

Die Vorschriften der Verordnung müssen ab dem 2. August 2026 in allen Mitgliedstaaten der Europäischen Union umgesetzt werden. Die „systemischen Risiken“ würden laut der EU vor allem von KI-Modellen mit „allgemeinem Verwendungszweck“ ausgehen. Als KI-Modell „mit allgemeinem Verwendungszweck“ gelten Anwendungen, die zahlreiche Aufgaben ausführen und Bilder, Videos sowie Texte erstellen können.

Um die praktische Umsetzung der Verordnung zu erleichtern, hat die Kommission am Donnerstag einen Leitfaden erlassen. Dieser soll am 2. August in Kraft treten und es den betroffenen Firmen ermöglichen, die Vorgaben der EU-Verordnung schon freiwillig vor deren Inkrafttreten zu befolgen.

Von der Verordnung sind sowohl die Entwickler der KI betroffen als auch andere Unternehmen – wie zum Beispiel Banken, heißt es in einem Beispiel der EU –, die die KI in ihrem Arbeitsalltag anwenden. Systemische Risiken beeinflussen laut der EU den Markt und werden umso größer, je mehr Reichweite die KI-Anwendung hat. Der Leitfaden zur praktischen Umsetzung besteht aus drei Kapiteln und befasst sich mit den Themen Transparenz, Urheberrecht und Sicherheit.

Zum Punkt Transparenz heißt es, dass Informationen dazu, wie die KI betrieben wird, für zehn Jahre gespeichert und auf Nachfrage der EU-KI-Behörde und nationalen Behörden zur Verfügung gestellt werden müssen. Die Unternehmen müssen Informationen bereitstellen, wie die Künstlichen Intelligenzen trainiert und getestet werden. Der Leitfaden kann von den betroffenen Firmen freiwillig unterzeichnet werden. Durch dessen Befolgung können sie nachweisen, dass sie sich an die Vorgaben der KI-Verordnung halten.

Im Abschnitt zur Sicherheit heißt es, dass Firmen, die eine allgemein zugängliche KI betreiben, die zu „systemischen Risiken“ führen könnte, verpflichtet sind, diese Risiken dauerhaft zu minimieren. Solange das Modell verwendet wird, sind die Hersteller verpflichtet, immer wieder Aktualisierungen durchzuführen, um die Risiken zu verringern. Der Detailaufwand der Dokumentation soll „in einem angemessenen Verhältnis zu den systemischen Risiken“ stehen. Um Risiken zu minimieren, können auch Gespräche mit „Laienvertretern der Zivilgesellschaft“ möglich sein, wie es im Leitfaden heißt.

Die EU-KI-Verordnung gilt für öffentliche und private Betreiber, die ihre Produkte innerhalb der Union vertreiben oder deren „Verwendung Auswirkungen auf Menschen in der EU hat“, wie die Kommission am 1. August 2024 in einer Pressemitteilung schrieb. Auswirkungen auf die Menschen in der EU könnte jede KI haben. Künstliche Intelligenz müsse eingeschränkt werden, um „die Demokratie, die Rechtsstaatlichkeit und die Umwelt“ zu schützen.

Wenn die betroffenen Firmen, die KI mit „systemischen Risiken“ verwenden, sich nicht an die Vorgaben des Leitfadens und der Verordnung halten, drohen Millionstrafen. So müsste eine Firma bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Vorjahresumsatzes zahlen, wenn durch die KI „verbotene Praktiken“ betrieben werden, wenn Personen so manipuliert werden, dass sie „eine Entscheidung zu treffen, die sie andernfalls nicht getroffen hätten, und zwar in einer Weise, die dieser Person, einer anderen Person oder einer Gruppe von Personen erheblichen Schaden zufügt“.

Auch die Erfassung biometrischer Daten oder die Bewertung des Verhaltens einer Person mit dem Ziel, herauszufinden, ob sie ein Verbrechen begehen wird, ist strafbar und könnte zu einer Geldstrafe führen. Trotzdem stellt die EU-Verordnung und der Leitfaden zur praktischen Umsetzung insgesamt eine erneute Einschränkung durch die Europäische Union dar, unter der Maßgabe, Hass und Desinformationen verhindern zu wollen. Jedoch ist fraglich, wie die Europäische Union die Einschränkung der KI in der Praxis gestalten wird und wer weswegen mit Geldstrafen belegt werden wird.