IT-Verträge

Gesetz über Künstliche Intelligenz (AI Act)

Am 8.12.2023 haben das Europäische Parlament und der Rat der Europäischen Union eine politische Einigung über den AI Act (KI-Gesetz) erzielt. Die Europäische Kommission begrüßte die Einigung, sodass die Trilog-Verhandlungen abgeschlossen sind. Die Verordnung muss von beiden Organen (Parlament und Rat) noch förmlich verabschiedet werden und soll voraussichtlich im Laufe des Frühjahrs 2024 in Kraft treten. Zur Anwendung kommen werden die meisten Regelungen zwei Jahre nach dem Inkrafttreten, während Verbote bereits nach sechs Monaten und die Regelungen zu Transparenz und Governance nach zwölf Monaten Anwendung finden sollen.

Verfahrensstand-Anzeiger

Hinweis: Materialien zu diesem Gesetzgebungsvorhaben können am Ende dieser Seite abgerufen werden.

Die neuen Vorschriften folgen einem risikobasierten Ansatz und unterteilen KI-Systeme in drei Kategorien: Anwendungen mit einem geringen Risiko (bspw. KI-gestützte Empfehlungssysteme und Spamfilter) müssen keine Verpflichtungen erfüllen; hierunter fallen die meisten aktuellen Anwendungen. Für die sogenannten "Hochrisiko-KI-Systeme" (bspw. auch Kritische Infrastruktur und Systeme zur Emotionserkennung) gelten strenge Anforderungen im Hinblick auf verschiedene Bereiche wie den Datenschutz und die Datensicherheit. Anwendungen mit einem unannehmbaren Risiko für die Grundrechte der Menschen (bspw. KI-Systeme, die menschliches Verhalten manipulieren, um den freien Willen der Nutzer zu umgehen, und Social Scoring) werden verboten.

Zudem werden besondere Transparenzverpflichtungen eingeführt. KI-generierte Inhalte (bspw. Deepfakes) müssen als solche gekennzeichnet werden. Besondere Vorschriften gelten auch für KI-Modelle mit einem allgemeinen Verwendungszweck. Ein Europäisches Amt für Künstliche Intelligenz (AI Office) soll geschaffen werden, um die Koordinierung der nationalen Marktüberwachungsbehörden durchzuführen.

Den Kernbegriff des "KI-Systems" erläutert Georg Borges in seinem Aufsatz "Der Begriff des KI-Systems" (CR 2023, 706).

Text der Vorversion(en):

Am 14.11.2023 und 27.11.2023 hat der Digitalausschuss des Deutschen Bundestags die Empfehlung zur Ablehnung von zwei Anträgen (Die Linke und CDU/CSU) veröffentlicht.

____________

Am 4.7.2023 wurde ein Antrag der CDU/CSU-Bundestagsfraktion veröffentlicht (Ds. 20/7583), der die Bundesregierung dazu auffordert, auf die Beseitigung von Unklarheiten im Gesetz über Künstliche Intelligenz hinzuwirken.

____________

Am 14.6.2023 hat das Europäische Parlament seinen Standpunkt zum Gesetz über Künstliche Intelligenz beschlossen. Es folgen Trilog-Verhandlungen mit dem Rat der Europäischen Union und der Europäischen Kommission.

____________

Am 6.12.2022 hat der Rat der Europäischen Union seinen Standpunkt zum Gesetz über Künstliche Intelligenz beschlossen (5. Kompromisstext). Sobald auch das Europäische Parlament seinen Standpunkt beschließt, können Trilog-Verhandlungen aufgenommen werden. Siehe dazu auch die Meldung "Gesetz über künstliche Intelligenz: Rat will sichere und die Grundrechte wahrende KI fördern".

____________

Die Europäische Kommission hat am 22.12.2021 eine Stellungnahme zum Beschluss des Bundesrates abgegeben und darin begrüßt, dass der Vorschlag für einen ersten horizontalen Rechtsrahmen für künstliche Intelligenz und dessen risikobasierten Ansatz unterstützt wird.

____________

Der Wissenschaftliche Dienst des Europäischen Parlaments (EPRS) hat im November 2021 ein Briefing zum Artificial Intelligence Act (Gesetz über künstliche Intelligenz) für das Europäische Parlament veröffentlicht.

Darin empfiehlt der EPRS ausdrücklich den Artikel "Demystifying the Draft EU Artificial Intelligence Act" von Michael Veale und Frederik Zuiderveen Borgesius, veröffentlicht in Ausgabe 4/2021 der Computer Law Review International (CRi 2021, S. 97-112).

____________

Am 6.9.2021 haben mehrere Ausschüsse des Bundesrates eine gemeinsame Beschlussempfehlung veröffentlicht. Daraufhin hat der Bundesrat am 17.9.2021 seine Stellungnahme zum Verordnungsvorschlag eines Gesetzes über künstliche Intelligenz beschlossen.

____________

Am 21.4.2021 hat die Europäische Kommission einen Vorschlag für eine "Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz / Artificial Intelligence Act) und zur Änderung bestimmter Rechtsakte der Union" vorgelegt.

Gleichzeitig wurde eine "Verordnung über Maschinenprodukte" vorgeschlagen. Zu den Vorschlägen siehe auch den Newsbeitrag vom 21.4.2021.

Autor: Martin Neu, LL.M. (Exeter)