EU-Kommission beginnt mit der Durchsetzung der Vorschriften des KI-Gesetzes und neuer Transparenzanforderungen

Ab dem 2.8.2026 hat das Amt für künstliche Intelligenz der Europäischen Kommission zusammen mit den nationalen Behörden mit der Durchsetzung des Gesetzes über künstliche Intelligenz (KI) begonnen. Ab demselben Tag werden neue Transparenzvorschriften gelten, nach denen bestimmte KI-Systeme den Nutzern mitteilen müssen, wann sie mit KI interagieren und wann Inhalte durch sie generiert oder verändert wurden.

Nach den neuen Regeln müssen Chatbots und andere interaktive KI-Systeme den Nutzern mitteilen, dass sie es mit KI zu tun haben, nicht mit einem Menschen. Deepfakes (Bilder, Videos oder Audiodateien, die mithilfe von KI bearbeitet oder generiert wurden) müssen gekennzeichnet werden. KI-generierte oder veränderte Inhalte müssen auch maschinenlesbare Markierungen tragen, damit sie leichter erkannt werden können.

Die Maßnahmen sollen Täuschung und Manipulation reduzieren und den Menschen helfen, fundierte Entscheidungen zu treffen. Sie geben Unternehmen auch klarere Verpflichtungen und eine praktische Möglichkeit, die Einhaltung der Vorschriften nachzuweisen. Die Kommission hat heute eine erste Liste von mehr als 180 Organisationen veröffentlicht, die den Verhaltenskodex für die Transparenz von KI-generierten Inhalten unterzeichnet haben, mit dem die Vorschriften über die Transparenz von KI-generierten Inhalten operationalisiert werden.

Durchsetzung des KI-Gesetzes

Das Amt für künstliche Intelligenz kann nun die Vorschriften des KI-Gesetzes für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) durchsetzen. Diese Modelle können viele verschiedene Aufgaben erfüllen und in einer Vielzahl von Tools und Diensten, einschließlich KI-Agenten, verwendet werden.

Die Regeln decken auch die fortschrittlichsten GPAI-Modelle ab, die systemische Risiken darstellen können. Ihre Anbieter müssen zusätzliche Verpflichtungen erfüllen, um den Risiken großer Schäden wie Risiken im Zusammenhang mit chemischen, biologischen, radiologischen und nuklearen Vorfällen, Kontrollverlusten, Cyberdelikten, schädlichen Manipulationen und Bedrohungen der Grundrechte zu begegnen. Sie befassen sich auch mit Risiken, die in jüngster Zeit die Aufmerksamkeit der Öffentlichkeit auf sich gezogen haben, einschließlich Risiken für die europäische Cybersicherheit und für KI, die außerhalb menschlicher Kontrolle handeln.

Alle Anbieter von GPAI-Modellen müssen bestimmte Informationen dokumentieren und den zuständigen Behörden oder nachgeschalteten Anbietern zur Verfügung stellen. Sie müssen auch eine Urheberrechtspolitik einführen und eine hinreichend detaillierte Zusammenfassung der Inhalte veröffentlichen, die für die Schulung ihrer Modelle verwendet werden.

Die Durchsetzung beginnt auch bei Transparenzverpflichtungen und verbotenen KI-Praktiken. Diese verbieten besonders schädliche Systeme, einschließlich Systeme, die Menschen manipulieren, Schwachstellen auf schädliche Weise ausnutzen oder Menschen auf eine Weise unfair bewerten, die ihre Rechte bedroht.

Die Verantwortung für die Durchsetzung der Transparenzvorschriften und der verbotenen Praktiken wird von drei Stellen geteilt. Das Amt für künstliche Intelligenz setzt die Regeln für KI-Systeme durch, die vom gleichen Anbieter wie das zugrunde liegende KI-Modell mit allgemeinem Verwendungszweck angeboten werden. Sie umfasst auch Systeme, die in sehr große Online-Plattformen oder sehr große Online-Suchmaschinen integriert sind, die gemäß dem Gesetz über digitale Dienste benannt wurden.

Die zuständigen nationalen Behörden setzen die Vorschriften für andere KI-Systeme durch. Der Europäische Datenschutzbeauftragte setzt die Vorschriften für KI-Systeme durch, die von den Organen, Einrichtungen und sonstigen Stellen der Europäischen Union verwendet werden.

Eine wirksame Durchsetzung wird auch davon abhängen, ob die Mitgliedstaaten sicherstellen, dass die zuständigen nationalen Behörden ordnungsgemäß benannt und mit angemessenen Mitteln ausgestattet werden.

Wissenschaftliche Unterstützung

Das Amt für künstliche Intelligenz und die zuständigen nationalen Behörden werden bei ihrer Durchsetzungsarbeit vom Wissenschaftlichen Gremium unterstützt, einem Expertengremium, das sich aus 60 unabhängigen KI-Experten zusammensetzt. Das Gremium hat kürzlich seine erste Sitzung abgehalten.

Das AI Office hat auch Professor Alessandro Abate vom Department of Computer Science der Universität Oxford zum leitenden wissenschaftlichen Berater ernannt. Er wird die wissenschaftliche Arbeit des Amtes zu KI-Modellen mit allgemeinem Verwendungszweck unterstützen, einschließlich Innovation und Übernahme, sowie Modelltests und -bewertungen.

Überwachungsinstrumente

Um die Durchsetzung zu unterstützen, hat das Amt für künstliche Intelligenz mehrere Instrumente für Einzelpersonen und Unternehmen auf den Weg gebracht. Natürliche und juristische Personen können das Beschwerdetool nutzen, um mutmaßliche Verstöße gegen das KI-Gesetz durch Anbieter von KI-Systemen, die vom Amt für künstliche Intelligenz beaufsichtigt werden, zu melden. Personen, die mit Anbietern von KI-Systemen oder KI-Modellen mit allgemeinem Verwendungszweck zusammenarbeiten, können das Hinweisgeber-Tool verwenden, um mögliche Verstöße gegen das Gesetz sicher zu melden. Ein spezieller Kanal steht auch nachgelagerten Anbietern zur Verfügung, die KI-Systeme auf Modellen mit allgemeinem Verwendungszweck aufbauen und mutmaßliche Verstöße der Anbieter dieser Modelle melden möchten. Das Amt für künstliche Intelligenz wird die über diese Instrumente erhaltenen Informationen vertraulich behandeln.

Nächste Schritte

Der KI-Omnibus verschob die Anwendung der Vorschriften für Hochrisiko-KI-Systeme auf den 2.12.2027. Außerdem wurden die Vorschriften für Hochrisiko-KI-Systeme, die in regulierte Produkte integriert sind, auf den 2.8.2028 verschoben.

Der AI Omnibus führt neue Verbote für KI-Systeme ein, die nicht einvernehmliche sexuell explizite Inhalte und Material über sexuellen Kindesmissbrauch generieren. Diese Vorschriften gelten ab dem 2.12.2026.

Für weitere Informationen

Durchsetzung nach dem KI-Gesetz

AI Act Service Desk

Leitlinien zu verbotenen KI-Praktiken

Allgemeiner KI-Verhaltenskodex

Verhaltenskodex zur Transparenz von KI-generierten Inhalten

Mehr zum Thema:

Beratermodul IT-Recht
Otto Schmidt Answers ist in diesem Modul mit 5 Prompts am Tag enthalten! Nutzen Sie die Inhalte in diesem Modul direkt mit der KI von Otto Schmidt. Start-Abo: 3 Monate nutzen, nur 2 Monate zahlen! Komfortabel, vergünstigt, flexibel.