Kommission legt EU-Aktionsplan für Cybersicherheit und künstliche Intelligenz vor

Die Europäische Kommission hat einen Aktionsplan für eine strukturierte Reaktion vorgelegt, um den Risiken zu begegnen und die Chancen fortgeschrittener Modelle der künstlichen Intelligenz (KI) für die Cybersicherheit zu nutzen. Aufbauend auf dem EU-Rechtsrahmen für KI und Cybersicherheit soll der Aktionsplan die Mitgliedstaaten, die Industrie und Organisationen auf EU-Ebene an einen Tisch bringen, um die Cybersicherheit der digitalen Landschaft angesichts der Schwachstellen, die infolge fortgeschrittener KI sichtbar werden, zu stärken.

Bewertung von KI-Modellen

Eine wirksame Sicherheit erfordert ein gründliches Verständnis dessen, wie neue Technologien eingesetzt, missbraucht und ausgenutzt werden können. Nach der KI-Verordnung müssen fortgeschrittene KI-Modelle bewertet und Risikominderungsmaßnahmen sorgfältig geprüft werden, bevor die Modelle in der EU in Verkehr gebracht werden dürfen.

Um heimische Sachkenntnis zu fördern, wird die Kommission eine gezielte Aufforderung zur Einreichung von Vorschlägen zur Einrichtung einer EU-Evaluierungskapazität für Cybersicherheit veröffentlichen, die voraussichtlich 2027 einsatzbereit sein wird. Diese neue Kapazität wird zur Regulierungsfunktion des KI-Büros beitragen und die Bewertung der KI-Fähigkeiten und -Risiken durch Dritte weltweit stärken.

Zugang zu fortgeschrittenen KI-Modellen

Europa braucht außerdem klare und transparente Bedingungen für den Zugang zu den fortgeschrittensten KI-Systemen. Die Kommission wird mit der Agentur der Europäischen Union für Cybersicherheit (ENISA) zusammenarbeiten, um einen europäischen Konzeptentwurf für den strukturierten Zugang zu fortgeschrittenen KI-Fähigkeiten für die Cybersicherheit festzulegen. Diese Anleitung wird einschlägigen europäischen öffentlichen und privaten Organisationen dabei helfen, Zugang zu fortgeschrittenen KI-Modellen zu erhalten.

Testen von KI für Cybersicherheit

Die ENISA und die Gemeinsame Forschungsstelle der Kommission werden eine sichere Plattform für das Testen von KI für die Cybersicherheit aufbauen, auch mit simulierten Umgebungen. Dadurch werden die Akteure in kritischen Sektoren wie Finanzwesen, Energie, Gesundheit, Verkehr und öffentliche Verwaltung wichtige Kenntnisse über die sichere Nutzung von KI erlangen.

Stärkung der Cybersicherheit der EU und Beseitigung von Schwachstellen

Die EU muss ihre kritischen Infrastrukturen vor Schwachstellen schützen, die sich aus dem potenziellen Missbrauch dieser Technologien ergeben. Wie in den Cybersicherheitsvorschriften der EU vorgesehen, sollten alle Organisationen ihre Cyberhygienepraktiken, ihre Risikomanagementmaßnahmen und die Grundsätze der Sicherheit durch Technikgestaltung verstärkt anwenden. Organisationen sollten damit beginnen, bereits vorhandene KI-Fähigkeiten, auch in Form quelloffener Modelle, zu nutzen, um Schwachstellen schneller zu erkennen und zu beheben sowie Cyberangriffe zu verhindern und darauf zu reagieren.

Zur Unterstützung der Organisationen bei diesem Übergang wird die ENISA Partnerschaften zwischen Behörden, Unternehmen und Open-Source-Gemeinschaften im Cyberökosystem fördern und erleichtern. Dazu gehören Anleitungen, Empfehlungen und bewährte Verfahren sowie eine Kampagne zur Beschaffung kritischer quelloffener Software.

Ausbau der europäischen KI-Fähigkeiten im Cyberbereich

Um das Wachstum des europäischen Marktes zu fördern, wird die Kommission die Große Herausforderung der EU für „KI für Cybersicherheit“ auf den Weg bringen. Diese Ausschreibung wird Unternehmen, Forschende und Organisationen zusammenbringen, damit sie KI-Lösungen für die Cybersicherheit entwickeln.

Zudem muss die EU weiterhin in die Entwicklung ihrer eigenen souveränen fortgeschrittenen KI-Fähigkeiten investieren und kann sich dabei auf die von den KI-Fabriken und künftigen Gigafabriken bereitgestellte Infrastruktur stützen. In diesem Zusammenhang könnte die im Paket zur technologischen Souveränität angekündigte künftige europäische Technologie-Eigenkapitalkapazität private Investitionen mobilisieren, um heimische KI-Kapazitäten auszubauen.

Hintergrund

Die EU verfügt über einen geeigneten Rechtsrahmen, mit dem sie Fragen der Cybersicherheit im Zeitalter neu entstehender Technologien wie KI gut angehen kann. Nach der KI-Verordnung müssen die von KI-Modellen ausgehenden Risiken bewertet und gemindert werden. Diese Anforderungen werden im Praxisleitfaden für KI mit allgemeinem Verwendungszweck weiter präzisiert, um den Anbietern fortgeschrittener Modelle die Einhaltung der Vorschriften zu erleichtern. Diese Bestimmungen werden ab dem 2.8.2026 durchgesetzt.

Die Cyberresilienzverordnung, die Ende 2027 in Kraft treten soll, schreibt die Sicherheit durch Technikgestaltung für alle Hardware- und Softwareprodukte vor. Zusammen mit der Verordnung über die digitale operationale Resilienz für den Finanzsektor (DORA) zielt die Richtlinie über die Sicherheit von Netz- und Informationssystemen (NIS-2-Richtlinie) darauf ab, die Sicherheit kritischer Sektoren wie Verkehr und Energie zu erhöhen. Mit der Cybersolidaritätsverordnung werden die Kapazitäten in der EU zur Erkennung von, Vorsorge für und Bewältigung von schwerwiegenden Cybersicherheitsbedrohungen und -angriffen sowie solchen großen Ausmaßes gestärkt.

Weitere Informationen

EU-Aktionsplan für Cybersicherheit und künstliche Intelligenz

Mehr zum Thema:

Beratermodul IT-Recht
Otto Schmidt Answers ist in diesem Modul mit 5 Prompts am Tag enthalten! Nutzen Sie die Inhalte in diesem Modul direkt mit der KI von Otto Schmidt. Start-Abo: 3 Monate nutzen, nur 2 Monate zahlen! Komfortabel, vergünstigt, flexibel.