Aktuell in der CR

Die Vorschläge der EU-Kommission zu einer neuen Produkthaftung und zur Haftung von Herstellern und Betreibern Künstlicher Intelligenz (Spindler, CR 2022, 689)

Mit den Vorschlägen für eine Reform der Produkthaftungs-Richtlinie und einer neuen KI-Haftungs-Richtlinie betritt die EU-Kommission Neuland. Denn sie gibt einen alten Grundsatz auf, der Software nur in verkörperter Form in Produkten akzeptierte, und regelt nunmehr auch Software als stand-alone-Produkt, z.B. cloudbasiert. Darüber hinaus erstreckt der Vorschlag die Produkthaftung auch auf verbundenen IT-Dienste und bringt weitere zahlreiche Neuerungen, bis hin zu einer Offenlegungspflicht von Informationen und Tatsachen. Beide Vorschläge, die geeignet sind, die IT-Haftung zu revolutionieren, werden im Beitrag näher beleuchtet.

Die haftungsrechtliche Einordnung von Software als Produkt nach Unionsrecht – endlich

INHALTSVERZEICHNIS:

I. Einleitung

II. Reform der Produkthaftungs-RL

1. Die Neufassung des Produktbegriffs

a) Software als Produkt

b) Erstreckung auf Daten und Dienste

c) Ausnahme für Open Source Software

2. Geschützte Rechtsgüter erweitert auf Datenverluste und -korrumpierung

3. Fehlerbegriff bzw. Sicherheitserwartungen

a) Grundsätze

b) Selbstlernende (KI-) Systeme

c) Zusammenspiel mit anderen Komponenten

d) Cybersicherheit und Produktsicherheit

e) Entwicklungsfehler

f) Updates und Upgrades, maschinelles Lernen

4. Haftungsadressaten

a) Hersteller, insbesondere Softwareentwickler

b) Zulieferer, insbesondere Diensteanbieter

c) Ausdehnung des Importeurbegriffs auf „fulfilment providers“

d) Online-Plattformen

e) Keine Ausnahme für KMUs

f) Modifizierung von Produkten, insbesondere von Recyling-Produkten

5. Haftungsausnahmen

6. Offenlegungspflichten sowie Darlegungs- und Beweislast

a) Offenlegungspflichten

b) Beweiserleichterungen, insbesondere widerlegbare Vermutungen

7. Gesamtschuldnerische Haftung

8. Keine Beschränkung auf Haftungshöchstsummen mehr

9. Verjährung

10. Verhältns ProdHaft-RL-E zur Haftung von Internet-Intermediären

III. Der KI-Haftungs-RL-Vorschlag

1. Überblick

2. Anwendungsbereich

a) Definition der KI

b) Beschränkung auf nicht-vertragliche verschuldensabhängige Haftungstatbestände

c) Ausgenommene Bereiche

d) Keine Einschränkung auf bestimmte Rechtsgüter oder bestimmte Geschädigte

e) Nur Mindest-Harmonisierung

3. Offenlegung von Beweismitteln

a) Offenlegung von Informationen über hochriskante KI-Systeme

b) Vermutung der Nichteinhaltung von Pflichten

4. Vermutung der Kausalität

a) Grundlegende widerlegliche Vermutung der Kausalität

b) Kausalitätsvermutung gegenüber Betreibern hochriskanter KI-Systeme

c) Kausalitätsvermutung bei Nutzern hochriskanter-KI-Systeme

d) Nicht professionelle Nutzer von KI-Systemen

e) Kausalitätsvermutung für nicht hoch-riskante KI-Systeme

5. Kollektive Rechtsdurchsetzung

6. Evaluation des KI-Haftungs-RL-E

IV. Verhältnis des KI-Haftungs-RL-E zum ProdHaft-RL-E

V. Fazit

Leseprobe:

"I. Einleitung

Die Fragen der Künstlichen Intelligenz beschäftigen seit mehreren Jahren Juristen in aller Welt. So liegen auch Berichte von Expertengruppen bei der EU-Kommission zu künstlicher Intelligenz vor, die ausführlich Stellung zu den verschiedenen ethischen und rechtlichen Fragen nehmen.¹Auch der Deutsche Juristentag hat sich des Themas angenommen, für den Zech ein detailreiches Gutachten zu den damit verbundenen Haftungsfragen ausgearbeitet hat.²Im Kern kreist die Diskussion um die schon im geltenden außervertraglichen (deliktischen) Haftungsrecht bestehenden Möglichkeiten, die spezifischen Fragen der autonomen Systeme zu bewältigen, sowie rechtspolitische Desiderata, ob und wie bestehende Lücken gefüllt werden sollten. Die rechtspolitische Diskussion auf nationaler Ebene ist nunmehr auf der europäischen Ebene eingeholt werden: Nachdem bereits das EU-Parlament einen ausformulierten Vorschlag zur Haftung unterbreitet hatte,³legt nunmehr die EU-Kommission im Anschluss an den Vorschlag zur produktsicherheitsrechtlichen Regulierung von KI (KI-VO-E)⁴eine Richtlinie zur Ausgestaltung der Haftung für KI-Systeme (KI-Haftungs-RL-E)⁵einschließlich einer Reform der Produkthaftungs-Richtlinie (ProdHaft-RL-E) vor.⁶Fast zeitgleich hat die EU-Kommission einen Vorschlag einer neuen horizontalen Verordnung zur Cyberresilience von IT-Produkten veröffentlicht, der die Produktsicherheitsvorschriften erheblich erweitert – der hier nicht in extenso behandelt werden kann, aber auch Auswirkungen auf die Haftung haben wird.⁷

Um es vorweg zu nehmen: Weniger der Vorschlag der KI-Haftungs-RL als vielmehr die vorgeschlagenen Neuerungen in der Produkthaftungs-RL lassen aufhorchen. Denn der Vorschlag der ProdHaft-RL-E sieht nichts weniger vor als die Gleichstellung von Software und sogar verbundenen Diensten mit dem Produktbegriff, was einer kleinen Revolution gleichkommt und zudem auch dem Vorschlag des CRA-E entspricht. Demgegenüber verzichtet der KI-Haftungs-RL-E darauf, die Vorschläge des EU-Parlaments zur Einführung einer Gefährdungshaftung⁸zu übernehmen, indem der KI-Haftungs-RL-E sich im wesentlichen darauf beschränkt, die Informationsasymmetrien zugunsten des Geschädigten zu beheben.

II. Reform der Produkthaftungs-RL

Der Vorschlag des ProdHaft-RL-E zielt vor allem auf den Gleichlauf mit den Reformen in der Produktsicherheit entsprechend der Entscheidung und den Definitionen in Decision 768/2008/EC⁹ab, aber auch auf die Einbeziehung von IT-Produkten bzw. Software einschließlich KI-Systemen und verbundener Dienste bis hin zur Erweiterung der geschützten Rechtsgüter um Daten. Der ProdHaft-RL-E führt zudem erhebliche Beweiserleichterungen und die Ausdehnung der Verantwortlichen bzw. Haftungsadressaten ein.

1. Die Neufassung des Produktbegriffs

a) Software als Produkt

Eine der längst überfälligen Reformen des ProdHaft-RL-E betrifft die Aufnahme von Software als Produkt – und zwar im Gegensatz zum früheren Recht unabhängig davon, ob die Software in einem anderen Produkt verkörpert („embedded“) ist oder nicht.¹⁰Dies bringt ErwGr 12 ProdHaft-RL-E mehr als deutlich zum Ausdruck, indem die EU-Kommission darauf hinweist, dass Software auch cloudgestützt Produkte steuern kann, und schlägt sich auch in der Definition des Produktes in Art. 4 Ziff. 1 ProdHaft-RL-E nieder.¹¹Der Vorschlag geht sogar einen Schritt weiter und fasst auch „digital manufacturing files“ unter den Begriff des Produktes, Art. 4 Abs. 2 Ziff. 1 ProdHaft-RL-E, womit vor allem (aber nicht ausschließlich, ErwGr 14 ProdHaft-RL-E) 3D-Datenfiles zur Herstellung von Produkten in 3D-Druckern gemeint sind, wie Art. 4 Ziff. 2 ProdHaft-RL-E festhält („digital template of a movable“).¹²

Andererseits will die EU-Kommission den reinen Source Code nicht unter den Produktbegriff fassen, da dieser nur Information darstelle, ErwGr 12 S. 3 ProdHaft-RL-E; damit unterstellt der ProdHaft-RL-E dem Softwarebegriff nur eine maschinenausführbare Codierung und weicht insoweit interessanterweise von Art. 1 Abs. 1 und Abs. 2 sowie ErwGr. 7 S. 2 der Software-RL¹³im Urheberrecht ab.¹⁴Weitere Details findet man dagegen in der ProdHaft-RL-E nicht, etwa zur Behandlung von Programmbibliotheken, die selbst nicht unmittelbar steuernd wirken, aber wichtige Bestandteile eines Codes sein können; hält man sich das Ziel der EU-Kommission vor Augen, dass steuernde Software erfasst werden soll, wird man auch solche Teile eines Codes als Produkt auffassen müssen.

Konsequenterweise sieht ErwGr 12 S. 4 ProdHaft-RL-E dann die Entwickler oder Produzenten von Software einschließlich der Betreiber von KI-Systemen als Hersteller im Sinne des ProdHaft-RL-E.

b) Erstreckung auf Daten und Dienste

Fast schon revolutionär mutet die implizit in Art. 4 Ziff. 3, Ziff. 4 ProdHaft-RL-E enthaltene Erstreckung der Haftung auf …"

Hier direkt weiterlesen im juris PartnerModul IT-Recht

Verlag Dr. Otto Schmidt vom 10.11.2022 10:25

zurück zur vorherigen Seite