KI: Eine unlösbare Aufgabe für das Haftungsrecht?

KI: Eine unlösbare Aufgabe für das Haftungsrecht?

Bild: Noerr LLP

Der Einsatz künstlicher Intelligenz (KI) in allen Lebensbereichen ist seit geraumer Zeit ein großes Thema und inzwischen auch bei den Juristen angekommen. Es gilt, sich mit solch kniffeligen Fragen auseinanderzusetzen wie: „Wer haftet, wenn KI in der Produktionsanlage den Roboterarm ausscheren lässt und dabei ein Mitarbeiter verletzt wird?“


Schon eine Definition des Begriffs KI ist nicht so ganz einfach. Die von der Europäischen Kommission einberufene Artificial Intelligence High-Level Expert Group hat ein neunseitiges (!) Dokument mit dem Versuch einer Definition veröffentlicht. Im Kern wird darauf abgestellt, dass KI die eigene Umgebung analysiert und daraus – mit einem gewissen Maß an Autonomie – selbst Handlungen ableitet. Gerade das Maß der Autonomie bereitet den Juristen Schwierigkeiten. Das existierende Haftungsrecht benötigt nämlich immer eine menschliche Handlung als Anknüpfungspunkt; eine Handlung, die auf eine willentliche Entscheidung zurückführbar ist. Nur dann kann die haftungsrechtlich relevante Frage gestellt und beantwortet werden, ob in der menschlichen Willensbildung ein rechtswidriges und zugleich vorwerfbares Verhalten zu sehen ist. Der Jurist nennt dies eine vorsätzliche oder fahrlässige Pflichtverletzung. Zu einem qualitativen Sprung in der rechtlichen Wertung kommt es daher in dem Moment, in dem ein Programm aufgrund der Auswertung seiner Umgebung selbst den eigenen Algorithmus verändern kann. Damit reduziert sich zum einen die Vorhersehbarkeit, zum anderen aber auch die Rechtfertigung der Anknüpfung eines Fehlers an ein menschliches Verhalten.

Der juristische Diskurs ist breit. Es wird die Frage aufgeworfen, ob immer noch danach bewertet werden kann, ob der Programmierer jedenfalls alles Erforderliche getan hat, um sicherzustellen, dass sich der Algorithmus nicht in eine gefährliche Richtung weiterentwickelt. Oder sollte vielleicht jeder Einsatz von KI wegen der mangelnden Beherrschbarkeit und Abschätzbarkeit des Autonomierisikos als pflichtwidrig eingestuft werden, solange die Rahmenbedingungen nicht rechtlich festgelegt sind? Diskutiert wird auch die Übertragung bereits entwickelter Zurechnungsgrundsätze, wie z.B. die Haftung des Unternehmers für seine Verrichtungsgehilfen. Der Jurist stößt in diesem Zusammenhang auf ein dogmatisches Problem, da der Verrichtungsgehilfe aufgrund seiner menschlichen Willensfreiheit handelt. Diese Willensfreiheit hat eine KI nicht. Daher wird z.T. die Etablierung eines ganz eigenen Haftungsregimes angeregt oder auch eine Lösung der Haftungsfragen allein über die Definition von Risikosphären. Denn hinter der Maschine steht ja stets eine menschliche Einheit von Entwickler, Hersteller und Betreiber. Es erscheint möglich, dieser Einheit als eine Art Geflecht von Mitverursachern das Risiko des Fehlverhaltens in Form der Gefährdungshaftung zuzurechnen.

Eine wiederum andere juristische Strömung untersucht, ob als juristische Konsequenz der möglichen Entstehung eines Selbstbewusstseins der KI eine entsprechende Rechtspersönlichkeit geschaffen werden müsste. Es gäbe dann zwar formell ein Haftungssubjekt, aber eine Verteilung der finanziellen Haftungsrisiken ginge damit nicht einher. Die Europäische Kommission hat eine Expertengruppe eingesetzt, um Auslegungshilfen im Hinblick auf die rechtliche Handhabung von Haftungsfragen beim Einsatz von KI auf Grund der aktuellen Gesetzeslage zu erarbeiten. Leitlinien dieser Expertengruppe waren für Mitte Mai 2019 angekündigt. Sie sind allerdings bisher noch nicht veröffentlicht. Auch das zeigt, dass die haftungsrechtliche Erfassung des Einsatzes von KI durchaus eine Herausforderung für unser Rechtssystem ist.

Hiermit verbleibe ich hochachtungsvoll

Ihre Susanne Wende

www.noerr.com

Susanne Wende berät Hersteller im Hinblick auf alle Fragen rund um Product Compliance und Produkthaftung beim Vertrieb in Europa.

Noerr LLP
www.noerr.com

Das könnte Sie auch Interessieren

Anzeige

Anzeige

Bild: ©NicoElNino/stock.adobe.com
Bild: ©NicoElNino/stock.adobe.com
Strukturierter Beratungsansatz für KI-Einsatzbereiche im Unternehmen

Strukturierter Beratungsansatz für KI-Einsatzbereiche im Unternehmen

„Künstliche Intelligenz ist eine, wenn nicht die wichtigste Zukunftstechnologie für Unternehmen.“ Diese Aussage bejahen 70 Prozent der Befragten der jüngsten Bitkom-Studie zu KI. Aber nur 10 Prozent aller Unternehmen haben KI-Technologie aktiv im Einsatz, lediglich 30 Prozent planen und diskutieren deren Anwendung. Was ist der Grund für diese große Diskrepanz?

Bild: Blue Yonder, Inc.
Bild: Blue Yonder, Inc.
Künstliche Intelligenz – mehr als eine Wissenschaft

Künstliche Intelligenz – mehr als eine Wissenschaft

Data Science ist mittlerweile ein fester Bestandteil der strategischen Planung in vielen Unternehmen. Um künftige Entwicklungen realistisch zu planen, brauchen wir Künstliche Intelligenz (KI) und Maschinelles Lernen (ML). Insbesondere im Einzelhandel vertrauen immer mehr große Player auf KI-Lösungen, die präzise Prognosen ermöglichen und zum Beispiel Bestände oder Preise optimieren. Doch viele Entscheidungsträger glauben noch nicht daran, dass KI in den Lieferketten der Zukunft eine tragende Rolle spielen wird. Der Grund hierfür liegt in einer falschen Sicht auf die Wissenschaft.

Bild: ©Stock57/stock.adobe.com
Bild: ©Stock57/stock.adobe.com
KI-Verfahren für die Produktion

KI-Verfahren für die Produktion

Mathematiker der Hochschule Darmstadt (h_da) entwickeln gemeinsam mit dem Hanauer Simulationsdienstleister und Softwareunternehmen SimPlan und dem Automationsexperten Fibro Läpple Technology neue KI-Technologien. Im Rahmen des Loewe-Projekts ‚KISPo‘ will das Konsortium eine autonome, selbstlernende Steuerungssoftware für Produktionsanlagen entwickeln, wie sie z.B. bei der Herstellung von Komponenten für Windräder oder Elektromotoren zum Einsatz kommen. Es wäre die erste KI-Software dieser Art. Damit würde eine von Industrieverbänden und Forschung lange bemängelte Technologielücke geschlossen. Das Land Hessen fördert das Projekt für zwei Jahre mit 320.000 Euro. Konsortialführerin ist die Hochschule Darmstadt.

Bild: ©NicoElNino/stock.adobe.com
Bild: ©NicoElNino/stock.adobe.com
Chancen und Herausforderungen von Machine Learning in der Fertigung

Chancen und Herausforderungen von Machine Learning in der Fertigung

Automatisierung, künstliche Intelligenz (KI), Internet of Things (IoT) und Machine Learning (ML) sind heutzutage bekannte Technologien und kommen bereits in vielen Unternehmen zum Einsatz. Mit Hilfe von Machine Learning wird es IT-Systemen ermöglicht, Muster und Zusammenhänge aus Daten zu lernen und sich selbst zu verbessern. Dabei ist keine explizite Programmierung notwendig. Die Bearbeitung von Kundenanfragen, die Erkennung möglicher Störfälle sowie unerwarteter Ereignisse wie z.B. Cyberangriffe sind klassische Anwendungsfelder von ML. Aber auch die Unterstützung bei einer rein datengestützten Entscheidungsfindung und die Interpretation großer Datenmengen gehören dazu.

Bild: ©Shuo/stock.adobe.com
Bild: ©Shuo/stock.adobe.com
Sensoren lernen das Denken

Sensoren lernen das Denken

Im Fraunhofer-Leitprojekt NeurOSmart forscht das Fraunhofer IPMS zusammen mit vier weiteren Instituten (ISIT, IMS, IWU, IAIS) unter Leitung des Fraunhofer ISIT gemeinsam an energieeffizienten und intelligenten Sensoren für die nächste Generation autonomer Systeme. Dabei sollen die Brücken zwischen Wahrnehmung und Informationsverarbeitung durch innovative Elektronik neu definiert werden.

Bild: ©ipopba/stock.adobe.com
Bild: ©ipopba/stock.adobe.com
Wie KI 2022 praktikabel wird

Wie KI 2022 praktikabel wird

Künstliche Intelligenz war bereits in der Vergangenheit in aller Munde, schaffte es aber doch oft nicht bis in die Anwendung. Das wird sich 2022 ändern – auch weil sich langsam Standards etablieren und sich neue, konkrete Einsatzmöglichkeiten ergeben. In welchen Bereichen Business-Implementierungen zu erwarten sind, erläutert Bernhard Niedermayer, Head of AI bei Cloudflight.

Anzeige

Anzeige

Anzeige