Mängelrechte bei KI-Systemen

Fehler im System

Bei physischen Produkten sind Mängel in der Regel schnell festzustellen, oft reicht schon ein Blick. Anders sieht es bei KI-Systemen aus. Wie bei diesen Systemen ein Mangel aussehen kann und wie Unternehmen möglichen Mängeln vorbeugen können, berichtet Rechtsanwalt Kay Diedrich.
Bild: ©Sarah Holmlund/stock.adobe.com

Es liegt in der Natur eines KI-Systems, sich auch beim Nutzer noch weiter zu entwickeln. Die Aufgabe von künstlicher Intelligenz besteht schließlich darin, durch Analyse zu lernen und besser zu werden. Damit stellen sich auch neue Rechtsfragen, beispielsweise wann etwas fehlerhaft ist, das dazu gedacht ist, aus seinen Fehlern zu lernen oder nach welchen Kriterien sich Mängel eines KI-Systems bestimmen und vermeiden lassen – mit den üblichen Folgen wie Rücktritt, Minderung, Schadensersatz.

Verkauf oder Mietmodell

Von der Art der Überlassung eines KI-Systems an den Abnehmer hängt die Kategorie der anzuwendenden Regeln ab: Für die verschiedenen Vertragstypen gelten jeweils spezifische Regeln bei Mängeln. Für vermarktete KI-Systeme ist regelmäßig an Kauf, Miete, Dienst- oder Werkvertrag zu denken. Oft enthält der Vertrag auch eine Mischung dieser Vertragstypen. Entscheidend für die Anwendbarkeit eines bestimmten Vertragstyps ist nicht, welche Überschriften oder Begriffe im Vertrag genannt werden, sondern welche Rechte und Pflichten die Vertragsparteien bei vernünftiger Auslegung mit dem Vertrag bewirken wollten. Ist das KI-System beispielsweise Teil einer zeitweise über ein Datennetzwerk nutzbaren Software (Software as a Service, SaaS), gelten mietvertragliche Regeln. Häufig werden KI-Systeme auch gegen einmalige Vergütung unbefristet überlassen, wodurch Kaufrecht gilt.

Die Sollbeschaffenheit

Wann aber ist ein verkauftes KI-System mangelhaft? Im Grundkonzept muss das dem Käufer überlassene System dem verkauften System entsprechen (Sollbeschaffenheit). Entscheidender Zeitpunkt ist der Gefahrübergang und damit in aller Regel die Überlassung des KI-Systems an den Käufer. Die Sollbeschaffenheit ergibt sich insbesondere aus den Vereinbarungen zwischen Käufer und Verkäufer, beispielsweise über die anfängliche Leistungsfähigkeit des KI-Systems oder dessen Lernfähigkeit. Diese können sich aus Ausschreibungsunterlagen und Katalogangaben ergeben. Die Vereinbarungen der Parteien sind danach auszulegen, was die beteiligten Personen vernünftigerweise gewollt haben. Das gilt für die Vertragstexte, aber auch für damit verbundene Aussagen und sonstiges Verhalten der beteiligten Personen. Die Kernfrage lautet: Was durfte der Käufer berechtigterweise von der Kaufsache erwarten? Klare Aussagen begrenzen dabei die Risiken: So kann es beispielsweise von den Vertragsparteien gewollt sein, dass ein KI-System von Beginn an eine bestimmte Steigerung der Produktivität herbeiführt. Das System kann etwa unter Verweis auf die Mehrwerte für Produktivität und Nutzbarkeit im Vergleich zu anderen Systemen vermarktet worden sein. Dann muss das System entsprechend liefern. Andernfalls liegt eine Abweichung von der vereinbarten Beschaffenheit und damit ein Mangel vor.

Wenn das System noch lernt

Es kann aber auch vereinbart sein, dass das KI-System bestimmte Leistungen nach Gefahrübergang erst noch erlernt. Denn Beschaffenheit kann grundsätzlich jeder tatsächliche, wirtschaftliche oder rechtliche Umstand im Zusammenhang mit der Kaufsache sein. Dann hätten die Parteien also die Beschaffenheit ‚lernend‘ vereinbart. Die Kaufsache muss diese Lernfähigkeit bei Lieferung aufweisen. Das KI-System ist jedoch mangelhaft, wenn es nicht, falsch oder zu langsam lernt. Wichtig sind in diesem Zusammenhang auch die vom Käufer zu erfüllenden Anforderungen für Training, Pflege und Nutzung des KI-Systems. Soweit der erfolgreiche Einsatz bestimmtes Verhalten des Nutzers erfordert, muss das im Kaufvertrag festgelegt werden.

Seiten: 1 2Auf einer Seite lesen

Kümmerlein, Simon & Partner Rechtsanwälte mbB

Das könnte Sie auch Interessieren

Bild: Fraunhofer IEM
Bild: Fraunhofer IEM
Effiziente Produktionsplanung: KI reduziert Aufwand bei Schulte Kartonagen um 25%

Effiziente Produktionsplanung: KI reduziert Aufwand bei Schulte Kartonagen um 25%

Welcher Liefertermin steht wann an? Wie aufwändig muss die Maschine umgerüstet werden? Ist das benötigte Material bereits geliefert? Um die Reihenfolge verschiedener Kundenaufträge optimal zu planen, müssen Produktionsplaner:innen eine Vielzahl von Faktoren kennen und einschätzen. Bei Schulte Kartonagen hat ab sofort ein intelligenter KI-Assistent alle Faktoren im Blick – und macht Vorschläge für die effiziente Planung der Produktion. Gefördert wurde die Zusammenarbeit mit dem Fraunhofer IEM und den Universitäten Paderborn und Bielefeld im it’s OWL-Projekt ARISE.

Bild: schoesslers GmbH
Bild: schoesslers GmbH
appliedAI Institute for Europe launcht kostenlosen KI-Onlinekurs

appliedAI Institute for Europe launcht kostenlosen KI-Onlinekurs

Das gemeinnützige appliedAI Institute for Europe stellt den kostenfreien Online-Kurs ‚AI Essentials‘ zur Verfügung, der es Interessierten ermöglicht, in die Welt der Künstlichen Intelligenz einzusteigen. Konzepte wie maschinelles Lernen und Deep-Learning sowie deren Anwendungsmöglichkeiten und Auswirkungen auf unser Leben und unsere Wirtschaft sind Teile der umfassenden Einführung.

Bild: Trumpf SE + Co. KG
Bild: Trumpf SE + Co. KG
Künstliche Intelligenz macht Fabriken clever

Künstliche Intelligenz macht Fabriken clever

Seit dem Siegeszug des Chatbots ChatGPT ist künstliche Intelligenz in aller Munde. Auch in der industriellen Produktionstechnik kommt KI mit großen Schritten voran. Lernende Maschinen machen die Fertigung effizienter. Wie funktioniert das genau? Das können Interessierte auf der EMO Hannover 2023 vom 18. bis 23. September erfahren. Die Weltleitmesse für Produktionstechnologie wird ihr Fachpublikum unter dem Claim ‚Innovate Manufacturing‘. mit frischen Ideen inspirieren und künstliche Intelligenz spielt dabei ihre Stärken aus.

Bild: Mitsubishi Electric Corporation, Japan
Bild: Mitsubishi Electric Corporation, Japan
KI-gestütztes Analysetool für moderne Produktionslinien

KI-gestütztes Analysetool für moderne Produktionslinien

Das Data-Science-Tool Melsoft MaiLab von Mitsubishi soll Unternehmen bei der Digitalisierung ihrer Fertigung und unterstützen und so deren Produktivität steigern. Die neue Lösung ist eine intuitive, bedienerzentrierte Plattform, die KI nutzt, um Abläufe automatisch zu verbessern. Sei es Abfallvermeidung durch geringere Ausschussmengen, weniger Stillstandszeiten durch vorbeugende Wartung oder Senkung des Energieverbrauchs durch Prozessoptimierung.

Bild: Fraunhofer IGD
Bild: Fraunhofer IGD
Software Arrange beschleunigt Absortierprozesse

Software Arrange beschleunigt Absortierprozesse

In Kombination mit einer Augmented-Reality-Brille bietet eine neue Software des Fraunhofer IGD digitale Unterstützung von Absortiervorgängen. Zusammengehörige Bauteile werden direkt im Sichtfeld der Beschäftigten an der Produktionslinie farblich überlagert. Anwender im Automotive-Bereich können so etwa durch beschleunigte Prozesse und eine minimierte Fehleranfälligkeit Kosten reduzieren.