Heute: KI-Verbote als Notbremse?

Heute: KI-Verbote als Notbremse?

Art.2 Abs.1 des deutschen Grundgesetzes verbrieft die allgemeine Handlungsfreiheit: Was nicht ausnahmsweise verboten ist, ist im Grundsatz erlaubt. Das gilt auch für den Einsatz von künstlicher Intelligenz (KI); dieser findet momentan meist in einem regulatorischen Vakuum statt.
Wird Ihre Produktion durch eine KI-Fehlentscheidung lahmgelegt, droht ein Finger-Pointing zwischen Softwareentwickler, Cloud-Provider, Anlagenbetreiber und Datenlieferant. Das gleiche ist in der Praxis zu beobachten, wenn KI-Fehler zu Sach- und Personenschäden führen. Da KI unkörperlich ist, scheidet eine rein physische Verantwortungszurechnung naturgemäß aus. KI-Entscheidungen liefern keine Begründung. Nur mit großem Aufwand lässt sich allenfalls die statistische Entscheidungsgenauigkeit und die Qualität der Ausgangsdaten überprüfen. Es kann daher passieren, dass KI Mitarbeiter ausspioniert, falsche Massenbestellungen aufgibt, Produktionsunfälle verursacht oder Militärdrohnen fehlleitet – ohne dass dies rechtzeitig auffällt! Und selbst wenn, wird im Zweifel jeder Beteiligte die Verantwortung von sich weisen.

Drohendes KI-Chaos

Houston, wir haben ein Problem: Der flächendeckende Einsatz von KI droht sehr bald rechtlich außer Kontrolle zu geraten, wenn das geltende Recht keine passenden Antworten auf folgende zwei Fragen bietet: 1. Wer genau muss für die Folgen einer fehlerhaften KI-Entscheidung einstehen? 2. Anhand welcher Qualitätskriterien darf und soll beurteilt werden, ob KI korrekte Ergebnisse liefert? Die Wirtschaft behilft sich momentan mit passenden KI-Regelungen auf Vertragsebene. Doch der legislative Handlungsdruck steigt von Tag zu Tag, weil KI schleichend alle Lebens- und Wirtschaftsbereiche durchdringt und täglich immer größere Schäden durch KI-Fehlentscheidungen einer Aufarbeitung bedürfen. Da der Gesetzgeber (weltweit) mit notwendigen Feinregelungen mittelfristig überfordert ist, bleibt ihm eigentlich nur eine Handlungsoption: Gesetzliche KI-Verbote, um ein drohendes KI-Chaos kurzfristig zu verhindern. Also ein legislativer Work-Around in Form innovationshemmender Überregulierung.

Art.22 DSGVO

Einen bitteren Vorgeschmack hierfür liefert Art.22 Art.1 DSGVO, der im Grundsatz automatisierte KI-Entscheidungen verbietet, die ohne Dazwischentreten eines menschlichen Entscheiders zustandekommen und eine natürliche Person erheblich benachteiligen. Z.B. bei der automatisierten Ablehnung eines Kunden oder eines Stellenbewerbers aufgrund eines ungünstigen Score-Werts. Art.22 DSGVO ist ein reines KI-Verbot und liefert keine Antwort auf die beiden oben aufgeworfenen Fragen. Die Norm stellt auf das Ob des KI-Einsatzes (das Entscheidungsverfahren) ab, nicht auf das Wie (die Recht- und Zweckmäßigkeit des Entscheidungsergebnisses). Letztlich handelt es sich um einen Fremdkörper in der DSGVO, da die Norm streng genommen keinen Datenschutz bezweckt. Auch sonstige Schutzzwecke sucht man hier vergeblich, abgesehen von der Leerformel, der Mensch dürfe nicht zum Objekt einer Maschinenentscheidung werden. Warum eigentlich nicht? Was nämlich zu denken geben sollte: Art.22 Art. 1 DSGVO verbietet bestimmte KI-Entscheidungen, wobei ein menschlicher Entscheider die identische Entscheidung aus den identischen Gründen genauso hätte treffen dürfen. Eine klassische Innovationsbremse.

Seiten: 1 2Auf einer Seite lesen

Thematik: Allgemein
Ausgabe:
Noerr LLP
www.noerr.com

Das könnte Sie auch Interessieren

Bild: Fraunhofer IEM
Bild: Fraunhofer IEM
Effiziente Produktionsplanung: KI reduziert Aufwand bei Schulte Kartonagen um 25%

Effiziente Produktionsplanung: KI reduziert Aufwand bei Schulte Kartonagen um 25%

Welcher Liefertermin steht wann an? Wie aufwändig muss die Maschine umgerüstet werden? Ist das benötigte Material bereits geliefert? Um die Reihenfolge verschiedener Kundenaufträge optimal zu planen, müssen Produktionsplaner:innen eine Vielzahl von Faktoren kennen und einschätzen. Bei Schulte Kartonagen hat ab sofort ein intelligenter KI-Assistent alle Faktoren im Blick – und macht Vorschläge für die effiziente Planung der Produktion. Gefördert wurde die Zusammenarbeit mit dem Fraunhofer IEM und den Universitäten Paderborn und Bielefeld im it’s OWL-Projekt ARISE.

Bild: schoesslers GmbH
Bild: schoesslers GmbH
appliedAI Institute for Europe launcht kostenlosen KI-Onlinekurs

appliedAI Institute for Europe launcht kostenlosen KI-Onlinekurs

Das gemeinnützige appliedAI Institute for Europe stellt den kostenfreien Online-Kurs ‚AI Essentials‘ zur Verfügung, der es Interessierten ermöglicht, in die Welt der Künstlichen Intelligenz einzusteigen. Konzepte wie maschinelles Lernen und Deep-Learning sowie deren Anwendungsmöglichkeiten und Auswirkungen auf unser Leben und unsere Wirtschaft sind Teile der umfassenden Einführung.

Bild: Trumpf SE + Co. KG
Bild: Trumpf SE + Co. KG
Künstliche Intelligenz macht Fabriken clever

Künstliche Intelligenz macht Fabriken clever

Seit dem Siegeszug des Chatbots ChatGPT ist künstliche Intelligenz in aller Munde. Auch in der industriellen Produktionstechnik kommt KI mit großen Schritten voran. Lernende Maschinen machen die Fertigung effizienter. Wie funktioniert das genau? Das können Interessierte auf der EMO Hannover 2023 vom 18. bis 23. September erfahren. Die Weltleitmesse für Produktionstechnologie wird ihr Fachpublikum unter dem Claim ‚Innovate Manufacturing‘. mit frischen Ideen inspirieren und künstliche Intelligenz spielt dabei ihre Stärken aus.

Bild: Mitsubishi Electric Corporation, Japan
Bild: Mitsubishi Electric Corporation, Japan
KI-gestütztes Analysetool für moderne Produktionslinien

KI-gestütztes Analysetool für moderne Produktionslinien

Das Data-Science-Tool Melsoft MaiLab von Mitsubishi soll Unternehmen bei der Digitalisierung ihrer Fertigung und unterstützen und so deren Produktivität steigern. Die neue Lösung ist eine intuitive, bedienerzentrierte Plattform, die KI nutzt, um Abläufe automatisch zu verbessern. Sei es Abfallvermeidung durch geringere Ausschussmengen, weniger Stillstandszeiten durch vorbeugende Wartung oder Senkung des Energieverbrauchs durch Prozessoptimierung.

Bild: Fraunhofer IGD
Bild: Fraunhofer IGD
Software Arrange beschleunigt Absortierprozesse

Software Arrange beschleunigt Absortierprozesse

In Kombination mit einer Augmented-Reality-Brille bietet eine neue Software des Fraunhofer IGD digitale Unterstützung von Absortiervorgängen. Zusammengehörige Bauteile werden direkt im Sichtfeld der Beschäftigten an der Produktionslinie farblich überlagert. Anwender im Automotive-Bereich können so etwa durch beschleunigte Prozesse und eine minimierte Fehleranfälligkeit Kosten reduzieren.