Heute: KI-Verbote als Notbremse?

Heute: KI-Verbote als Notbremse?

Art.2 Abs.1 des deutschen Grundgesetzes verbrieft die allgemeine Handlungsfreiheit: Was nicht ausnahmsweise verboten ist, ist im Grundsatz erlaubt. Das gilt auch für den Einsatz von künstlicher Intelligenz (KI); dieser findet momentan meist in einem regulatorischen Vakuum statt.
Wird Ihre Produktion durch eine KI-Fehlentscheidung lahmgelegt, droht ein Finger-Pointing zwischen Softwareentwickler, Cloud-Provider, Anlagenbetreiber und Datenlieferant. Das gleiche ist in der Praxis zu beobachten, wenn KI-Fehler zu Sach- und Personenschäden führen. Da KI unkörperlich ist, scheidet eine rein physische Verantwortungszurechnung naturgemäß aus. KI-Entscheidungen liefern keine Begründung. Nur mit großem Aufwand lässt sich allenfalls die statistische Entscheidungsgenauigkeit und die Qualität der Ausgangsdaten überprüfen. Es kann daher passieren, dass KI Mitarbeiter ausspioniert, falsche Massenbestellungen aufgibt, Produktionsunfälle verursacht oder Militärdrohnen fehlleitet – ohne dass dies rechtzeitig auffällt! Und selbst wenn, wird im Zweifel jeder Beteiligte die Verantwortung von sich weisen.

Drohendes KI-Chaos

Houston, wir haben ein Problem: Der flächendeckende Einsatz von KI droht sehr bald rechtlich außer Kontrolle zu geraten, wenn das geltende Recht keine passenden Antworten auf folgende zwei Fragen bietet: 1. Wer genau muss für die Folgen einer fehlerhaften KI-Entscheidung einstehen? 2. Anhand welcher Qualitätskriterien darf und soll beurteilt werden, ob KI korrekte Ergebnisse liefert? Die Wirtschaft behilft sich momentan mit passenden KI-Regelungen auf Vertragsebene. Doch der legislative Handlungsdruck steigt von Tag zu Tag, weil KI schleichend alle Lebens- und Wirtschaftsbereiche durchdringt und täglich immer größere Schäden durch KI-Fehlentscheidungen einer Aufarbeitung bedürfen. Da der Gesetzgeber (weltweit) mit notwendigen Feinregelungen mittelfristig überfordert ist, bleibt ihm eigentlich nur eine Handlungsoption: Gesetzliche KI-Verbote, um ein drohendes KI-Chaos kurzfristig zu verhindern. Also ein legislativer Work-Around in Form innovationshemmender Überregulierung.

Art.22 DSGVO

Einen bitteren Vorgeschmack hierfür liefert Art.22 Art.1 DSGVO, der im Grundsatz automatisierte KI-Entscheidungen verbietet, die ohne Dazwischentreten eines menschlichen Entscheiders zustandekommen und eine natürliche Person erheblich benachteiligen. Z.B. bei der automatisierten Ablehnung eines Kunden oder eines Stellenbewerbers aufgrund eines ungünstigen Score-Werts. Art.22 DSGVO ist ein reines KI-Verbot und liefert keine Antwort auf die beiden oben aufgeworfenen Fragen. Die Norm stellt auf das Ob des KI-Einsatzes (das Entscheidungsverfahren) ab, nicht auf das Wie (die Recht- und Zweckmäßigkeit des Entscheidungsergebnisses). Letztlich handelt es sich um einen Fremdkörper in der DSGVO, da die Norm streng genommen keinen Datenschutz bezweckt. Auch sonstige Schutzzwecke sucht man hier vergeblich, abgesehen von der Leerformel, der Mensch dürfe nicht zum Objekt einer Maschinenentscheidung werden. Warum eigentlich nicht? Was nämlich zu denken geben sollte: Art.22 Art. 1 DSGVO verbietet bestimmte KI-Entscheidungen, wobei ein menschlicher Entscheider die identische Entscheidung aus den identischen Gründen genauso hätte treffen dürfen. Eine klassische Innovationsbremse.

Seiten: 1 2Auf einer Seite lesen

Thematik: Allgemein
Ausgabe:
Noerr LLP
www.noerr.com

Das könnte Sie auch Interessieren

Bild: Fraunhofer IGD
Bild: Fraunhofer IGD
Software Arrange beschleunigt Absortierprozesse

Software Arrange beschleunigt Absortierprozesse

In Kombination mit einer Augmented-Reality-Brille bietet eine neue Software des Fraunhofer IGD digitale Unterstützung von Absortiervorgängen. Zusammengehörige Bauteile werden direkt im Sichtfeld der Beschäftigten an der Produktionslinie farblich überlagert. Anwender im Automotive-Bereich können so etwa durch beschleunigte Prozesse und eine minimierte Fehleranfälligkeit Kosten reduzieren.

Bild: Coscom Computer GmbH
Bild: Coscom Computer GmbH
Software-Plattform für KI und maschinelles Lernen

Software-Plattform für KI und maschinelles Lernen

Vermehrt interessieren sich Unternehmen dafür, auf Basis ihrer Fertigungsinformationen Verbesserungspotenziale in der Produktionsplanung und -steuerung zu heben. Maschinelles Lernen und künstliche Intelligenz (KI) kann aber nur dann wirtschaftlich sinnvoll eingesetzt werden, wenn alle relevanten Daten im Zugriff sind und deren Struktur zu den Anwendungen passen. Das Coscom-ECO-System soll eine Plattformökonomie als Basis für Business Intelligence (BI) bieten.

Bild: Benteler International AG
Bild: Benteler International AG
Produktionsfehler: KI findet die Nadel im Heuhaufen

Produktionsfehler: KI findet die Nadel im Heuhaufen

In der Qualitätsprüfung ist Zeit ein wichtiger Faktor: Wer Fehler rechtzeitig findet, kann sie effektiv und kostensparend beheben. Gemeinsam mit dem Fraunhofer IEM setzt der Automobilzulieferer Benteler dafür in der Warmumformung von Fahrzeugteilen auf Echtzeit-Sensordaten und Künstliche Intelligenz. Damit können Produktionsfehler schneller erkannt, behoben und zukünftig sogar vermieden werden.

Bild: ©NicoElNino/stock.adobe.com
Bild: ©NicoElNino/stock.adobe.com
Strukturierter Beratungsansatz für KI-Einsatzbereiche im Unternehmen

Strukturierter Beratungsansatz für KI-Einsatzbereiche im Unternehmen

„Künstliche Intelligenz ist eine, wenn nicht die wichtigste Zukunftstechnologie für Unternehmen.“ Diese Aussage bejahen 70 Prozent der Befragten der jüngsten Bitkom-Studie zu KI. Aber nur 10 Prozent aller Unternehmen haben KI-Technologie aktiv im Einsatz, lediglich 30 Prozent planen und diskutieren deren Anwendung. Was ist der Grund für diese große Diskrepanz?

Bild: Blue Yonder, Inc.
Bild: Blue Yonder, Inc.
Künstliche Intelligenz – mehr als eine Wissenschaft

Künstliche Intelligenz – mehr als eine Wissenschaft

Data Science ist mittlerweile ein fester Bestandteil der strategischen Planung in vielen Unternehmen. Um künftige Entwicklungen realistisch zu planen, brauchen wir Künstliche Intelligenz (KI) und Maschinelles Lernen (ML). Insbesondere im Einzelhandel vertrauen immer mehr große Player auf KI-Lösungen, die präzise Prognosen ermöglichen und zum Beispiel Bestände oder Preise optimieren. Doch viele Entscheidungsträger glauben noch nicht daran, dass KI in den Lieferketten der Zukunft eine tragende Rolle spielen wird. Der Grund hierfür liegt in einer falschen Sicht auf die Wissenschaft.

Bild: ©Stock57/stock.adobe.com
Bild: ©Stock57/stock.adobe.com
KI-Verfahren für die Produktion

KI-Verfahren für die Produktion

Mathematiker der Hochschule Darmstadt (h_da) entwickeln gemeinsam mit dem Hanauer Simulationsdienstleister und Softwareunternehmen SimPlan und dem Automationsexperten Fibro Läpple Technology neue KI-Technologien. Im Rahmen des Loewe-Projekts ‚KISPo‘ will das Konsortium eine autonome, selbstlernende Steuerungssoftware für Produktionsanlagen entwickeln, wie sie z.B. bei der Herstellung von Komponenten für Windräder oder Elektromotoren zum Einsatz kommen. Es wäre die erste KI-Software dieser Art. Damit würde eine von Industrieverbänden und Forschung lange bemängelte Technologielücke geschlossen. Das Land Hessen fördert das Projekt für zwei Jahre mit 320.000 Euro. Konsortialführerin ist die Hochschule Darmstadt.