Ethik und Erklärbarkeit in Bezug auf KI

Da eine heutige künstliche Intelligenz (KI) zu keinem Zeitpunkt ein Bewusstsein über das Erkannte entwickelt, ist KI prinzipiell vollkommen objektiv. Die Risiken aus der Anwendung von KI liegen daher in den verwendeten Daten und nicht in der KI selbst. Mit der aktuellen Diskussion von KI und Ethik soll verhindert werden, dass KI-Systeme Menschen diskriminieren.

 (Bild: ©Tatiana Shepeleva/stock.adobe.com)

(Bild: ©Tatiana Shepeleva/stock.adobe.com)

Dazu sollen diese Systeme so entwickelt werden, dass man die Gefahr unbeabsichtigter Folgen minimiert. Ein Unternehmen müsste vor dem Einsatz dann beispielsweise testen, ob KI bestimmte Personengruppen benachteiligt oder abwertet. In welchem Zusammenhang kann aber Ethik und KI gesehen werden?

  • Integration von Ethik in KI: Da KI kein Bewusstsein über den bewerteten Inhalt entwickelt und Ethik nicht objektivierbar ist, lässt sich Ethik nicht sinnvoll in KI integrieren.
  • Ethik der Daten: Das Ergebnis einer KI basiert auf Daten. Daher ist ein Ansatz für den ethischen Umgang mit KI der verantwortungsvolle Umgang mit den Daten.
  • Ethik der Ergebnisse: Hier stellt sich die Frage, wie das Ergebnis einer KI zu bewerten ist und wie KI und Mensch so interagieren, dass die ethischen Grundsätze gewahrt werden.

Vergleicht man KI mit den aktuellen Methoden stellt man fest, dass KI prinzipiell den gleichen Zweck erfüllt wie die wie Elektronische Datenverarbeitung seit rund 60 Jahren. Daten werden verarbeitet und bewertet. Beide Ansätze unterscheiden sich lediglich in der Art der Modelle, die zu Bewertung der Daten verwendet werden. Der Mensch ist in seiner Fähigkeit komplexe Zusammenhänge zu erkennen, durch die Millersche Zahl (7+-2) begrenzt. In menschlichen Modellen werden daher komplexe Zusammenhänge vereinfacht und anschließend z.B. in Form eines Entscheidungsbaumes bewertet. Daraus ergibt sich eine Erklärbarkeit innerhalb des Modells. Die Frage, ob die Annahmen des Modells statistisch valide sind oder (implizit) diskriminiert, wird jedoch in der Regel weder gestellt noch geprüft. Es ist weitgehend gesellschaftlich akzeptiert eine Begründung zu bekommen, deren Erklärbarkeit d.h. Relevanz in Bezug auf die Entscheidung in der Regel jedoch nicht überprüfbar ist. Dabei zeigt sich gerade durch den Einsatz von KI, dass menschliche Annahmen oft unvollständig oder teilweise falsch sind. KI-Modelle hingegen erkennen Zusammenhänge direkt in komplexen Daten. Statt vereinfachter Annahmen spiegeln sie daher die statistische Realität der Daten. Da die Bewertung grundsätzlich anhand statistischer Zusammenhänge erfolgt, ermöglicht dies eine prinzipiell gerechtere Bewertung. Problematisch wird dies jedoch, wenn Daten unvollständig sind oder scheinbare Zusammenhänge enthalten, die nicht auf die Realität übertragbar sind.

Rechtliche Risiken

Aufgrund der rechtlichen Risiken ist es ein grundsätzliches Ziel Systeme so zu entwickeln, dass Menschen nicht diskriminiert werden. Um dies zu verhindern, gibt es im Umgang mit KI bereits heute zahlreiche Ansätze wie z.B.:

  • Entfernung von potentiell diskriminierenden Merkmalen aus den Daten
  • Ergänzung von unterrepräsentierten Datenmerkmalen
  • höhere Gewichtung von unterrepräsentierten Datenmerkmalen

Insgesamt handelt es sich um ein alltägliches und in der Regel gut beherrschbares Problem. KI bietet jedoch keine universelle Lösung für jede Aufgabenstellung. Sind grundsätzlich keine ausreichenden Daten vorhanden, stellt KI in der Regel keinen sinnvollen Lösungsansatz dar. Menschliche Intuition und Ethik ergänzt sich perfekt mit der Geschwindigkeit und Objektivität der KI. Da KI falsche oder unvollständige Annahmen erkennt, lernt im Zusammenspiel nicht nur die KI vom Mensch, sondern der Mensch auch von der KI. Da menschliche Intuition auch mittelfristig nicht durch KI ersetzt werden kann, empfehlen wir grundsätzlich den Einsatz von KI als Assistenzsystem. Damit lässt sich nicht nur die Qualität und die Effizienz eines Unternehmens steigern. Unternehmen können hier in Zeiten des Fachkräftemangels besonders profitieren indem KI verwendet wird um die Produktivität von Schlüsselmitarbeitern zu steigern.

Rechtliche Risiken durch fehlende bundesweite Richtlinien im Umgang mit der DSGVO stellen bereits heute ein erhebliches Hindernis bei der Einführung von KI dar. Die Verwendung von KI in einem produktiven Anwendungsfall innerhalb der Breite der Industrie oder dem öffentlichen Sektor ist immer noch ein Einzelfall. Die Forderung das KI-Systeme grundsätzlich ethischen Grundsätzen entsprechen und erklärbar sein müssen, bedeutet daher eine zusätzliche Hürde, die auch von der heutigen klassischen Datenverarbeitung in der Regel nicht erfüllt wird.

Fazit

Unabhängig von der Technologie dürfen Menschen nach Artikel 22 DSGVO nicht vollautomatischen Entscheidungen unterworfen werden, sofern die Entscheidung erhebliche Auswirkungen auf die Person hat. Da so die Einhaltung ethischer Grundsätze und die Erklärbarkeit bei relevanten Entscheidungen grundsätzlich gegeben sein muss, empfehlen wir in der Betrachtung eine Gleichstellung von KI-Systemen und der klassischen Datenverarbeitung. Um den enormen Rückstand Deutschlands bei der KI nicht weiter zu vergrößern sollte das Ziel der weiteren Diskussion sein, bundesweit verbindliche rechtliche Rahmenbedingungen für den Einsatz von KI zu schaffen, Bürokratie in Bezug auf die Förderung zu verringern und ausreichende Mittel bereit zu stellen sowie die Aufklärung innerhalb der Industrie und des öffentlichen Sektors über die konkreten Einsatzmöglichkeiten von KI zu verbessern.

www.evotegra.de

Das könnte Sie auch Interessieren

Anzeige

Anzeige

Bild: ©NicoElNino/stock.adobe.com
Bild: ©NicoElNino/stock.adobe.com
Strukturierter Beratungsansatz für KI-Einsatzbereiche im Unternehmen

Strukturierter Beratungsansatz für KI-Einsatzbereiche im Unternehmen

„Künstliche Intelligenz ist eine, wenn nicht die wichtigste Zukunftstechnologie für Unternehmen.“ Diese Aussage bejahen 70 Prozent der Befragten der jüngsten Bitkom-Studie zu KI. Aber nur 10 Prozent aller Unternehmen haben KI-Technologie aktiv im Einsatz, lediglich 30 Prozent planen und diskutieren deren Anwendung. Was ist der Grund für diese große Diskrepanz?

Bild: Blue Yonder, Inc.
Bild: Blue Yonder, Inc.
Künstliche Intelligenz – mehr als eine Wissenschaft

Künstliche Intelligenz – mehr als eine Wissenschaft

Data Science ist mittlerweile ein fester Bestandteil der strategischen Planung in vielen Unternehmen. Um künftige Entwicklungen realistisch zu planen, brauchen wir Künstliche Intelligenz (KI) und Maschinelles Lernen (ML). Insbesondere im Einzelhandel vertrauen immer mehr große Player auf KI-Lösungen, die präzise Prognosen ermöglichen und zum Beispiel Bestände oder Preise optimieren. Doch viele Entscheidungsträger glauben noch nicht daran, dass KI in den Lieferketten der Zukunft eine tragende Rolle spielen wird. Der Grund hierfür liegt in einer falschen Sicht auf die Wissenschaft.

Bild: ©Stock57/stock.adobe.com
Bild: ©Stock57/stock.adobe.com
KI-Verfahren für die Produktion

KI-Verfahren für die Produktion

Mathematiker der Hochschule Darmstadt (h_da) entwickeln gemeinsam mit dem Hanauer Simulationsdienstleister und Softwareunternehmen SimPlan und dem Automationsexperten Fibro Läpple Technology neue KI-Technologien. Im Rahmen des Loewe-Projekts ‚KISPo‘ will das Konsortium eine autonome, selbstlernende Steuerungssoftware für Produktionsanlagen entwickeln, wie sie z.B. bei der Herstellung von Komponenten für Windräder oder Elektromotoren zum Einsatz kommen. Es wäre die erste KI-Software dieser Art. Damit würde eine von Industrieverbänden und Forschung lange bemängelte Technologielücke geschlossen. Das Land Hessen fördert das Projekt für zwei Jahre mit 320.000 Euro. Konsortialführerin ist die Hochschule Darmstadt.

Bild: ©NicoElNino/stock.adobe.com
Bild: ©NicoElNino/stock.adobe.com
Chancen und Herausforderungen von Machine Learning in der Fertigung

Chancen und Herausforderungen von Machine Learning in der Fertigung

Automatisierung, künstliche Intelligenz (KI), Internet of Things (IoT) und Machine Learning (ML) sind heutzutage bekannte Technologien und kommen bereits in vielen Unternehmen zum Einsatz. Mit Hilfe von Machine Learning wird es IT-Systemen ermöglicht, Muster und Zusammenhänge aus Daten zu lernen und sich selbst zu verbessern. Dabei ist keine explizite Programmierung notwendig. Die Bearbeitung von Kundenanfragen, die Erkennung möglicher Störfälle sowie unerwarteter Ereignisse wie z.B. Cyberangriffe sind klassische Anwendungsfelder von ML. Aber auch die Unterstützung bei einer rein datengestützten Entscheidungsfindung und die Interpretation großer Datenmengen gehören dazu.

Bild: ©Shuo/stock.adobe.com
Bild: ©Shuo/stock.adobe.com
Sensoren lernen das Denken

Sensoren lernen das Denken

Im Fraunhofer-Leitprojekt NeurOSmart forscht das Fraunhofer IPMS zusammen mit vier weiteren Instituten (ISIT, IMS, IWU, IAIS) unter Leitung des Fraunhofer ISIT gemeinsam an energieeffizienten und intelligenten Sensoren für die nächste Generation autonomer Systeme. Dabei sollen die Brücken zwischen Wahrnehmung und Informationsverarbeitung durch innovative Elektronik neu definiert werden.

Bild: ©ipopba/stock.adobe.com
Bild: ©ipopba/stock.adobe.com
Wie KI 2022 praktikabel wird

Wie KI 2022 praktikabel wird

Künstliche Intelligenz war bereits in der Vergangenheit in aller Munde, schaffte es aber doch oft nicht bis in die Anwendung. Das wird sich 2022 ändern – auch weil sich langsam Standards etablieren und sich neue, konkrete Einsatzmöglichkeiten ergeben. In welchen Bereichen Business-Implementierungen zu erwarten sind, erläutert Bernhard Niedermayer, Head of AI bei Cloudflight.

Anzeige

Anzeige

Anzeige