Forschungsprojekt zur Nachvollziehbarkeit algorithmischer Entscheidungssysteme

Das Forschungsprojekt 'KI Testing & Auditing' im Auftrag des Observatoriums 'Künstliche Intelligenz in Arbeit und Gesellschaft' des Bundesarbeitsministeriums geht der Frage nach, wie sinnvolle Kontroll- und Testverfahren für Künstliche-Intelligenz-Systeme aussehen können.
Bild: Gesellschaft für Informatik e.V.

Der zunehmende Einsatz von algorithmischen Entscheidungssystemen (ADM) bringt weitreichende Veränderungen für die Arbeitswelt mit sich. Insbesondere im Personalmanagement werden Entscheidungen zur Personalauswahl und -führung zunehmend durch ADM-Systeme vorbereitet. Auch im direkten Arbeitsumfeld interagieren Arbeitnehmer zunehmend mit ‚intelligenten‘ Systemen. Wie können in diesem Rahmen Verfahren aussehen, die einen nachvollziehbaren, beherrschbaren und diskriminierungsfreien Einsatz von künstlicher Intelligenz (KI) sicherstellen? Wie lassen sich diese durchführen und welche institutionellen Anforderungen müssen dafür beachtet werden?

Der Klärung dieser Fragen wird sich die Gesellschaft für Informatik e.V. (GI) im Auftrag des KI-Observatoriums des Bundesministeriums für Arbeit und Soziales (BMAS) in einem 20-monatigen Forschungsprojekt gemeinsam mit Fraunhofer IESE, dem Algorithm Accountability Lab an der TU Kaiserslautern, dem Institut für Rechtsinformatik an der Universität des Saarlandes und der Stiftung Neue Verantwortung widmen.

Daniel Krupka, Geschäftsführer der GI: „Mit dem Forschungsvorhaben möchten wir unseren Beitrag zu einem sicheren, verlässlichen, fairen und diskriminierungsfreien Einsatz von KI-Technologie leisten. In unserem interdisziplinär angelegten Projekt werden wir geeignete Verfahren identifizieren, damit algorithmische Entscheidungssysteme künftig transparent und rechtskonform arbeiten. Wir freuen uns daher auf die Zusammenarbeit mit unseren Partnern sowie dem KI-Observatorium des BMAS.“

Mit der Auslagerung von Entscheidungen an ADM-Systeme ist die Erwartung verbunden, dass diese präziser, objektiver und ökonomisch effizienter getroffen werden. Allerdings lassen sie die Betroffenen über die Verarbeitung ihrer Daten oft im Unklaren und sind möglicherweise mit geltendem Arbeitsrecht unvereinbar. Die 2018 veröffentlichte Studie ‚Technische und rechtliche Betrachtungen algorithmischer Entscheidungsverfahren‘ der Fachgruppe Rechtsinformatik der GI im Auftrag des Sachverständigenrats für Verbraucherfragen (SVRV) kommt daher zu dem Ergebnis, dass es geeigneter Test- und Auditierungsverfahren bedarf, um die nötige Transparenz herzustellen und den Einsatz von KI-Systemen rechtssicher auszugestalten.

Das Forschungsvorhaben KI Testing & Auditing knüpft an diesen Befund an und wird mit einem interdisziplinären Team aus (Sozio-)Informatiker, Software-Ingenieuren sowie Rechts- und Politikwissenschaftler Handlungsempfehlungen zu Test- und Auditierungsverfahren vorlegen. Dabei wird neben KI-Systemen im Personalmanagement und Recruiting auch das Feld der Mensch-Maschine Kooperation in der Industrieproduktion in den Fokus genommen.

Gesellschaft für Informatik e.V.

Das könnte Sie auch Interessieren

Bild: Fraunhofer IGD
Bild: Fraunhofer IGD
Software Arrange beschleunigt Absortierprozesse

Software Arrange beschleunigt Absortierprozesse

In Kombination mit einer Augmented-Reality-Brille bietet eine neue Software des Fraunhofer IGD digitale Unterstützung von Absortiervorgängen. Zusammengehörige Bauteile werden direkt im Sichtfeld der Beschäftigten an der Produktionslinie farblich überlagert. Anwender im Automotive-Bereich können so etwa durch beschleunigte Prozesse und eine minimierte Fehleranfälligkeit Kosten reduzieren.

Bild: Coscom Computer GmbH
Bild: Coscom Computer GmbH
Software-Plattform für KI und maschinelles Lernen

Software-Plattform für KI und maschinelles Lernen

Vermehrt interessieren sich Unternehmen dafür, auf Basis ihrer Fertigungsinformationen Verbesserungspotenziale in der Produktionsplanung und -steuerung zu heben. Maschinelles Lernen und künstliche Intelligenz (KI) kann aber nur dann wirtschaftlich sinnvoll eingesetzt werden, wenn alle relevanten Daten im Zugriff sind und deren Struktur zu den Anwendungen passen. Das Coscom-ECO-System soll eine Plattformökonomie als Basis für Business Intelligence (BI) bieten.

Bild: Benteler International AG
Bild: Benteler International AG
Produktionsfehler: KI findet die Nadel im Heuhaufen

Produktionsfehler: KI findet die Nadel im Heuhaufen

In der Qualitätsprüfung ist Zeit ein wichtiger Faktor: Wer Fehler rechtzeitig findet, kann sie effektiv und kostensparend beheben. Gemeinsam mit dem Fraunhofer IEM setzt der Automobilzulieferer Benteler dafür in der Warmumformung von Fahrzeugteilen auf Echtzeit-Sensordaten und Künstliche Intelligenz. Damit können Produktionsfehler schneller erkannt, behoben und zukünftig sogar vermieden werden.

Bild: ©NicoElNino/stock.adobe.com
Bild: ©NicoElNino/stock.adobe.com
Strukturierter Beratungsansatz für KI-Einsatzbereiche im Unternehmen

Strukturierter Beratungsansatz für KI-Einsatzbereiche im Unternehmen

„Künstliche Intelligenz ist eine, wenn nicht die wichtigste Zukunftstechnologie für Unternehmen.“ Diese Aussage bejahen 70 Prozent der Befragten der jüngsten Bitkom-Studie zu KI. Aber nur 10 Prozent aller Unternehmen haben KI-Technologie aktiv im Einsatz, lediglich 30 Prozent planen und diskutieren deren Anwendung. Was ist der Grund für diese große Diskrepanz?

Bild: Blue Yonder, Inc.
Bild: Blue Yonder, Inc.
Künstliche Intelligenz – mehr als eine Wissenschaft

Künstliche Intelligenz – mehr als eine Wissenschaft

Data Science ist mittlerweile ein fester Bestandteil der strategischen Planung in vielen Unternehmen. Um künftige Entwicklungen realistisch zu planen, brauchen wir Künstliche Intelligenz (KI) und Maschinelles Lernen (ML). Insbesondere im Einzelhandel vertrauen immer mehr große Player auf KI-Lösungen, die präzise Prognosen ermöglichen und zum Beispiel Bestände oder Preise optimieren. Doch viele Entscheidungsträger glauben noch nicht daran, dass KI in den Lieferketten der Zukunft eine tragende Rolle spielen wird. Der Grund hierfür liegt in einer falschen Sicht auf die Wissenschaft.

Bild: ©Stock57/stock.adobe.com
Bild: ©Stock57/stock.adobe.com
KI-Verfahren für die Produktion

KI-Verfahren für die Produktion

Mathematiker der Hochschule Darmstadt (h_da) entwickeln gemeinsam mit dem Hanauer Simulationsdienstleister und Softwareunternehmen SimPlan und dem Automationsexperten Fibro Läpple Technology neue KI-Technologien. Im Rahmen des Loewe-Projekts ‚KISPo‘ will das Konsortium eine autonome, selbstlernende Steuerungssoftware für Produktionsanlagen entwickeln, wie sie z.B. bei der Herstellung von Komponenten für Windräder oder Elektromotoren zum Einsatz kommen. Es wäre die erste KI-Software dieser Art. Damit würde eine von Industrieverbänden und Forschung lange bemängelte Technologielücke geschlossen. Das Land Hessen fördert das Projekt für zwei Jahre mit 320.000 Euro. Konsortialführerin ist die Hochschule Darmstadt.