Vertrauenswürdige Umsetzung
Die Vertrauenswürdigkeit wird im Kern durch die Infrastruktur des KI-Systems manifestiert. Neben dem Einsatz qualitativ hochwertiger KI-Technologien aus sicherer Herkunft ist auch die Kooperation von Experten der jeweiligen Anwendungsdomänen zu fördern sowie mit den Spezialisten im Bereich KI-Entwicklung und IT-Sicherheit, die für das entsprechende Einsatzgebiet KI-Systeme vertrauenswürdig konzipieren und umsetzen können. So ist für den physischen Schutz der KI-Systeme der Stand der Technik an IT-Sicherheitsmaßnahmen bezüglich Integrität, Vertraulichkeit, Datenschutz sowie Verfügbarkeit zu definieren und umzusetzen. Dadurch lassen sich die Manipulationsmöglichkeiten sowie der Missbrauch von KI-Anwendungen und der genutzten Daten reduzieren.
Nachvollbare Ergebnisse
Künftig wird KI zunehmend in automatisierte IT-Systeme eingebunden sein. Da hier die Eingriffsmöglichkeiten extrem restriktiv sind, muss mit Tests, Simulationen und Validierungen sichergestellt werden, dass die KIs die intendierten Funktionen korrekt durchführen. Ebenso kommt der Definition der Verantwortung sowie der daraus resultierenden Haftung eine besondere Bedeutung zu, auch um Vertrauen aufzubauen. Zudem sollte der Mensch – wann immer dies möglich ist – als kontrollierender Faktor gemäß dem Konzept ‚Keep the human in the loop‘ in den Kreislauf der KI eingebunden werden. Diese Forderung macht die grundlegende Übereinkunft notwendig, dass das Ergebnis der KI als Handlungsempfehlung zu verstehen ist und somit dem Mensch die Entscheidungsfreiheit obliegt, ob er dieser folgt oder auch nicht. Dieser Grundsatz dient im Weiteren dazu, die Selbstbestimmtheit der Nutzer zu erhalten, wodurch unter anderem die Vertrauenswürdigkeit erhöht wird.
Vertrauen einhandeln
In erster Linie liegt es an den Unternehmen, durch schlüssiges Handeln Vertrauen aufzubauen – bei ihren Mitarbeitern, bei ihren Zielgruppen und in der Gesellschaft insgesamt, um die Akzeptanz für die KI-Anwendung bei den Nutzern zu erzielen. Dies lässt sich über die Deklaration grundlegender Prinzipien zur Entwicklung sowie zum Einsatz von KI-basierten Anwendungen erreichen, in der wesentliche Handlungsprämissen wie der Vorrang des menschlichen Handels sowie die Verpflichtung zu gesellschaftlichem und ökologischen Wohlergeben von dem Unternehmen niedergelegt werden.