Geringe Fehlertoleranz
Wie tolerant sind die Verbraucher gegenüber Fehlern, die ein KI-System macht? Immerhin 40 Prozent der Befragten erwarten 100 Prozent Fehlerfreiheit. 34 Prozent würden einem KI-System in Ausnahmefällen Fehler zugestehen und 17 Prozent sagen sogar, Fehler sind normal. Deutlich weniger fehlertolerant sind die Teilnehmer allerdings, wenn es um sicherheitskritische Anwendungen geht: 84 Prozent stimmen der Aussage zu, dass autonome Fahrzeuge absolut fehlerfrei arbeiten müssen. Ebenfalls 84 Prozent sind der Meinung, dass KI-Systeme in Fahrzeugen von unabhängigen Stellen geprüft werden sollten.
Angemessene Regelung von KI-Systemen
Aus Sicht des TÜV-Verbands führt an einer angemessenen Regulierung auf nationaler und internationaler Ebene kein Weg vorbei. Die neue EU-Kommission hat angekündigt, eine KI-Strategie vorzulegen. Das Bundesarbeitsministerium ein KI-Observatorium und im Sommer will die Enquete-Kommission des Deutschen Bundestages zur künstlichen Intelligenz ihren Abschlussbericht vorlegen. „Natürlich müssen wir darauf achten, dass die Regulierung nicht übers Ziel hinausschießt und Innovationen bremst,“ betonte Fübi. Ein Weg, um das zu vermeiden, sei ein risikobasierter Ansatz. Nicht jede KI-Anwendung müsse umfangreich getestet werden. Es komme darauf an, wie groß der Schaden ist, den ein KI-System anrichten kann.