„Wir müssen den Maschinen Meta-Regeln mitgeben“

KI-basierte Systeme und Maschinen werden immer autonomer, selbstständiger und intelligenter. Ob und wie ist es zu schaffen, dass sie auf Dauer menschlichen Werten und Regeln folgen? Dr. Kurt D. Bettenhausen, Vorsitzender des interdisziplinären Gremiums Digitale Transformation im VDI und Vorstandsmitglied der VDI/VDE-GMA, spricht im zehnten Teil unserer Serie Autonome Systeme mit dem VDI.

Die Leistungsfähigkeit autonomer Systeme nimmt zu. Wie stellen Sie sicher, dass diese Systeme auf Dauer die geplanten Aufgaben übernehmen und nicht darüber hinausgehen, also beherrschbar bleiben?

Bild: ©Alexander Limbach/Fotolia.com

Dr. Kurt D. Bettenhausen: Lassen Sie uns für einen Moment von der Annahme ausgehen, dass die Leistungsfähigkeit tatsächlich in einen Bereich steigt, in dem autonome Systeme sich selbständig über ihren eigentlichen Bestimmungszweck hinaus weiterentwickeln können. Grundsätzlich bleiben drei Möglichkeiten: Dem Erbauer des autonomen Systems ethische Regeln für das Design der Systeme zu geben, das System selbst zu reglementieren oder dem System Regeln mitzugeben, die seine Weiterentwicklung lenken.

Welche dieser drei Möglichkeiten halten Sie langfristig für die wirksamste?

Bettenhausen: Solange wir über Systeme reden, die nicht KI-basiert sind, ist es vollkommen ausreichend, wenn die Personen, die sie konstruieren und programmieren, ethischen Werten folgen. Das System selbst reglementieren zu wollen, wird sich auf Dauer als Hase-und-Igel-Spiel entwickeln, bei dem die Regeln und die Regelnden mit hoher Wahrscheinlichkeit nicht mit dem technologischen Fortschritt werden mithalten können. In dem Moment jedoch, in dem das eigenständige Lernen eines Systems ins Spiel kommt, z.B. über Methoden wie Deep Learning, müssen wir uns über übergeordnete, sogenannte Meta-Regeln Gedanken machen. Und das müssen wir tun, bevor wir die Maschinen in unsere Umwelt lassen. Denken Sie beispielsweise nur an den Chatbot, der innerhalb eines einzigen Tages rassistische Propaganda verbreitete oder an die Chatbots, die in kürzester Zeit eine für Menschen unverständliche Sprache entwickelten. Wir dürfen nicht die Kontrolle verlieren und wir müssen den Maschinen zugleich Meta-Regeln mitgeben, die sie zwingend befolgen müssen.

Deep-Learning-Systeme können wir nicht mehr kontrollieren?

Bettenhausen: Zumindest können wir nicht zu jedem Zeitpunkt schnell genug vorhersagen, was genau sie lernen und gegebenenfalls in Echtzeit anwenden werden. Bei Maschinen, die aus der immer größer werdenden Menge an Daten Wissen und über deren Analyse Erkenntnisse ziehen, können wir nicht sagen, was sie in einem Jahr lernen werden. Sie tun dies selbstverständlich nur im vorgegebenen Bereich. Ein smarter Staubsauger wird, so intelligent er auch werden mag, morgen nicht Ihre Spülmaschine ausräumen. Aber bleiben wir bei diesem Beispiel: Wenn der intelligente Staubsauger erkennt, dass es besonders der Hund ist, der den größten Dreck verursacht, muss er einen effizienten Weg finden, Haare und Dreck schnell zu entfernen. Er darf nicht auf die Idee kommen, den Hund rauszuschmeißen und ihm den Eingang zu verwehren oder ihn vorsorglich komplett kahl zu scheren – oder eben Schlimmeres. Er braucht also übergeordnete Regeln. Als Ausgangsbasis können die bekannten Robotergesetze von Asimov herhalten. Gerade das zweite Gesetz, der Roboter muss den menschlichen Befehlen gehorchen, ist angesichts von Kriegen und Terroranschlägen wohl differenzierter zu betrachten. Aber sie sind ein erster Schritt und eben schon 75 Jahre alt.

Seiten: 1 2Auf einer Seite lesen

VDI Verein Deutscher Ingenieure e.V.

Das könnte Sie auch Interessieren

Bild: Fraunhofer IEM
Bild: Fraunhofer IEM
Effiziente Produktionsplanung: KI reduziert Aufwand bei Schulte Kartonagen um 25%

Effiziente Produktionsplanung: KI reduziert Aufwand bei Schulte Kartonagen um 25%

Welcher Liefertermin steht wann an? Wie aufwändig muss die Maschine umgerüstet werden? Ist das benötigte Material bereits geliefert? Um die Reihenfolge verschiedener Kundenaufträge optimal zu planen, müssen Produktionsplaner:innen eine Vielzahl von Faktoren kennen und einschätzen. Bei Schulte Kartonagen hat ab sofort ein intelligenter KI-Assistent alle Faktoren im Blick – und macht Vorschläge für die effiziente Planung der Produktion. Gefördert wurde die Zusammenarbeit mit dem Fraunhofer IEM und den Universitäten Paderborn und Bielefeld im it’s OWL-Projekt ARISE.

Bild: schoesslers GmbH
Bild: schoesslers GmbH
appliedAI Institute for Europe launcht kostenlosen KI-Onlinekurs

appliedAI Institute for Europe launcht kostenlosen KI-Onlinekurs

Das gemeinnützige appliedAI Institute for Europe stellt den kostenfreien Online-Kurs ‚AI Essentials‘ zur Verfügung, der es Interessierten ermöglicht, in die Welt der Künstlichen Intelligenz einzusteigen. Konzepte wie maschinelles Lernen und Deep-Learning sowie deren Anwendungsmöglichkeiten und Auswirkungen auf unser Leben und unsere Wirtschaft sind Teile der umfassenden Einführung.

Bild: Trumpf SE + Co. KG
Bild: Trumpf SE + Co. KG
Künstliche Intelligenz macht Fabriken clever

Künstliche Intelligenz macht Fabriken clever

Seit dem Siegeszug des Chatbots ChatGPT ist künstliche Intelligenz in aller Munde. Auch in der industriellen Produktionstechnik kommt KI mit großen Schritten voran. Lernende Maschinen machen die Fertigung effizienter. Wie funktioniert das genau? Das können Interessierte auf der EMO Hannover 2023 vom 18. bis 23. September erfahren. Die Weltleitmesse für Produktionstechnologie wird ihr Fachpublikum unter dem Claim ‚Innovate Manufacturing‘. mit frischen Ideen inspirieren und künstliche Intelligenz spielt dabei ihre Stärken aus.

Bild: Mitsubishi Electric Corporation, Japan
Bild: Mitsubishi Electric Corporation, Japan
KI-gestütztes Analysetool für moderne Produktionslinien

KI-gestütztes Analysetool für moderne Produktionslinien

Das Data-Science-Tool Melsoft MaiLab von Mitsubishi soll Unternehmen bei der Digitalisierung ihrer Fertigung und unterstützen und so deren Produktivität steigern. Die neue Lösung ist eine intuitive, bedienerzentrierte Plattform, die KI nutzt, um Abläufe automatisch zu verbessern. Sei es Abfallvermeidung durch geringere Ausschussmengen, weniger Stillstandszeiten durch vorbeugende Wartung oder Senkung des Energieverbrauchs durch Prozessoptimierung.

Bild: Fraunhofer IGD
Bild: Fraunhofer IGD
Software Arrange beschleunigt Absortierprozesse

Software Arrange beschleunigt Absortierprozesse

In Kombination mit einer Augmented-Reality-Brille bietet eine neue Software des Fraunhofer IGD digitale Unterstützung von Absortiervorgängen. Zusammengehörige Bauteile werden direkt im Sichtfeld der Beschäftigten an der Produktionslinie farblich überlagert. Anwender im Automotive-Bereich können so etwa durch beschleunigte Prozesse und eine minimierte Fehleranfälligkeit Kosten reduzieren.