Das Analystenhaus Gartner erwartete, dass 2028 mindestens 15% der Entscheidungen, die routinemäßig in einem Unternehmen anfallen, autonom von KI-Agenten getroffen werden. Um Fehler und Missbrauch zu vermeiden braucht es klare Regeln. Der Hersteller Augmentir hat sechs solcher Leitlinien ausgearbeitet.
- Transparenz bei der Ausführung: Jede Aktivität eines KI-Agenten muss dokumentiert und nachvollziehbar sein.
- Klare Verantwortungs- und Zuständigkeitsverhältnisse: Hinter jedem KI-Agenten sollte eine verantwortliche Instanz stehen – ein Mensch oder eine organisatorische Einheit –, deren Zuständigkeiten und Pflichten klar definiert sein müssen.
- Offenlegung der KI-Herkunft: Empfehlungen oder Entscheidungen, die von einer KI getroffen werden, müssen eindeutig als KI-generiert gekennzeichnet sein.
- Lückenlose Dokumentation von KI-Beteiligung: Auch bei dem Teilen und Weiterverbreiten von KI-generierten Inhalten muss eine plattformübergreifende Transparenz gegeben sein. Sämtliche Hinweise müssen zusammen mit dem Inhalt weitergegeben werden.
- Je mehr Wirkung, desto mehr menschliche Kontrolle: Sobald Maßnahmen, die von KI-Agenten vorgeschlagen wurden, reale Auswirkungen haben, muss ein Mensch die Entscheidung prüfen und genehmigen. Dies ist vor allem bei wirtschaftlichen oder persönlichen Entscheidungen wichtig.
- Keine generative KI bei Gefahr für Leib und Leben: In sicherheitskritischen Bereichen mit potenziell lebensgefährlichen Folgen sollten generative KI-Agenten nach heutigem Stand nicht autonom steuernd eingreifen. Hier sollten Menschen nach festgelegten, überprüfbaren Vorgehen und strengen Sicherheitsprotokollen entscheiden.
Nur durch Transparenz, menschliche Kontrolle und verbindliche Sicherheitsregeln lässt sich KI möglichst sicher und effizient nutzen. Solche Mindestanforderungen wurden im EU Artificial Intelligence Act festgelegt, um Compliance und Vertrauen zu gewährleisten.
„Wir sind der festen Überzeugung, dass KI die menschliche Intelligenz ergänzen und nicht ersetzen sollte. Damit dieser Grundsatz gewahrt bleibt, braucht es verbindliche Regeln“, sagt Carsten Hunfeld, Director EMEA von Augmentir, und ergänzt: „Nur so lässt sich KI heute und in Zukunft effizient und mit kalkulierbarem Risiko nutzen.“
