Überbrückung der Verantwortlichkeitslücke: Eine Voraussetzung für den Einsatz von KI-Agenten in Unternehmen

Wenn Unternehmen und Regierungen operative Aufgaben an KI -Systeme delegieren , beginnt die Diskussion oft mit der Frage nach deren Fähigkeiten. Kann KI Aufgaben übernehmen, die Menschen erledigen, wie beispielsweise die Abrechnung, Verhandlungen mit Lieferanten, das Unterzeichnen von Dokumenten oder das Verfassen öffentlicher Erklärungen? Und kann sie dies schnell und kostengünstig genug tun, um ihren Einsatz zu rechtfertigen?

Diese Fragen sind wichtig, doch die Leistung ist nur ein Teil des Gesamtbildes. Sobald ein Akteur selbstständig handelt, stellen sich weitere Fragen: Wer hat ihn autorisiert, wessen Interessen vertritt er, wo enden seine Befugnisse und, vielleicht am wichtigsten, wer trägt die Verantwortung, wenn etwas schiefgeht?

Dies ist die Verantwortlichkeitslücke bei Proxy-KI , und kein noch so ausgefeiltes Modell wird sie schließen können. Der Proxy mag zwar hochleistungsfähig sein, kann sich aber dennoch unerwünscht oder gar illegal verhalten.

Die einzige Möglichkeit, diese Lücke zu schließen, besteht in einem System mit klaren Kontrollmechanismen über die Befugnisse und einem Prüfprotokoll, das jede vom Agenten durchgeführte Aktion mit der Person verknüpft, die ihn autorisiert hat, und das in erster Linie zwischen einem Menschen und einer Maschine unterscheiden kann.

Ein normaler Fehler von außergewöhnlichem Ausmaß

Wenn man an die Gefahren künstlicher Intelligenz denkt, stellt man sich oft eine Maschine vor, die sich der menschlichen Kontrolle entzieht und ihre eigenen Ziele verfolgt. Ein unmittelbareres und weniger dramatisches Risiko besteht jedoch darin, dass ein System bei einer Routineaufgabe wiederholt Fehler begeht, ohne dass eine klare Verantwortlichkeit oder Rechenschaftspflicht erkennbar ist.

Eine einzelne Person könnte eine Rechnung an den falschen Kunden senden. Ein Mitarbeiter, der Zugriff auf eine vollständige Kundendatenbank hat, könnte jedoch dieselbe Rechnung an Tausende versenden. Er könnte ein Feld fehlerhaft ändern und diese Änderung dann im gesamten Marktplatz wiederholen – nicht aus böswilliger Absicht, sondern weil er bestimmte Anweisungen missverstanden hat und die Befugnis besaß, diese umzusetzen.

Die Geschwindigkeit, mit der ein Agent wertvoll wird, kann Unternehmen Hunderte von Stunden ersparen, aber sie kann auch einen kleinen, behebbaren Fehler in ein ernsthaftes operatives Problem verwandeln.

Wenn ein Agent eine E-Mail zur Überprüfung verfasst, ist diese Mehrdeutigkeit möglicherweise nicht von großer Bedeutung, da die Person weiterhin das Bindeglied zwischen dem Programm und der Außenwelt darstellt.

Doch wenn sie eine Nachricht senden, einen Kontoauszug einreichen oder Geld überweisen können, sieht die Sache ganz anders aus. Stellen Sie sich vor, Sie bitten eine Assistenzkraft, einen Flug zu buchen, und geben ihr statt einer Firmenkarte mit einem angemessenen Ausgabenlimit Ihren Reisepass, Ihre Bankkarte und Ihre Büroschlüssel. Sie vertrauen der Assistenzkraft vielleicht vollkommen, aber die ihr erteilte Befugnis ist für diese Aufgabe unangemessen.

Die Grenzen festlegen und das Problem lösen

KI-Agenten besitzen weder Nationalität noch Rechtspersönlichkeit, können aber auf rechtlich einwandfreie Weise mit natürlichen Personen verknüpft werden. Beispielsweise kann eine vertrauenswürdige Kennung die Aktivitäten eines Agenten bis zu der Person zurückverfolgen, die sie veröffentlicht hat. In Kombination mit klar definierten Befugnissen und Autorisierungen, die die Bedingungen ihrer Autorität transparent und nachvollziehbar machen, ermöglicht dies KI-Agenten, eine Reihe von Operationen und Transaktionen kontrollierter und transparenter durchzuführen.

Diese Kontrollmechanismen können sehr detailliert sein. Einem Beauftragten kann beispielsweise gestattet werden, Finanzinformationen einzusehen, ohne sie zu verändern, Zahlungen ohne Genehmigung vorzubereiten oder bei bestimmten Lieferanten Bestellungen aufzugeben, ohne einen festgelegten Betrag zu überschreiten. Seine Berechtigungen können für eine einzelne Transaktion, einen einzelnen Geschäftstag oder die Laufzeit eines bestimmten Vertrags gelten und erlöschen anschließend automatisch, ohne dass eine Deaktivierung erforderlich ist.

Der Entzug dieses Zugriffs sollte genauso einfach sein. Wenn ein Unternehmen die Zusammenarbeit mit einem Agenten beendet, den Lieferanten wechselt oder einen Fehler entdeckt, sollte es den Zugriff sofort widerrufen können, ohne die Zugangsdaten der verantwortlichen Person ändern zu müssen.

Die rechtliche Autorisierung des Agenten in den verschiedenen Bereichen dieser Kontrollen hat eine längere Lebensdauer als jedes einzelne KI-Modell, das im Laufe der Zeit aktualisiert, ersetzt und zusammengeführt wird, oft ohne dass der Kunde mehr als eine neue Versionsnummer zu sehen bekommt.

Die Idee in die Praxis umsetzen

Estland hat beschlossen, diese Probleme nun anzugehen. Im Juni begann die Regierung mit der Entwicklung eines staatlich geförderten Registrierungssystems für KI-Agenten, das sowohl estnischen Bürgern als auch der globalen Unternehmergemeinschaft des Landes zur Verfügung stehen wird. Ziel ist es, zu untersuchen, wie sich Estland, ein vollständig digitalisierter Staat, in dem alle öffentlichen Dienstleistungen online verfügbar sind, der aufkommenden Welle KI- gestützter Unternehmen öffnen kann.

Nach dem aktuellen Vorschlag erhält jede Person eine registrierte digitale Kennung, die mit einem oder mehreren in ihrem Namen handelnden Agenten verknüpft werden kann. Die vom KI-Agenten ausgeführten Aktionen werden als Maschinenaktionen behandelt, und die natürliche Person, die als Identitätsanker fungiert, bleibt verantwortlich, wie beispielsweise bei Fehlern aufgrund übermäßiger Abhängigkeit von KI. Der KI-Agent kann nur innerhalb der Grenzen seiner zugewiesenen Berechtigungen agieren.

Um Transparenz zu gewährleisten, müssen private Dienstleister auch wissen, ob der Prozess von einer Person oder von einer in ihrem Auftrag handelnden Maschine durchgeführt wurde. Dies ermöglicht es ihnen, geeignete Kontrollmechanismen, Beschränkungen und Risikomodelle effektiv anzuwenden.

Konzipiert für die Delegation

Dieser Ansatz stützt sich auf mehr als zwei Jahrzehnte Erfahrung im Bereich der digitalen Verwaltung. In Estland ermöglicht ein System von persönlichen Identifikationsnummern und digitalen Identitäten bereits Einzelpersonen, mit klar definierten Befugnissen im Namen anderer zu handeln.

Ein Steuerberater kann Steuererklärungen für einen Mandanten erstellen, ein Erwachsener kann die Gesundheit seiner betagten Eltern über ein Gesundheitsportal verwalten, und mehrere Personen können ein Firmenbankkonto mit individuellen Berechtigungen und Einschränkungen nutzen. Prinzipiell könnte dasselbe System auch die Fähigkeiten von KI-Systemen unterstützen.

Dies würde den Nutzern mehr Vertrauen geben, dass Schutzmechanismen vorhanden sind, um die verantwortliche Stelle vor potenziellen Fehlern eines KI-Systems zu schützen. Es würde außerdem dazu beitragen, die Verantwortlichkeitslücke angesichts der zunehmenden Aktivitäten dieser Systeme zu schließen.

Bevor KI-Agenten Exekutivbefugnisse übertragen werden können, benötigen sie einen technisch und rechtlich verbindlichen Rahmen, der festhält, wen sie vertreten, was sie tun können und wer für ihre Handlungen verantwortlich bleibt.