Dario Amodi (Anthropic): Die Menschen sehen, wie Regierungen künstliche Intelligenz ausnutzen... eine Vertrauenskrise.
Dario Amode (Anthropic) argumentiert, dass die Vertrauenskrise in die künstliche Intelligenz auf der Angst der Menschen vor deren Einsatz durch die Regierung gegen sie beruht, und damit hat er Recht.
Die wichtigsten Dinge, die Sie wissen müssen
- KI-Experten priesen die Technologie zunächst als Werkzeug zur Vernichtung von bis zu 50 % der Arbeitsplätze an, doch Dario Amodei ist der Ansicht, dass ihre wahre Wirksamkeit in greifbaren Ergebnissen liegt, nicht in "Unternehmensgerede" über eine Verdopplung der Produktivität.
- Anthropic weigerte sich, seine Technologie für Massenüberwachung und autonome Waffensysteme einzusetzen, was zum Verlust eines Vertrags mit dem Pentagon führte, während OpenAI diese Lücke mit einem Verbot der Spionage gegen Amerikaner füllte.
- Künstliche Intelligenzsysteme werden in Überwachungsinfrastrukturen und bei der Verfolgung von Fahrzeugkennzeichen weit verbreitet eingesetzt, was in einigen Fällen zu persönlichem Missbrauch durch die Strafverfolgungsbehörden und einer Verlagerung der Beweislast auf die Angeklagten führt.
Über den Pessimismus und die Ängste im Zusammenhang mit künstlicher Intelligenz wurde bereits viel gesagt – teils basierend auf den Warnungen klassischer Dystopien, teils aber auch aus der Realität. Von denjenigen, die diese Technologie kontrollieren, gibt es viel Optimismus und zahlreiche Versprechungen, doch bisher hat sich davon wenig in greifbaren Vorteilen niedergeschlagen.
Dario Amode, CEO und Mitbegründer von Anthropic, erklärte in einem Beitrag auf X : „Ich denke, die treffendste Kritik an KI- Unternehmen , einschließlich Anthropic, ist, dass wir unsere großen Versprechen, der Welt zu nutzen, noch nicht eingelöst haben.“
Amoudi argumentiert, dass die Technologie unter einer „Vertrauenskrise“ leide, die auf der Überzeugung der Menschen beruhe, dass Konzerne und Regierungen „neue Wege entwickeln, sie auszubeuten“. Doch angesichts der Tatsache, wie stark das US-Militär, die Strafverfolgungsbehörden und die Geheimdienste auf künstliche Intelligenz angewiesen sind, ist diese Annahme berechtigt?
Künstliche Intelligenz kann diese Krise nicht allein mit Öffentlichkeitsarbeit bewältigen.
Mit dem Aufkommen künstlicher Intelligenz (KI) zielten viele der angepriesenen Vorteile dieser Technologie darauf ab, Führungskräfte und leitende Angestellte davon zu überzeugen, dass sie – trotz noch nicht vollständig bewiesener Wirksamkeit – eine lohnende Investition darstellte. Folglich positionierten viele KI-Vertreter die Technologie als Mittel zur Senkung der Arbeitskosten in Unternehmen, indem menschliche Arbeitskräfte durch KI ersetzt würden.
Manche KI-„Experten“ äußern diese Ansichten noch immer hinter verschlossenen Türen. Ich besuchte dieses Jahr eine private Veranstaltung, bei der ein KI-„Experte“ voraussagte, dass Superintelligenz innerhalb von zehn Jahren bis zu 50 % der weltweiten Arbeitskräfte auslöschen würde und dass die Unternehmen, die am besten darauf vorbereitet seien, aus diesem katastrophalen Ereignis Kapital zu schlagen, unvorstellbare Macht und Reichtum erlangen würden. Dies wurde natürlich von den anwesenden Unternehmensleitungen mit Applaus bedacht.
Amoudi selbst sagte bekanntlich, künstliche Intelligenz könne 50 % der Büroarbeitsplätze vernichten. Inzwischen hat er diese Aussage jedoch revidiert und spricht nun von einem „Produktionsmultiplikator“ – oder, anders ausgedrückt, von einer „Steigerung der Produktivität ohne Lohnerhöhungen“, was nichts weiter als leeres Gerede ist.
Wie ich bereits mehrfach betont habe, liegt der Beweis für die Wirksamkeit von KI in den tatsächlichen Ergebnissen. Wir haben viel darüber gehört, was sie leisten kann , aber wir haben bisher wenig Nutzen daraus gesehen . Und genau das räumt auch Amodi ein.
Er weist darauf hin, dass eine Werbung, die behauptet, künstliche Intelligenz könne Krebs heilen, völlig irreführend wäre. Er sagt: „Was funktionieren wird, ist die tatsächliche Heilung von Krebs .“
Amoudi deutete Anthropics ethisches Engagement in diesen Fragen an und erklärte, das Unternehmen verstärke seine Bemühungen, KI in Biologie und Medizin einzusetzen . Doch die Ergebnisse stehen noch aus.
Amoudis Beitrag thematisierte auch die Machtkonzentration im Bereich der KI und griff dabei einige der jüngsten Kritikpunkte Mark Zuckerbergs hinsichtlich des optimalen Einsatzes von KI zum Wohle aller auf. Amoudis Ansicht unterschied sich leicht von der Zuckerbergs; er plädierte für ein ausgewogenes Verhältnis zwischen Regulierung, Aufsicht, Tests und transparenten, gewichteten Modellen.
Amoudi merkt an, dass er in gewisser Hinsicht mit der „Pacing the Frontier“-Bewegung übereinstimmt, und erklärt, dass die Anwendung von Kontrollen auf Spitzenforschungslabore das Tempo der technologischen Entwicklung „anpassen“ würde, während gleichzeitig der Rest der Branche die Möglichkeit hätte, aufzuholen.
Der offensichtliche Fehler dieses Plans besteht darin, dass kein anderes Land dieser Regelung unterliegen würde, was die US-Dominanz in der künstlichen Intelligenzindustrie gezielt behindern könnte – etwas, das die Trump-Regierung stets kategorisch ausgeschlossen hat.
Bietet künstliche Intelligenz autoritären Infrastrukturen mehr Vorteile als den Menschen?
Systeme der künstlichen Intelligenz werden in Überwachungsinfrastrukturen weit verbreitet eingesetzt. Bis zum Abbruch der Zusammenarbeit mit dem Pentagon hatte Anthropic mit dem Verteidigungsministerium an der Lieferung von KI-Systemen gearbeitet. Anthropic weigerte sich, die Nutzung seiner Technologie für Massenüberwachung und vollautonome Waffensysteme zu gestatten und verlor daraufhin den Auftrag.
Zum Glück für das US-Verteidigungsministerium (DoD) schloss OpenAI einen neuen Vertrag mit dem Pentagon ab und füllte schnell die von Anthropic hinterlassene Lücke, während gleichzeitig ein Verbot für die Nutzung seiner Technologie zur Spionage gegen Amerikaner auferlegt wurde.
Das bedeutet jedoch nicht, dass andere Unternehmen dieselben ethischen Standards einhalten. Flock beispielsweise stieß mit seinen KI-gestützten Kameras, die zur Erfassung von Fahrzeugkennzeichen in den USA entwickelt wurden, auf breiten Widerstand.
Das System ist eigentlich dazu gedacht, die Fahrzeuge von Verdächtigen beim Überqueren von Grenzen und Hoheitsgebieten zu identifizieren, hat sich aber stattdessen als Mittel für Strafverfolgungsbehörden bewährt, um ehemalige Komplizen zu verfolgen , Kollegen zu überwachen und deren romantische Interessen zu überwachen.
Auch im Bereich der Verkehrsüberwachung und bei Geschwindigkeitskameras werden Systeme künstlicher Intelligenz eingesetzt. Dies hat als Grauzone in der Polizeiarbeit große Aufmerksamkeit erregt, insbesondere im Hinblick auf Systeme, die Kennzeichen falsch erkennen oder fehlerhaft konfiguriert sind.
In US-amerikanischen Strafverfahren liegt die Beweislast beim Staat, nachzuweisen, dass jemand eine Straftat begangen hat. Allerdings wurden einige automatisierte Verkehrskontrollsysteme, die Strafzettel an die falschen Fahrzeuge ausgestellt haben, heftig kritisiert, da sie von den Angeklagten verlangen, ihre Unschuld vor Gericht zu beweisen und damit den Grundsatz der Beweislast im Strafrecht ins Gegenteil verkehren.
Und genau hier liegt das Hauptproblem, das alle ignorieren.
Die Technologie für künstliche Intelligenz von Palantir wird in den US-amerikanischen Militär- und Strafverfolgungsbehörden eingesetzt. Insbesondere nutzt die US-Einwanderungs- und Zollbehörde (ICE) sie zur Überwachung mutmaßlich illegaler Einwanderer. Palantirs Technologie kommt aber auch in der Drohnenbildanalyse, bei Präzisionsschlägen über große Entfernungen, in der Datenanalyse und in der militärischen Planung zum Einsatz.
Es war zweifellos ein entscheidendes Instrument, um den „Weltrekord“ für die meisten „gewonnenen“ Kriege zu erreichen.
Künstliche Intelligenz ist eine gute Nachricht, wenn man nichts zu verbergen hat und gerne auf der Seite der „Guten“ steht, aber diese Definition ändert sich ständig.
Kommentarfunktion ist geschlossen.