Anthropic: Forschern wird die Nutzung von Claude für potenzielle Forschung an biologischen Waffen untersagt

Große KI- Unternehmen warnen schon lange davor , dass ihre Modelle die Entwicklung biologischer Waffen begünstigen könnten. In diesem Zusammenhang gab Anthropic bekannt, die Dienste für eine Gruppe von Forschern bereits aufgrund schwerwiegender Bedenken wegen deren Aktivitäten eingestellt zu haben. Berichten zufolge überwachen neue Regulierungsbehörden den Missbrauch von KI , was die Bedeutung dieser Warnungen unterstreicht.

Laut einem Bericht der New York Times hat Anthropic in diesem Jahr mehrere Nutzer gesperrt, nachdem Aktivitäten festgestellt wurden, die höchst verdächtig erschienen und auf Forschung an biologischen Waffen hindeuteten.

Zur Klarstellung: Anthropic verfügt über keine endgültige Bestätigung dafür, dass diese Forscher versuchten, tödliche Krankheitserreger zu entwickeln.

Fortgeschrittene Biologie ist von Natur aus „doppelt nutzbar“; Forschung, die zu einem lebensrettenden Impfstoff führen könnte, könnte auch für gefährliche Zwecke missbraucht werden. Anthropic entdeckte dieses verdächtige Verhalten. Forscher umgingen Berichten zufolge geografische Beschränkungen, um auf die Cloud zuzugreifen, und unternahmen Schritte, um den Zweck ihrer Arbeit zu verschleiern. Dieses Muster reichte Anthropic aus, um den Dienst zu beenden.

Wie konnten sie Claudes Sicherheitsvorkehrungen umgehen?

Die Forscher haben Claude nicht im wörtlichen Sinne „gehackt“. Laut Anthropic fanden sie vielmehr Wege, sowohl ihren Zugang zum Modell als auch ihr letztendliches Ziel zu verschleiern.

In einem Fall soll ein Forscher über eine in den USA ansässige virtuelle Infrastruktur und mit einem automatisch generierten Konto aus einer nicht unterstützten Region auf die Cloud zugegriffen haben. Anthropic entdeckte außerdem, dass Cloud-Anfragen über eine Plattform geleitet wurden, die von zahlreichen Biowissenschaftlern, darunter Virologen ziviler und militärischer Einrichtungen, genutzt wird.

Die Forscher versuchten zudem, den Zweck ihrer Arbeit zu verschleiern, um die Auslösung von Cloud-Schutzmaßnahmen zu vermeiden . Dies ist insbesondere in der Biologie schwer zu erkennen, da eine einzelne Anfrage völlig legitim erscheinen kann, selbst wenn sie zu einem größeren, potenziell gefährlichen Projekt beiträgt.

Einem Bericht zufolge bat ein Wissenschaftler Claude um Unterstützung bei der Ausarbeitung eines Forschungsantrags zur genetischen Modifizierung des Chikungunya-Virus, um Eigenschaften wie Übertragbarkeit und Immunflucht zu untersuchen. Dieser Fall verdeutlicht, wie Claude für komplexe Aufgaben wie die Erstellung von Forschungsanträgen eingesetzt werden kann . Solche Forschung kann legitime wissenschaftliche Zwecke verfolgen, weshalb Anthropic erklärte, nicht feststellen zu können , ob die letztendlichen Absichten der Forscher gutartig oder böswillig waren.

Anthropic entschied jedoch, dass die Kombination aus sensiblen Recherchen und Versuchen, die Aktivitäten zu verschleiern, ausreichte, um die Konten zu schließen.

Warum ist die Biologie der ultimative Test für künstliche Intelligenz?

Künstliche Intelligenz kann weder Chemikalien in einer Petrischale mischen noch mit herkömmlichen Laborgeräten biologische Waffen herstellen. Aber sie kann ein starker Beschleuniger sein.

Für jemanden mit Erfahrung in der Laborarbeit kann ein leistungsfähiges KI-Modell komplexe Forschungsergebnisse aufschlüsseln, Daten analysieren, Probleme aufdecken und lösen sowie technische Fachkenntnisse erweitern. Es kann Menschen alles bieten, was sie benötigen, um anspruchsvolle Aufgaben einfacher und schneller zu erledigen.

Dies versetzt KI-Unternehmen in eine große Grauzone. Ein Rechtswissenschaftler und jemand, der eine Biowaffe entwickelt, würden wohl viele der gleichen Fragen aufwerfen. Missbrauch äußert sich nicht zwangsläufig in einem einzigen, eindeutigen Vorwurf. Jeder kann ein großes Projekt in Dutzende scheinbar harmloser Aufgaben zerlegen, was es Sicherheitssystemen sehr schwer macht, das Gesamtbild zu erfassen, insbesondere angesichts der wachsenden Besorgnis über KI-Missbrauch.

Hinzu kommt das Problem falsch positiver Ergebnisse. Sind diese Sicherheitsvorkehrungen zu streng, besteht die Gefahr, legitime wissenschaftliche Forschung zu behindern. Sind sie zu lasch, könnten potenziell gefährliche Aktivitäten unentdeckt bleiben.

Alles hängt von der menschlichen Absicht ab.

Es ist wichtig klarzustellen, was hier nicht geschehen ist, insbesondere nach Jacob Coxons gestrigem Rücktritt von Anthropic , als die Besorgnis über KI ihren Höhepunkt erreichte. Wir befürchten, dass Modelle außer Kontrolle geraten oder autonome Agenten eigenständig handeln, doch Claude geriet nicht außer Kontrolle, und keine autonomen KI-Agenten begannen eigenständig mit der Planung einer Biowaffe. Die Menschen hatten die Kontrolle.

Dadurch wird die Gefahr deutlich unmittelbarer. Die Sorge besteht hier nicht darin, dass eine superintelligente KI plötzlich beschließt, der Menschheit zu schaden. Vielmehr geht es darum, dass leistungsstarke Modelle Menschen Fähigkeiten verleihen, die sie sonst vielleicht nicht besitzen würden.

Für normale Nutzer, die Cloud zum Verfassen von E-Mails, Zusammenfassen von Dokumenten oder Schreiben von Code verwenden, ändert sich nichts. Doch für die Branche hat sich die Spielregeln geändert, was viele dazu veranlasst, ihre Cloud-Nutzung zu überdenken.

Was können KI-Unternehmen also wirklich leisten?

Für dieses Dilemma gibt es keine perfekte Lösung. Das Blockieren offensichtlicher Fragen funktioniert nur, wenn dem Nutzer klar ist, was er erreichen will. Zerlegt ein Nutzer ein potenziell gefährliches Projekt in Dutzende scheinbar harmloser Anfragen, benötigen KI-Unternehmen Schutzmechanismen, die das Gesamtbild erfassen, anstatt jede Anfrage isoliert zu beurteilen.

Dies könnte bedeuten, wiederholte Versuche zur Umgehung der Sicherheitsbeschränkungen des Modells zu erkennen, verdächtige Muster in den Interaktionen zu überwachen und die leistungsstärksten wissenschaftlichen Funktionen strenger zu kontrollieren. Unternehmen könnten neue Modelle auch vor der Markteinführung testen, um deren Eignung zur Unterstützung weniger erfahrener Personen bei potenziell gefährlichen biologischen Arbeiten zu ermitteln.

Doch jede zusätzliche Sicherheitsmaßnahme hat ihren Preis. Dieselben Systeme, die versuchen, die Entwicklung biologischer Waffen aufzudecken, könnten auch Forscher, die an einem solchen Projekt arbeiten, verdächtigen. Deshalb ist die Offenlegung durch Anthropic so wichtig. Der nächste Schritt für die Sicherheit von KI besteht darin, zu bestimmen, wann ein Verhaltensmuster, das ansonsten legitim erscheint, so gefährlich wird, dass ein Unternehmen eingreifen muss.