Kontroverse unter Google Workspace-Nutzern: Claude schreibt und versendet Gmail-Nachrichten ohne Erlaubnis.

Anthropic gab bekannt, dass die Integration von Cloud mit Gmail bedeutende Fortschritte gemacht hat, wobei künstliche Intelligenz nun in der Lage ist, E-Mails im Namen des Benutzers zu verfassen und zu versenden.

„Bitten Sie Claude, auf eine Konversation zu antworten, und er wird die Antwort entwerfen und senden. Sie bestimmen, wann er Ihre Genehmigung benötigt“, schrieb das Unternehmen in einem Update zu X.

Diese Nachricht löste jedoch umgehend eine Flut von Reaktionen und Kommentaren von Nutzern aus, die sich Sorgen über die potenziellen Folgen des Versands von E-Mails durch KI ohne deren Überprüfung machten.

Sollten wir um Vergebung bitten, nicht um Erlaubnis?

Obwohl der Cloud-Connector in Google Workspace schon seit einiger Zeit verfügbar ist, ist das Versenden einer E-Mail im Namen des Benutzers ein großer Fortschritt und vielleicht auch ein beunruhigender.

Letztendlich muss der Nutzer Claude aber immer noch zuerst bitten, die Aktion auszuführen, doch die Formulierung und der Inhalt der Nachricht könnten für manche Nutzer äußerst peinlich sein.

Das Tool ist derzeit nur für Nutzer mit kostenpflichtigen Cloud-Abonnements verfügbar. Anthropic hat den Prozess später auf seiner Supportseite präzisiert und darauf hingewiesen, dass die Genehmigungsanfrage die Standardeinstellung ist und dass Administratoren in Teams- und Enterprise-Plänen festlegen können, „ob Mitglieder diese Aktionen ohne erneute Genehmigungsanfrage ausführen dürfen“.

Das Update bedeutet auch, dass Cloud E-Mails weiterleiten, Dateien in Google Drive verwalten und Nutzern so helfen kann, die benötigten Informationen mit einem einzigen Befehl zu finden, sowie Dateien hochladen, Ordner erstellen und Google Docs-Dokumente direkt zu Konversationen und Projekten hinzufügen kann.

„Clude spiegelt Ihre aktuellen Berechtigungen wider – es kann nicht auf Informationen zugreifen, auf die Sie in Google Workspace nicht bereits Zugriff haben“, heißt es auf der Supportseite. Weiter wird darauf hingewiesen, dass Anthropic seine Modelle nicht mit Ihren Daten aus Ihren Gmail-, Drive- oder Kalender-Konnektoren trainiert, um sicherzustellen, dass Ihre privaten Informationen vertraulich bleiben.

Die Nutzer schienen hinsichtlich des neuen Tools gespalten zu sein: Einige befürworteten dessen Einführung, andere lehnten es entschieden ab.

Ein X-Nutzer schrieb: „Das Versenden der E-Mail war nie das Schwierige, das Schwierige war die Entschuldigung, die er später schickte.“

Ein anderer sagte : „Ich ziehe es vor, selbst zu denken, anstatt Claude antworten zu lassen, besonders wenn es um meine Mandanten geht. Ich will nicht, dass Claude mir eine Halluzination beschert, die mich dazu bringt, meine Kosten oder das geistige Eigentum eines anderen Mandanten preiszugeben. Claude kann sich entschuldigen, aber er kann Ihren Mandanten nicht zurückgewinnen. Wir müssen geistig fit bleiben und dürfen nicht zulassen, dass unsere geistigen Fähigkeiten völlig verkümmern.“