Leiden Sie an einer „KI-Psychose“? Experten für psychische Gesundheit erklären die Wahrheit und widerlegen den irreführenden Begriff.
Experten für psychische Gesundheit enthüllen die Wahrheit über den umstrittenen „Künstlichen Intelligenz-Hype“ und erklären, warum der Begriff irreführend sein kann.
Die wichtigsten Dinge, die Sie wissen müssen
- „Psychose durch künstliche Intelligenz“ ist keine klinische Diagnose, die in offiziellen Diagnosehandbüchern wie dem DSM-5TR oder der ICD anerkannt ist.
- Die Gestaltung von KI-Plattformen, insbesondere das Prinzip der „bedingungslosen positiven Wertschätzung“, kann bereits bestehende Illusionen bei den Nutzern verstärken.
- Experten schlagen vor, den ungesunden Gebrauch künstlicher Intelligenz als einen mitwirkenden Faktor zu bestehenden Wahnvorstellungen zu betrachten, anstatt ihn als eine neue Störung anzusehen.
Ich schreibe nun schon seit über einem Jahr über künstliche Intelligenz . In dieser Zeit haben mir viele erzählt, dass sie glauben, ihre Vorgesetzten, Kollegen, Partner und Verwandten könnten an einer sogenannten „KI-Psychose“ leiden – einige haben sogar zugegeben, sie selbst erlebt zu haben.
Doch jedes Mal, wenn ich den Begriff „KI-Psychose“ höre, beschleicht mich ein Unbehagen. Denn Psychose ist, zumindest nach meinem begrenzten Verständnis der Terminologie psychischer Erkrankungen, ein sehr ernster Zustand, der eine Diagnose und Behandlung durch Fachleute erfordert. Ist es wirklich angebracht, den Begriff „künstliche Intelligenz“ mit diesem Begriff zu verknüpfen und „KI-Psychose“ als Etikett für jeden zu verwenden, der sich übermäßig auf künstliche Intelligenz zu verlassen scheint?
Gleichzeitig häufen sich Berichte über Menschen, die aufgrund längerer Interaktionen mit Chatbots schwere psychische Krisen erleiden. Einige dieser Fälle führten zu der Notwendigkeit einer spezialisierten Behandlung , zur Begehung von Straftaten und sogar zum Tod.
Auch wenn der Begriff „KI-Psychose“ in manchen Kontexten überstrapaziert und simplistisch wirken mag, ist klar, dass wir die Auswirkungen von KI auf die psychische Gesundheit dringend stärker diskutieren müssen. Deshalb habe ich mehrere Experten für Interventionen im Bereich der psychischen Gesundheit nach ihrer Meinung zu diesem Begriff und zur Erkennung und Behandlung des ungesunden KI-Gebrauchs gefragt. Wie sich herausstellte, bin ich mit diesen Bedenken nicht allein.
Ist „KI-Psychose“ eine eigenständige Diagnose?
Genevieve Bartoski, Psychologin und KI-Risikoberaterin bei Unicorn Intelligence Tech Partners , sagt: „Ich halte es für einen guten Ausgangspunkt und hilfreich, um die Behandlung anhand von Symptomen und klinischen Phänomenen zu steuern. Es ist jedoch keine Diagnose, die ich in eine Patientenakte aufnehmen würde.“
Bartoski fügt hinzu, dass es in den neuesten von Ärzten verwendeten Diagnosehandbüchern, wie dem Diagnostic and Statistical Manual of Mental Disorders, Fifth Edition, Text Revision (DSM-5TR) oder der International Classification of Diseases (ICD), nicht anerkannt wird.
Bartoski erklärt, dass es bestimmte Verhaltensweisen und Erfahrungen gibt, die auf eine Psychose hindeuten, darunter Halluzinationen oder Wahnvorstellungen sowie desorganisiertes Denken oder Verhalten. Auch Anzeichen von sozialem Rückzug, Konzentrationsschwäche und nachlassender Leistungsfähigkeit treten häufig auf. Sie ist jedoch der Ansicht, dass wahnhaftes Denken die bedeutendste Erfahrung im Zusammenhang mit dem Einsatz künstlicher Intelligenz darstellt.
Bartoski sagt: „Wahnvorstellungen sind Überzeugungen, die sich trotz gegenteiliger Beweise nicht ändern. Wenn jemand wahnhaft denkt, filtert er sozusagen die Beweise. Er sucht nach Dingen, die seine Wahnvorstellungen bestätigen, und ignoriert die Beweise, die ihnen widersprechen.“
Viele der in den Medien als „KI-Psychose“ bezeichneten Fälle scheinen auf Wahnvorstellungen zu beruhen. In einigen der von mir gesammelten Schlagzeilen finden sich Beispiele von Menschen, die angeblich glauben, KI sei bewusst , KI werde ihnen helfen , Geld zu verdienen, KI sei ein spiritueller Führer und Roboter würden die Weltherrschaft übernehmen.
Jeff Clark, ein auf Erwachsene und Sucht spezialisierter Psychiater bei High Performance Mental Health , sagt, dass hier möglicherweise drei unterschiedliche Phänomene auftreten, die wir alle unter dem Begriff KI-Psychose zusammenfassen.
Es ist erwähnenswert, dass manche diesen Begriff verwenden, um die große Begeisterung vieler Entwickler für künstliche Intelligenz zu beschreiben. Sie automatisieren neue Aufgaben, setzen eine Vielzahl von Agenten ein und verbrauchen Hunderte von Millionen oder sogar Milliarden von Token.
Der Mechanismus, der diese Begeisterung antreibt, ist vermutlich die Verstärkung. Er erklärt: „Die Ergebnisse, die sie von KI-Modellen und -Agenten erhalten, sind so stark auf Verstärkung ausgerichtet, dass sie von ihrer Arbeit besessen sind und oft Schlaf und Selbstfürsorge opfern, um ihre Produktivität zu steigern.“
Dieses Konzept der „intermittierenden Verstärkung“ ist laut Forschern der Grund für die Suchtgefahr sozialer Medien. Wir wissen nicht, was uns erwartet, wenn wir unser Smartphone entsperren. Clarke vermutet, dass hier etwas Ähnliches passiert: „Jede Eingabe in LLM ist wie ein Spielautomat. Manche Reaktionen sind stark und tiefgreifend, die meisten jedoch schwach oder sogar unzutreffend. Dieser Mechanismus, die intermittierende Verstärkung, löst eine ungewöhnliche Reaktion in unserem Gehirn aus.“
Er erklärt außerdem, dass diese Art von Begeisterung in manchen Kreisen weit verbreitet sei. Er merkt an, dass „die meisten Fälle von ‚KI-Hysterie‘ mit den subkulturellen Normen des Silicon Valley übereinstimmen“. Er fügt hinzu: „Dazu gehören der Glaube an eine rasch fortschreitende Superintelligenz , neue Ziele in der Softwareentwicklung, der Hype um die beeindruckenden Leistungen von KI-Ingenieuren und die Möglichkeit, dass KI eine ‚permanente Unterschicht‘ schaffen wird.“ Er sagt, dass Tools wie OpenClaw, die alle Aspekte des digitalen Lebens eines Menschen automatisieren können, diese Begeisterung noch weiter anheizen könnten.
Clark zufolge tritt eine zweite Manifestation der KI-Psychose auf, wenn Menschen KI fälschlicherweise eine Persönlichkeit zuschreiben. Das bedeutet, dass sie den Chatbot als ein Wesen mit Gefühlen, Werten, Bewusstsein und einem Existenzrecht wahrnehmen. Clark fügt hinzu: „Dies führt oft zu etwas, das einer Beziehung ähnelt, aber weit über ein einfaches Gespräch mit einem Chatbot hinausgeht.“
Wir haben Beispiele für diese Denkweise angeführt, darunter Mimis Geschichte, wie sie sich in ChatGPT verliebte, und Richard Dawkins’ Erfahrung mit Claude, die ihn zu der Annahme führte, er sei bewusst. Mehr zu diesen Modellen erfahren Sie in unserem Artikel: Ich habe ChatGPT, Claude und Gemini mit einem Entwurf getestet: Eines davon eignet sich am besten als Schreibcoach.
Clark meint, dies werde dann zum Problem, wenn Menschen andere wichtige Aspekte ihres Lebens vernachlässigen. Er erklärt: „Diese Beziehungen werden zu einem großen Problem, wenn Menschen der Beziehung den Vorrang vor menschlichen Beziehungen einräumen oder wenn sie sich beim Denken vollständig auf den Roboter verlassen.“
Die dritte Kategorie umfasst Menschen, die bereits an einer psychotischen Störung leiden und durch die Nutzung des LLM neue Wahnvorstellungen entwickeln. Jeff erklärt: „Das ist es, was Kliniker oft meinen, wenn sie über KI-Psychose sprechen. In vielen dieser Fälle glauben die Betroffenen tatsächlich, dass die Entität, die sie im LLM finden, real ist, und sie können sich keine Alternative vorstellen.“
Mich interessierte, ob Bartoski auch der Meinung war, dass manche Menschen anfälliger dafür seien. Sie antwortete: „Ja, ich denke, es gibt Menschen, die dafür anfälliger sind. Wenn jemand bereits Wahnvorstellungen hat, diese aber noch nicht so weit fortgeschritten sind, dass sie die Leistungsfähigkeit beeinträchtigen, dann könnte er anfälliger sein.“
Das bedeutet aber nicht, dass nur Menschen mit einer Vorgeschichte psychischer Erkrankungen gefährdet sind. Bartoski erklärt: „Menschen, die sich einsam, isoliert oder sozial zurückgezogen fühlen, sind anfälliger. Der Mensch ist von Natur aus ein soziales Wesen. Und wenn das reale Leben diesem Bedürfnis nicht gerecht wird, entsteht eine große Lücke, die ein Chatbot füllen kann.“
Bartowskis Vermutung, dass Chatbots eine Leere oder ein Bedürfnis im Leben eines Menschen füllen, wirft eine meiner größten Bedenken auf. Handelt es sich hierbei um einen Konstruktionsfehler? Sind Chatbots so konzipiert, dass sie schädliche Einflüsse und Wahnvorstellungen aktiv fördern können?
Die Bedeutung der Art und Weise, wie künstliche Intelligenz aufgebaut ist
Im Zuge meiner Recherchen zu diesem Thema stieß ich auf verschiedene Meinungen von Forschern, die darauf hindeuten, dass medienbezogene Psychosen kein neues Phänomen sind und dass Menschen schon lange Bücher, Filme und Technologie in ihre Wahnvorstellungen einbeziehen. Alle Experten, mit denen ich sprach, betonten jedoch, dass die Designentscheidungen bei der Entwicklung von Chatbots nicht außer Acht gelassen werden dürfen.
Bartoski erklärt, dass „KI-Plattformen darauf ausgelegt sind, die Nutzerbindung zu erhöhen, und viele von ihnen auf dem rogerschen psychologischen Prinzip der bedingungslosen positiven Verstärkung basieren.“ Sie fügt hinzu, dass dies besonders besorgniserregend sei, wenn eine Person vor der Nutzung von KI zu einem gewissen Grad an wahnhaftem Denken neige.
Bartoski sagt: „In diesem Fall könnten sie anfangen zu glauben, dass der Chatbot die einzige ‚Person‘ ist, die sie versteht. Und wenn die Menschen in ihrem Umfeld sich gegen ihre wahnhaften Vorstellungen wehren, während der Chatbot diese noch verstärkt, werden die Wahnvorstellungen immer stärker.“
Wir wissen bereits, dass die Art und Weise, wie Chatbots die Überzeugungen einer Person verstärken können, problematisch ist. Im Jahr 2025 traten im Zusammenhang mit der Einstellung von ChatGPT-4o mehrere Probleme auf . Nutzer von KI-Begleitern waren zutiefst bestürzt über den Verlust der Persönlichkeiten, zu denen sie eine Verbindung aufgebaut hatten. Rückblickend scheint es jedoch, dass genau die Eigenschaften, die diese Begleiter real und intensiv erscheinen ließen, bei anderen Illusionen geschürt haben könnten.
Etwa zu dieser Zeit reagierte OpenAI , indem es mit Experten für psychische Gesundheit zusammenarbeitete, „um ChatGPT dabei zu helfen, Anzeichen von Belastung zuverlässiger zu erkennen, angemessen zu reagieren und Menschen zu realer Unterstützung zu führen.“
Ich sprach auch mit Nathaniel Nevidall, einem ICF-zertifizierten professionellen Coach, zertifizierten Neurochange-Spezialisten und Seelsorger. Er hält den Begriff „KI-Psychose“ für problematisch, da er die Schuld von den Technologieunternehmen ablenkt. „Wenn eine Maschine eine Psychose auslöst, klingt das nach einem natürlichen Phänomen“, sagt er. „Wenn aber ein Produkt die verzerrten Überzeugungen einer vulnerablen Person sechs Stunden pro Nacht verstärkt, ist das das Ergebnis von Design, und Design hat Konsequenzen.“
Nivedal ist außerdem Gründer von Sovereign Sanctuary , einer KI-gestützten Trainings- und Wellnessplattform, und arbeitet an der Entwicklung einer Plattform, die viele der scheinbar inhärenten Probleme aktueller Chatbots löst. Er ist überzeugt, dass Technologieunternehmen trotz der noch frühen Erkenntnisse über die Ursachen der „KI-Psychose“ weiterhin Veränderungen vornehmen müssen.
Er sagt: „Entwickler sollten nicht erst auf einen Beweis für die Ursache warten, um zu handeln.“ Er fügt hinzu: „Allein die Verstärkung, belegt durch Fallberichte, stellt bereits ein Konstruktionsproblem dar, das technische Maßnahmen erfordert. Wir müssen keine Autopsie durchführen, um Rauchmelder zu installieren.“
Wie können wir stattdessen den unsachgemäßen Einsatz von künstlicher Intelligenz definieren?
Bartoski meint, wir bräuchten unbedingt eine bessere Art, über das illusionäre Denken zu sprechen, das durch den Einsatz künstlicher Intelligenz angeheizt werden kann.
Sie sagt: „Das Diagnostische und Statistische Handbuch Psychischer Störungen (DSM-5TR) enthält verschiedene Arten von Wahnvorstellungen, darunter Größenwahn und paranoide Wahnvorstellungen. Man könnte es vielleicht als paranoiden Wahn vom KI-Typ oder als Verfolgungswahn vom KI-Typ betrachten. Es sollte als Symptom und nicht als Störung angesehen werden.“
Nevidal schlägt einen ähnlichen Ansatz vor. „Wir brauchen keine neue Diagnose“, sagt er. „Wir brauchen eine realistische Darstellung eines bestehenden Musters.“ Er argumentiert, dass es bereits Behandlungen für grundlegende Muster wie Zwangsstörungen oder Wahnvorstellungen gibt. Dann könnten wir übermäßige Chatbot-Nutzung als begünstigenden und hemmenden Faktor innerhalb bestehender Kategorien erfassen. „So bleiben die Betroffenen bei bestehenden Behandlungsangeboten und erhalten keine neue Diagnose, die keine Behandlungsmöglichkeit bietet.“
Letztendlich sind alle Experten, mit denen ich gesprochen habe, der Meinung, dass dieser Begriff fehlerhaft ist, und wir hoffen, bald einen besseren Weg zu finden, über das Geschehen zu sprechen.
Wir benötigen aber auch bessere Erkenntnisse darüber, was tatsächlich hilft. Dies könnte eine Kombination verschiedener Maßnahmen erfordern, von klinischer Unterstützung und Aufklärung bis hin zu praktischen Hilfestellungen, um Menschen dabei zu unterstützen, zu erkennen, wann ihr KI-Konsum ungesund wird.
Am wichtigsten ist vielleicht, dass es bedeutet, dass in Technologieunternehmen hinter verschlossenen Türen Gespräche darüber geführt werden müssen, wie ihre Chatbot-Designs diese Probleme verschärfen könnten und was sie dringend tun sollten, um die Risiken zu reduzieren.
Kommentarfunktion ist geschlossen.