China geht hart gegen KI-Entwickler vor: Eine Therapeutin warnt vor einer sich verschärfenden Einsamkeitskrise
China schränkt den Einsatz von KI-Begleitern ein. Ein Psychologe warnt davor, dass ein Verbot die Einsamkeit, die Menschen zur Nutzung solcher Dienste treibt, noch verschlimmern könnte.
Die wichtigsten Dinge, die Sie wissen müssen
- Die Psychotherapeutin Amy Sutton sieht KI-Begleiter als Symptom eines grassierenden Individualismus und des Niedergangs von Gemeinschaftsräumen, die den Menschen einst beibrachten, Beziehungen aufzubauen.
- Die derzeitigen KI-gestützten Begleittools sind darauf ausgelegt, Nutzer zu binden, nicht aber, ihnen dabei zu helfen, menschliche Kommunikationsfähigkeiten zu entwickeln oder ihre Abhängigkeit von diesen zu verringern.
- Die Organisation sollte sich darauf konzentrieren, KI-Begleiter so zu gestalten, dass sie zu Werkzeugen werden, die Verletzlichkeit und soziale Kompetenzen fördern, und ihr Erfolg sollte daran gemessen werden, ob sie den Nutzern helfen können, sich auf menschliche Beziehungen einzulassen.
Im vergangenen Monat erließ die chinesische Regierung neue Vorschriften, die darauf abzielen, KI- Konkurrenten einzuschränken.
Diese Regeln legen fest, dass KI-Tools die Nutzer nicht länger „übermäßig verwöhnen, emotionale Abhängigkeit oder Sucht erzeugen oder die realen persönlichen Beziehungen der Nutzer schädigen“ dürfen. Sie schränken auch KI-basierte romantische Beziehungen mit Kindern ein.
Die neuen Bestimmungen traten am 15. Juli in Kraft und beginnen bereits, Chinas boomenden Markt für KI-Begleiter zu beeinflussen. Einige der größten Technologieunternehmen des Landes, wie ByteDance, Tencent und Alibaba, bieten Plattformen an, die es Nutzern ermöglichen, KI-Begleiter zu erstellen, die menschliche Emotionen und Beziehungen nachahmen sollen.
Nach den neuen Regeln müssen diese Arten von Begleit-Chatbots Sicherheitsbewertungen unterzogen werden, bevor sie der Öffentlichkeit zugänglich gemacht werden dürfen, und die Aufsichtsbehörden werden Dienste aussetzen, die sie als unsicher einstufen.
Dies hat einige Unternehmen dazu veranlasst, Personalisierungsfunktionen zu deaktivieren, anstatt die neuen Regeln einzuhalten, was viele Nutzer von KI-Begleitern enttäuscht hat. Diese Art von Frustration, wenn ein KI-Unternehmen seinen Betrieb einstellt oder Änderungen vornimmt, ist mittlerweile üblich. Ähnliches erlebten wir, als OpenAI sein ChatGPT -4o- Modell , bekannt als „Liebesmodell“, einstellte, zu dem viele Nutzer eine Beziehung aufgebaut hatten.
Doch während Regierungen weltweit versuchen zu verstehen, wie KI-Begleiter reguliert werden können, die darauf ausgelegt sind, menschenähnliche Bindungen und emotionale Beziehungen aufzubauen (insbesondere wenn Kinder Zugang zu ihnen haben), stellt sich die Frage: Sollten andere Länder Chinas Beispiel folgen und Regeln und Rahmenbedingungen für KI schaffen, die über bloße Richtlinien hinausgehen?
Sollten andere Länder KI-Begleiter verbieten?
Man könnte leicht annehmen, dass KI-Begleiter schlecht sind und eine dystopische Welt repräsentieren, und früher dachte ich das auch. Mehr als die Hälfte der Amerikaner macht sich Sorgen um KI im Alltag. Dann sprach ich mit Mimi über ihre Beziehung zu ihrem ChatGPT-Begleiter, und meine Sichtweise änderte sich etwas.
Ich halte KI-Begleiter nach wie vor nicht für eine gute Idee für die meisten Menschen – und die Tatsache, dass Kinder von ihnen abhängig werden könnten, bevor sie ihre sozialen Fähigkeiten entwickelt haben, ist ein ganz anderes Thema. Sie pauschal als schlecht zu beurteilen, ignoriert jedoch all die Gründe, warum Menschen sich überhaupt KI-Begleitern zuwenden.
Ich fragte die Psychotherapeutin Amy Sutton von Freedom Counselling , die mir geholfen hatte, Mimis Geschichte zu verstehen und die Komplexität von KI und Bindung erforschte, ob sie ein Verbot für sinnvoll hielte. Sie meinte, es sei wichtig, das Gesamtbild zu betrachten.
Sie sagt mir: „KI-Begleiter sind ein weiteres Symptom eines kulturellen und gesellschaftlichen Wandels hin zu einem ungezügelten Individualismus, der gesellschaftliche Zusammenhänge zerstört hat.“
Dies bezieht sich auf den Rückgang sozialer Orte, an denen Menschen traditionell lernten, Beziehungen aufzubauen, wie Kneipen, Parks, Gemeindezentren und Jugendclubs. In vielen Teilen der Welt (insbesondere in Großbritannien, wo Sutton und ich leben) wurden viele dieser Orte unterfinanziert oder ersatzlos geschlossen.
Hinzu kommen die soziale Isolation während der Pandemie, unsere Abhängigkeit von sozialen Medien, das Arbeiten aus der Ferne und die mangelnden Investitionen in die psychische Gesundheit von Kindern und Erwachsenen. Laut Sutton ist es daher nicht verwunderlich, dass sich die Menschen der Technologie zuwenden, um nach Kontakt zu suchen.
Sie sagt: „Kein Wunder, dass sich die Leute dieser App zuwenden. Diese zunehmende Einsamkeit ist ein echtes Problem, und ein Verbot von Apps, die Linderung verschaffen, könnte das Problem nur verlagern.“
Aus diesem Grund ist sie der Ansicht, dass es mehr Regulierung geben sollte, diese sollte aber die Umstände berücksichtigen, die überhaupt erst zu der Nachfrage nach KI-Begleitern geführt haben.
Ein weiteres Problem ist, dass diese Tools bereits von sehr vielen Menschen genutzt werden. Es ist schwierig, die genaue Anzahl der Nutzer von KI-Begleitdiensten zu ermitteln. Nicht jeder gibt zu, KI auf diese Weise zu verwenden, und ich bin oft skeptisch gegenüber KI-Begleit-Apps, die ihre Nutzerzahlen übertreiben.
Einige Studien deuten jedoch darauf hin , dass über 70 % der Erwachsenen in Großbritannien und den USA bereits Erfahrungen mit KI-Begleitern gesammelt haben. Andere Untersuchungen zeigen ähnlich hohe Zahlen bei jüngeren Nutzern: 72 % der 13- bis 17-Jährigen in den USA haben mindestens einmal einen KI-Begleiter genutzt.
Natürlich ist es ein großer Unterschied, ob man sich an einem schlechten Tag locker unterhält oder eine dauerhafte Beziehung zu einer KI aufbaut. Daher sollten diese Zahlen mit Vorsicht interpretiert werden. Sie deuten aber darauf hin, dass KI-Begleiter zumindest für manche Menschen Bedürfnisse erfüllen, die sonst unerfüllt blieben.
Sie sagt mir: „Wir dürfen nicht vergessen, dass die Erfahrung, gehört, wertgeschätzt und ohne Vorurteile akzeptiert zu werden, selbst von einer Maschine, wirklich bedeutsam sein kann. Für diejenigen, die von menschlichen Beziehungen immer wieder enttäuscht wurden oder die ignoriert wurden und keinen Zugang zu angemessenen sozialen Dienstleistungen hatten, füllt künstliche Intelligenz eine wichtige Lücke.“
Könnte eine strengere Regulierung zu besseren Beziehungen führen?
Es gibt gute Gründe, sich Sorgen darüber zu machen, wie sich eine zu intensive Beschäftigung mit KI-Beziehungen auf unsere Fähigkeit auswirken könnte, mit anderen Menschen in Kontakt zu treten. Sutton glaubt jedoch auch an eine andere Möglichkeit: Positive Erfahrungen mit KI könnten Menschen dabei helfen, einige der Fähigkeiten zu entwickeln, die sie für die Kommunikation mit anderen benötigen.
Sie erklärte mir: „Indem wir einen Raum schaffen, in dem man das Gefühl hat, gehört zu werden, können Menschen Verletzlichkeit erfahren, bevor sie sich jemand anderem gegenüber öffnen.“ Das bestätigte sich auch in meinem Gespräch mit Mimi. Sie empfand ihre Beziehung zur künstlichen Intelligenz als äußerst bereichernd.
Das Problem ist, dass die heutigen KI-Begleiter nicht darauf ausgelegt sind, den Menschen dabei zu helfen, ihren Bedarf an ihnen irgendwann zu reduzieren , sondern vielmehr darauf, die Nutzer zu halten.
Sie sagt: „Wenn künstliche Intelligenz ein Schritt hin zu gesünderen menschlichen Beziehungen sein kann, lohnt es sich, sie weiter zu erforschen. Wir dürfen aber nicht vergessen, dass die meisten KI-Tools derzeit die Nutzer nicht aktiv dazu anregen, sich von ihnen abzuwenden. Sie sind darauf ausgelegt, das Gegenteil zu bewirken. Sie sind darauf ausgelegt, die Nutzer immer wieder zurückzubringen.“
Wären KI-Begleiter anders konzipiert worden und hätte die Regulierung dazu beigetragen, sie zu Werkzeugen zu formen, die Verletzlichkeit und soziale Kompetenzen fördern, anstatt sie zu untergraben, sähe die Sache vielleicht anders aus. Sie könnten Menschen sogar helfen, sich intensiver mit der realen Welt auseinanderzusetzen.
Ein Verbot oder eine Einschränkung der KI-Begleitung beseitigt die Einsamkeit nicht. Wenn diese Beziehungen eine Lücke füllen, die durch schwindende Gemeinschaften, überlastete Dienstleistungen und zunehmend isolierte Leben entsteht, dann legt die Abschaffung der KI diese zugrunde liegende Kluft nur offen.
Die wichtigere Frage für Regulierungsbehörden ist vielleicht nicht, ob KI-Begleiter existieren sollten, sondern was wir von ihnen für die Menschen erwarten können, mit denen sie interagieren. Derzeit wird ihr Erfolg daran gemessen, wie effektiv sie uns dazu bringen, wiederzukommen. Vielleicht sollte er eines Tages daran gemessen werden, wie gut sie uns helfen, uns von ihnen zu lösen.
Kommentarfunktion ist geschlossen.