Character.AI beruhigt Eltern mit einer neuen Funktion zum Schutz ihrer Kinder

Character.AI, der beliebte KI-Chatbot-Dienst, hat Parental Insights hinzugefügt, eine neue Sicherheitsfunktion, die es Eltern ermöglicht, Berichte über die Aktivitäten ihrer Kinder auf der Plattform anzuzeigen.

Diese neue Sicherheitsfunktion, die das Unternehmen am Dienstag in einem Blogbeitrag ankündigte , bietet Eltern einen wöchentlichen Überblick darüber, wie ihre Teenager ihre Zeit auf Character.AI verbringen. Genauer gesagt informiert „Parental Insights“ Eltern über die durchschnittliche tägliche Nutzungsdauer der App durch ihre Kinder, die Charaktere, mit denen sie am häufigsten chatten, und die jeweils verbrachte Zeit. Der Inhalt der Chatbot-Konversationen wird jedoch nicht angezeigt, da dieser privat ist.

Jugendliche unter 18 Jahren haben die Möglichkeit, ihre Character.AI-Statistiken in den App-Einstellungen mit ihren Eltern oder Erziehungsberechtigten zu teilen, indem sie einfach ihre E-Mail-Adressen hinzufügen und ihnen eine Einladung zum Anzeigen senden. Eltern müssen kein Character.AI-Konto haben, um die wöchentlichen Nutzungsstatistiken ihres Teenagers anzuzeigen.

Die Funktion „Eltern-Einblicke“ ist Teil einer Reihe von Neuerungen, die auf die Bedenken von Eltern hinsichtlich der Nutzungsdauer von Character.AI durch ihre Kinder und die zahlreichen Klagen wegen schädlicher Inhalte, denen Kinder auf der Plattform ausgesetzt waren – von sexuell explizitem Material bis hin zu Botschaften, die zur Selbstverletzung anstiften –, eingehen sollen . Als Reaktion auf diese Beschwerden hat Character.AI seine Plattform aktualisiert und minderjährige Nutzer auf ein KI-Modell umgeleitet, das sensible oder anzügliche Inhalte vermeidet , Verstöße gegen die Nutzungsbedingungen erkennt und gegebenenfalls eingreift und Benachrichtigungen versendet, sobald die Nutzer eine Stunde auf Character.AI verbracht haben. Zusätzlich wurde ein Hinweis im Chat und in den App-Store-Einträgen implementiert, der die Nutzer daran erinnert, dass die KI-Charaktere, mit denen sie interagieren, nicht real sind und alles, was sie sagen, erfunden ist.

Liebe Eltern, wenn Sie eine E-Mail von Character.AI sehen, in der Ihr Teenager aufgefordert wird, sich seine wöchentlichen Aktivitätsstatistiken für die kommenden Tage anzusehen, betrachten Sie dies als Zeichen des Vertrauens. Ihre Berichte können Ihnen ein wenig Sicherheit geben, da Sie wissen, dass sie Ihnen zeigen möchten, wie Sie Ihre Zeit in der App sinnvoll nutzen können.