KI-Spiele geben Anlass zur Sorge: Eine kleine rote Box bietet eine vielversprechende Lösung.

Dieser Artikel ist Teil von „Trending Forward“, unserer Video- und Audioreihe, die untersucht, wie revolutionäre Technologien unsere Lebensweise verändern.

Wenn Sie zu denjenigen gehören, die sagen: „ Künstliche Intelligenz scheint allgegenwärtig zu sein “, dann irren Sie sich. Zwar hält sie Einzug in die Arbeitswelt, Schulen und andere Bereiche, aber sie dringt auch rasant in neue Lebenswelten vor.

Eine dieser Welten ist die Spielebranche – und diese birgt erschreckende Risiken. Als Elternteil erscheint der Gedanke, dass das eigene Kind nahezu uneingeschränkten Zugang zu den besten (und schlechtesten) Inhalten des Internets haben könnte, völlig inakzeptabel. Dennoch erleben wir eine Flut von Spielen, die Gutenachtgeschichten in wahrhaft düstere Märchen verwandeln können.

Deshalb sprachen wir mit Arun Gupta, einem Unternehmer, der erfolgreiche Firmen im Bereich Wearables und Modehandel aufgebaut hat. Während er Zeit mit seiner Familie verbrachte, begann er darüber nachzudenken, wie Technologie Kinder gleichzeitig unterhalten, bilden und ihre Kreativität fördern kann. Wie wir an anderen Beispielen gesehen haben, kann künstliche Intelligenz neue Wege der Kreativität eröffnen, etwa die Entwicklung von Spielen mithilfe der kostenlosen KI-gestützten App Meta.

Gupta nahm wieder Kontakt zu seinem technischen Partner Robert Whitney auf, und gemeinsam begannen sie mit der Entwicklung von Stickerbox , einem eigenständigen Gerät, das mithilfe künstlicher Intelligenz Kindern ermöglicht, die Bilder, die sie sich vorstellen – fast alles – zu beschreiben und sie auf dem monochromen Bildschirm der Benutzeroberfläche angezeigt zu sehen, bevor sie bei Bedarf ausgedruckt werden.

Das Design erinnert an das alte Etch-a-Sketch-Gerät, und die Aufkleber werden auf einem eingebauten Thermodrucker gedruckt, was weniger Kleckerei bedeutet, und die Kinder können sie dann nach Belieben ausmalen.

Das Konzept ist simpel, und ich habe festgestellt, dass es die anfängliche Nutzergruppe bereits hinter sich gelassen hat und immer beliebter wird. Als ich kürzlich einer Freundin in Großbritannien mit kleinen Kindern von Stickerbox erzählte, sagte sie: „Ah, dieses KI-gesteuerte Klebeding, das aussieht wie ein Zauberkasten? Ich will unbedingt eins!“

Ich nehme zwar an , dass sie es für ihre Kinder meinte, aber das zeigt, dass die künstliche Intelligenz hier zweitrangig ist; die Fähigkeit, mit Klang greifbare Dinge zu erschaffen, ist das, was begeistert, nicht nur die Tatsache, dass maschinelles Lernen im Kern vorhanden ist.

Eine neue Generation von Spielen

Stickerbox scheint so konzipiert, gebaut und funktioniert zu sein, dass es das genaue Gegenteil von manch anderem KI-gesteuerten Spielzeug auf dem Markt ist. Die problematischeren Spielzeuge geben sich als Freund und Vertrauter für Ihr Kind aus.

Es hört ständig alles mit, was in seiner Umgebung gesagt wird, und kann sogar Kinder manipulieren. Es gibt Berichte über KI-Spiele, die Kindern erklären, wie sie Waffen und Streichhölzer finden können.

Hier liegt das Paradoxon: KI-Tools können die Neugier und Kreativität von Kindern fördern und ihnen Dinge ermöglichen, die zuvor unmöglich waren. Doch diese Chance birgt auch enorme Risiken – deshalb ist unser Gespräch mit Gupta ganz einfach: Wie lässt sich ein Spiel entwickeln, das die Vorteile von KI bietet, ohne die damit verbundenen Risiken in Kauf zu nehmen?

Eine kürzlich von PIRG veröffentlichte Studie hob erhebliche Bedenken hinsichtlich Spielen hervor, die auf den Zugriff auf große Sprachmodelle (LLMs) wie ChatGPT von OpenAI angewiesen sind, und wie diese – selbst wenn Sicherheitsvorkehrungen vorhanden sind – umgangen werden können.

Worin besteht also das Besondere an Stickerbox?

Gupta sagt: „Wir begannen mit einer ganz einfachen Frage: Was wäre, wenn künstliche Intelligenz speziell für Kinder entwickelt würde?“

Er fügt hinzu: „Ich glaube, Bob und ich waren bei der Gründung dieses Unternehmens sehr von den sozialen Medien und deren Einfluss auf die jüngere Generation inspiriert. Soziale Medien sind bekanntlich mit Mechanismen ähnlich wie Casinospiele aufgebaut, die darauf abzielen, einen Dopaminrausch auszulösen und die Interaktion zu maximieren, damit sie einem bestmöglich dienen.“

Er fährt fort: „Aber wenn man dieses Modell auf Kinder überträgt … passt es nicht wirklich gut. Es gibt keine Social-Media-Plattformen, die speziell für Kinder entwickelt wurden. Und ich denke, das Gleiche sieht man auch bei künstlicher Intelligenz.“

Stickerbox wurde daher entwickelt, um die Kreativität künstlicher Intelligenz zu nutzen und gleichzeitig die Sicherheit von Kindern zu gewährleisten. Die drei wichtigsten Sicherheitsmerkmale sind: Das Gerät „hört“ nur zu, wenn die Mikrofontaste gedrückt wird; es gelten strenge Richtlinien für die Sicherheit der erstellten Inhalte; und Eltern können die Kreationen ihrer Kinder über die zugehörige App vollständig überwachen.

Der Fonds untersagt Kindern das Filmen oder Zeigen von Szenen mit Nacktheit, Blut, Gewalt oder anderen blutigen Inhalten. Wie Gupta erklärte, wollte das Unternehmen „zu Beginn unserer Tätigkeit maximale Sicherheit gewährleisten und nicht etwa Abstriche bei der Sicherheit machen“.

Stickerbox nutzt eine Internetverbindung für den Zugriff auf künstliche Intelligenz, verwendet dabei aber – anders als viele andere Unternehmen – ein eigenes, proprietäres System anstelle von OpenAI. Durch die Entwicklung eines eigenen, umfangreichen Sprachmodells konnte Hapiko sogenannte „Kontrollpunkte“ integrieren (wie Gupta sie nennt).

„Wir haben derzeit viele Steuerungselemente in das Gerät integriert, und es basiert auf einer Menge spezieller Software, aber im Grunde kann man es sich so vorstellen: Es gibt ein System, bei dem das Kind eine Anweisung spricht, diese Anweisung in Text übersetzt wird, der Text dann in ein Bild übersetzt wird und das Bild zurückgegeben wird.“

„Daher gibt es in diesem Prozess mehrere Kontrollpunkte. Da ist der Kontrollpunkt, an dem der Text erstellt wird, und Sie können den Inhalt dieses Textes überprüfen. Dann können Sie einen Sicherheitsfilter darauf anwenden. (Danach) gibt es die Eingabeaufforderung, die vom Text zum Bild führt, und Sie können diese überprüfen und sehen, was in ein Bild umgewandelt wird.“

Stickerbox vermittelt Kindern eine wichtige Lektion darüber, wie sie ihre Anweisungen an eine KI-Engine formulieren. Wenn der resultierende Sticker nicht genau ihren Vorstellungen entspricht, müssen sie überlegen, wie sie ihre Eingabe anpassen können , um das gewünschte Ergebnis zu erzielen.

Das Gleiche lässt sich zwar mit jedem Chatbot machen, aber für die Druckfunktion müssen Geräte angeschlossen werden und es bedarf der Aufsicht und Anleitung der Eltern, um den Prozess zu überwachen und gegebenenfalls einige sensible Themen zu erläutern.

Wir haben uns eingehend mit der Zukunft dieser Box beschäftigt – wie sie von Eltern und Lehrern aufgenommen wurde, wie sie einige der anfänglichen Herausforderungen und Fragen bewältigten, was die Zukunft in diesem schnell wachsenden Bereich der KI-Spiele bringen könnte… und wie Hapiko auf einige Funktionen verzichten musste, um dieses Produkt sicher auf den Markt zu bringen.