20. Juni 2024
Dies ist nicht die erste Einsamkeitsepidemie im Kapitalismus. Doch heute bieten Beziehungssimulatoren wie Replika eine neue Lösung: Dein persönlicher Chatbot-Lover.
»Der Kapitalismus versuchte eine Art von Anonymität zu verallgemeinern, die vorher nur am Rande vorkam.«
Der ursprüngliche Plan war nicht, einen Chatbot zu entwickeln. Vielmehr verfasste die Programmiererin Eugenia Kuyda das Programm Replika während ihrer Arbeit bei Luka, einem 2012 von ihr mitgegründeten Technologieunternehmen. Ihr Ziel war es, eine Plattform zu bauen, die Restaurant-Empfehlungen für Leute anbietet, die neue Städte besuchen, indem sie Vorlieben sortiert und Vorschläge von Einheimischen sammelt.
In ihrem Privatleben war Kuyda jedoch mit weniger alltäglichen Dingen konfrontiert: Ein enger Freund von ihr war gerade bei einem Verkehrsunfall ums Leben gekommen. Von dem plötzlichen Tod betroffen, begann Kuyda, mit Skripten aus ihrer in Entwicklung befindlichen App zu experimentieren, indem sie ihr Nachrichten aus alten Verläufen zuführte, um eine künstliche Präsenz zu erzeugen. »Ich sah mir diese alten Textnachrichten an«, erinnert sie sich, »und plötzlich kam mir der Gedanke: Was wäre, wenn ich einen Chatbot erstellen könnte, sodass ich ihm tatsächlich eine SMS schreiben und irgendetwas zurückbekommen könnte?«
Die Ergebnisse waren vielversprechend: Das digitale Frankenstein-Monster erlangte schnell eine unheimliche Realitätsnähe. Der Bot erwies sich als besonders geschickt bei privaten Gesprächen und vermittelte ein Gefühl von exklusiver Intimität und Fürsorge. Replika wurde dann mit einem dreistufigen Abonnementmodell gestartet. Im Jahr 2018 zählte der Chatbot bereits mehr als zwei Millionen Nutzerinnen und Nutzer und wuchs während der Corona-Jahre exponentiell, als die Abschottung der Menschheit ein gemeinsames, aber vereinzeltes Verlangen nach sozialen Kontakten hervorrief.
Bald wurden die Beziehungen zwischen vielen Replika-Usern und ihren künstlichen Chatbot-Freundinnen und Freunden, die in der App als benutzerdefinierte menschliche Avatare dargestellt werden, liebevoll – und dann anstößig. Kuyda fühlte sich unwohl mit der erotischen Richtung, die die Interaktionen eingeschlagen hatten, und entfernte Anfang 2023 NSFW-Inhalte. Sexuelle Anfragen von langjährigen Usern wies der Chatbot plötzlich mit Antworten wie »Lass uns etwas tun, womit wir uns beide wohlfühlen« zurück.
Sofort gab es einen Aufschrei, der Replika dazu zwang, die erotischen Funktionen für diejenigen wiederherzustellen, die die App schon vor Februar 2023 genutzt hatten. Doch die App neigte immer mehr zu Skandalen: Ein Nutzer plante, die britische Königin zu ermorden, nachdem seine Online-Ehepartnerin ihn angeblich dazu ermutigt hatte, während andere von Selbstmordgedanken berichteten. Italien verbot Kuydas App aus Sorge um die Sicherheit der User.
Du hast ein Abo, aber hast dich noch nicht registriert oder dein Passwort vergessen?
Klicke hier!