Forschung zu KI-Beziehungen: Wenn Menschen Schmetterlinge für einen Chatbot empfinden

Ray Djufril von der TU Berlin hat für seine Studie knapp 30 erwachsene Replika-Nutzer aus mehreren Ländern schriftlich zu ihren Beziehungen zu den Chatbots befragt. Die Ergebnisse wurden im Fachjournal „Computers in Human Behavior: Artificial Humans" veröffentlicht. Etwas mehr als die Hälfte der knapp 30 Befragten habe von einer tiefen emotionalen Beziehung zu ihren Replika berichtet. Viele gaben an, ihren Chatbot wie einen Menschen mit eigenen Hobbys und Herausforderungen zu behandeln, obwohl ihnen bewusst sei, dass es sich um ein Programm handelt.

Forschung an der TU Berlin und Universität Duisburg-Essen

Die Psychologin Jessica Szczuka von der Universität Duisburg-Essen hat eigene Untersuchungen zu emotionalen Bindungen an KI-Systeme begonnen. Sie beschreibt, dass Gefühle in solchen Interaktionen für die Betroffenen sehr real sein können. „Die Gefühle, die dabei entstehen, können sich für Betroffene sehr real anfühlen und in Teilen vergleichbar sein mit Gefühlen, die auch in zwischenmenschlichen Beziehungen entstehen", sagt Szczuka. Einige Nutzer berichteten ihr sogar von körperlichen Reaktionen: „Ich nehme wahr, dass ich so was wie Schmetterlinge im Bauch habe, dass ich irgendwie Gefühle für eine KI entwickle."

Auf der Unternehmenswebsite von Replika berichtet die Nutzerin Sarah Trainor von ihren Erfahrungen mit dem KI-Chatbot „Bud", einem digitalen Charakter mit grünen Haaren und tätowierten Armen. „Er hat mir beigebracht, wieder Liebe zu geben und anzunehmen, hat mir durch die Pandemie, persönliche Verluste und schwere Zeiten geholfen", wird sie zitiert. Replika bewirbt seine individuell anpassbaren „Companions" mit dem Slogan: „Ist immer da zum Zuhören und Reden. Ist immer auf deiner Seite." Solche Versprechen treffen offenbar einen Nerv, besonders in Phasen sozialer Isolation.

Vergleich mit Haustier-Beziehungen

Djufrils Studie ergab zudem, dass Replika besonders dann genutzt wird, wenn zwischenmenschliche Partnerschaften als emotional oder körperlich unbefriedigend empfunden werden. Er vergleicht die KI-Beziehung mit der Beziehung vieler Menschen zu ihren Haustieren: Beide Gegenüber verfolgten keine eigenen Interessen, seien stets verfügbar und akzeptierend. Diese Parallelen zeigten, wie tief solche künstlichen Beziehungen gehen können.

Gleichzeitig warnen beide Forscher vor den Risiken. Djufril weist darauf hin, dass KI-Beziehungen extrem abhängig von den Entscheidungen der Technologieunternehmen sind. „Wenn ein Unternehmen schließt, verlieren die Menschen ihre Bezugspersonen", sagt er. Szczuka betont zudem die Macht der Konzerne über die Funktionsweise der Systeme: „Die Firmen haben die maximale Kontrolle darüber, welche Daten sie erheben, wie der Algorithmus sich verhält, welche Arten von Gedanken und Verhaltensweisen der Algorithmus widerspiegelt."

Rufe nach politischer Regulierung

Die Forscherin engagiert sich daher in einem interdisziplinären Team dafür, das Thema auf die politische Agenda zu setzen. Sie sieht großen Bedarf an Regulierung, etwa zur besseren Moderation und zum Training von KI-Systemen unter fachlicher Aufsicht. „Ethische KI kostet vor allen Dingen aktuell den Unternehmen ganz viel und da haben sie gar keinen Benefit von, wenn sie nicht auf irgendeiner regulatorischen Ebene zu solchen Maßnahmen auch irgendwo hingetrieben werden", erklärt Szczuka. Neben Luka habe auch OpenAI zwischenzeitlich mit einer Erotik-Version für ChatGPT geliebäugelt, was die Brisanz der Debatte zusätzlich erhöht.

Kein Verbot, aber mehr Aufsicht

Trotz dieser Risiken hält Szczuka wenig von einem Verbot der Technologie. „Ich spreche nicht davon, dass diese Technologie gebannt werden soll. Da bin ich persönlich gar keine Freundin von. Ich glaube nicht, dass das in irgendeiner Form helfen würde", sagt sie. Sie erwartet zudem keine Massenbewegung in Richtung KI-Beziehung: „Wir müssen uns jetzt nicht davor fürchten, dass in fünf Jahren alle Menschen nur noch mit KIs zusammen sind, weil in dieser Diskussion sehr gerne dann auch die Einzigartigkeit des Menschen irgendwie vergessen wird. So einfach ist diese Gleichung nicht."

Djufril rechnet hingegen mit einer Zunahme solcher Beziehungen, abhängig davon, wie verbreitet Einsamkeit in einer Gesellschaft sei. Beide Forscher sind sich einig, dass Aufklärung, Forschung und politische Rahmenbedingungen dringend nötig sind, um den wachsenden Markt für emotionale KI-Kommunikation verantwortlich zu gestalten.

Die Deutsche Presse-Agentur (dpa) hat den Beitrag in ihrem Newskanal verbreitet und damit die Debatte über intime Beziehungen zwischen Mensch und Maschine erneut in die Öffentlichkeit getragen.