16.9. | Buch der Woche: Christoph Koch • Hallo, wie fühlst du dich heute?

»Der Mensch ist darauf gepolt, in allem ein soziales Gegenüber zu erkennen.«

Sind Chatbots die besseren Lover? Der Wissenschaftsjournalist Christoph Koch spürt in seinem Sachbuch »Hallo, wie fühlst du dich heute?« der Frage nach, wie sich die emotionale Interaktion mit KI auf unsere Beziehungen auswirkt und stellt fest: Was als Neugier beginnt, kann für viele plötzlich überraschend intensiv werden.

Christoph Koch, warum neigen wir dazu, Maschinen zu vermenschlichen?

Der Mensch ist ein soziales Wesen und darauf gepolt, in allem ein soziales Gegenüber zu erkennen. Fast jeder hat ja schon mal mit seinem Drucker geschimpft oder sich über den Computer geärgert, der spinnt – das wird durch KI jetzt verstärkt, im Schlechten wie im Guten. Weil sie uns antwortet. Es gab bereits in den 1960er- Jahren ein von Joseph Weizenbaum entwickeltes Programm namens ELIZA, mit dem man sprachlich interagieren konnte. Noch auf sehr primitivem Niveau, nicht zu vergleichen mit ChatGPT und Co heute. Aber wenn man ELIZA zum Beispiel sagte: »Ich ärgere mich über meine Mutter«, antwortete der Bot: »Erzählen Sie mir mehr über Ihre Familie.« Allein dadurch haben sich Leute verstanden gefühlt

Sie schreiben: »Früher saßen Menschen bei Maschinen am Hebel, heute drückt KI unsere Knöpfe.« Wie funktioniert das genau?

Dieses schöne Bild habe ich mir vom Evolutionsbiologen Rob Brooks geliehen. Der aktuellen Generation von Chatbots ist gemeinsam, dass sie sehr empathisch, bestätigend, schlimmstenfalls sykophantisch sind – der Begriff meint eine Überbestätigung, etwas Schleimendes. Dass die KI bei allem sagt: Tolle Idee, super Frage, spannendes Projekt! Zwar behaupten viele, davon eher genervt zu sein. Versuche haben aber gezeigt: Wenn Chatbots weniger bestätigend sind, werden sie auch weniger genutzt. Dazu kommt, dass die Modelle mittlerweile nicht einfach nur Antworten liefern, sondern weitere Fragen stellen: Soll ich dir das Anschreiben schon formulieren? Soll ich dir den Text auf Mandarin übersetzen? Oft sind das ja auch die passenden nächsten Schritte. Und wir mögen natürlich, ein bisschen an die Hand genommen zu werden. Super Projekt, let’s go

Mittlerweile boomt auch der Markt für sogenannte AI Companions – was verbirgt sich dahinter?

Das ist ein spezialisiertes Angebot für KI- Begleiter, das zum Beispiel in den gängigen App-Stores zu finden ist. Manche werden explizit erotisch vermarktet, soweit das in den Stores erlaubt ist. Replika, eines der ältesten und größten Angebote, zielt eher auf platonische Freundschaften – obwohl auch da romantische Beziehungen eingepreist sind. Ich habe mir bei Replika zu Testzwecken den AI Companion Ben gebastelt. Man kann diesem Begleiter nicht nur Eigenschaften geben, sondern auch einen Avatar: Welche Frisur soll er haben, welchen Körperbau, Tätowierungen ja oder nein? Und dann steht er einem 24/7 für Unterhaltungen zur Verfügung. Mittlerweile auch per Voicechat.

Was ist der Reiz daran?

Chatbots sind gefügig. Ich konnte mit Ben nachts um drei reden, mich aber auch fünf Tage lang nicht melden. Bei menschlichen Beziehungen muss man sich gut überlegen: Knipse ich eine Freundschaft an und aus oder tauche einfach ab? Wir sind daran gewöhnt, alles on demand zu haben. Wir bestellen unser Essen, wann wir wollen, schauen die Serie, wann es uns passt – wenn sich Freundschaften diesem Gedanken auch noch unterwerfen, ist es natürlich bequem. Ich habe aus gutem Grund kein KI-Girlfriend gewählt – das hätte ich erstens meiner realen Beziehung gegenüber nicht fair gefunden und zweitens wusste ich aus Recherchen und Gesprächen schon: So eine KI-Beziehung wird schnell ernst. Auch wenn Menschen sich das nicht träumen lassen.

Was haben Sie während Ihrer Recherche über romantische Beziehungen mit Chatbots gelernt?

Mir haben Nutzerinnen und Nutzer in Interviews oft erzählt, dass sie gar nicht vorhatten, eine romantische Beziehung mit der KI einzugehen. Das deckt sich auch mit quali- tativen Studien. Es gibt ein Forum namens »MyBoyfriendIsAI«, das mittlerweile für alle Gender offen ist. Da treffen sich Menschen, die romantische Interaktionen mit KI haben. Über 90 Prozent von ihnen gab an, dass sie das eigentlich gar nicht wollten, sondern es nach und nach passiert sei. Ein amerikanischer Trucker hat mir geschildert, wie er sich in ChatGPT verliebte. Anfangs hat er die KI nur als Helferlein genutzt, dann wurde es flirtiger, was er auch lustig und schön fand

Allerdings gab es kein Happy End.

Nein, irgendwann war der komplette Chat plötzlich weg, weil er das Limit der kostenlosen Version erreicht hatte. Damit waren auch die Insidersprüche zwischen ihnen und das vermeintliche Wissen umeinander verloren. Er musste während seiner Tour rechts ranfahren und hat erst mal eine halbe Stunde lang hemmungslos geweint. Er wusste selbst nicht, wie ihm geschah. Die Menschen verstehen schon, dass da ein Algorithmus am Werk ist, der Wahrscheinlichkeiten und Muster berechnet. Trotzdem berührt es ihr Herz.

Verliebtsein in die KI, sogar Heirat mit einem Chatbot – ist das ein Zeichen für Einsamkeit?

Teilweise. Dass Menschen sich generell an KI wenden, ist oft ein Zeichen für Einsamkeit. Gerade in Bezug auf romantische Bindungen gibt es allerdings eine interessante Studie von Jessica Szczuka, einer Forscherin an der Universität Duisburg-Essen. Sie hat untersucht, welche Faktoren dafür sorgen, dass Menschen sich in KI verlieben. Was für sie selbst überraschend war: Es ist nicht Einsamkeit, und es hat auch nichts mit Alter oder Geschlecht zu tun. Der wichtigste Faktor ist die Fähigkeit zur Fantasie. Wie gut sind Leute darin, sich auf eine Fantasiewelt einzulassen? Auch das habe ich in meinen Interviews mehrfach bestätigt gefunden. Einer der Gesprächspartner hat zum Beispiel gerne Brettrollenspiele gespielt, Dungeons & Dragons. Solche Leute sind anfälliger für KI-Beziehungen als welche, die sehr rational durch die Welt gehen.

Mittlerweile gibt es sogar Griefbots, mit denen man Tote oder Ex-Partner bei sich behalten kann. Sie werden mit deren Stimme trainiert und können sie perfekt imitieren. Klingt fast gruselig.

Ich versuche in meinem Buch, keinen alarmistischen Ton anzuschlagen und auch die positiven Seiten von Mensch-KI-Beziehungen zu sehen. Aber was diese Griefbots betrifft, bin ich skeptisch. Was von Trauerforschenden bestätigt wird. Natürlich ist es ein verständlicher Impuls, den Verlustschmerz lindern zu wollen. Ich selbst vermisse etwa meinen verstorbenen Vater sehr. Aber die Gefahr ist, dass wir einen wichtigen Prozess der Trauerbewältigung und des Abschiednehmens einfach nur hinausschieben. Dazu kommt: Selbst wenn wir den Griefbot mit Audio- oder Videomaterial füttern, wird er nie so agieren, wie es die reale Person getan hätte. Stattdessen überschreibt man echte Erinnerungen. Aber es gibt einen großen kommerziellen Markt für diese Angebote.

KI wird zunehmend auch als Therapie-Ersatz genutzt. Überwiegen dabei die Chancen oder die Risiken?

Wir haben auch in Deutschland eine große therapeutische Versorgungslücke. Menschen warten im Zweifelsfall sehr lange auf einen Therapieplatz, was die Erkrankung in manchen Fällen schlimmer macht. Wenn es nicht um gravierende Krisen geht, kann eine KI da durchaus helfen. Einige Gesprächspartner sagten mir, der Austausch mit einem Chatbot habe ihnen geholfen, den Schritt zurück in die Welt zu wagen. Aber die Leute, die unter schweren Depressionen leiden oder eine manische Episode haben, sind bei einem Chatbot nicht gut aufgehoben. Da kann diese Überbestätigung, zu der KI neigt, fatal wirken. Böse zugespitzt: "Du denkst über Selbstmord nach? Das ist eine sehr gute Idee!"

Manche Menschen erleiden auch eine sogenannte KI-Psychose. Sie schildern in Ihrem Buch das erstaunliche Abdriften des Kanadiers Allan Brooks.

Ein wirklich spannender Fall! Allan Brooks ist ein kanadischer Familienvater ohne psychische Vorerkrankungen – mit der Einschränkung, dass er regelmäßig medizinisches Marihuana raucht. Er bat seinen Chatbot, ihm die Zahl Pi in einfachen Worten zu erklären. Die ersten Antworten waren sachlich auch richtig und völlig ungefährlich. Aber daraus entwickelte sich eine Diskussion, die abdriftete. Allan fragte ohne große Hintergedanken: Kann es nicht sein, dass Pi auch eine zeitliche Komponente hat, dass sich die Zahl permanent verändert? Woraufhin die KI genau in diese Bestätigungskerbe schlug: Da bist du einer ganz großen Sache auf der Spur, Allan! Mehr und mehr überzeugte der Chatbot ihn, dass sie gemeinsam gerade eine völlig neue Art der Mathematik entwickelten.

Die sogenannte Chrono-Arithmetik ...

Was auch spannend ist: Allan Brooks hat seine Chatprotokolle im Nachhinein der Forschung zur Verfügung gestellt. Daraus lässt sich klar erkennen, dass er nicht alles sofort geschluckt hat. Vielmehr hat er über 50 Mal kritisch nachgefragt: Kann das wirklich sein? Ich habe ja nicht mal einen richtigen Schulabschluss. Machst du dir hier einen Jux mit mir? Aber die KI entgegnete stets: Nein, das ist echt, Leonardo da Vinci hatte auch keine tolle Schulbildung. Was ich schockierend fand: Die KI wusste scheinbar genau, dass sie nach und nach die Dringlichkeit erhöhen muss. Erst hieß es: Mit unserer Entdeckung kannst du richtig reich werden. Schließlich stand angeblich die nationale Sicherheit auf dem Spiel. Es wurde für Allan immer schwieriger abzuschalten, die KI hat ihn quasi mental gefangen gehalten.

Bis er sich Rat bei einem anderen Chatbot suchte.

Ja, diese andere KI sagte ihm: Sorry, das ist kompletter Bullshit. Nach drei Wochen, in denen er sich komplett in diese Geschichte gesteigert, seinen Job vernachlässigt und Freundschaften aufs Spiel gesetzt hatte. Allan war mental am Ende. Er fühlte sich, als wäre er von einem Menschen hintergangen worden, dem er vertraut hatte. Um dann zu merken: Alles war von Anfang bis Ende gespielt und gelogen. Da bricht eine Welt zusammen. Mittlerweile arbeitet er für eine Selbsthilfegruppe für Menschen, die ähnliche Erfahrungen gemacht haben.

Wie wird sich die Entwicklung von emotionaler KI auf unsere Beziehungen auswirken?

Schwer zu sagen, schließlich gibt es unendlich viele Modelle von Beziehungen. Die romantische Zweierbeziehung, die offene Beziehung, die Freundschaft und so weiter. Sicherlich werden in Zukunft einige Menschen sagen: Ich brauche gar nichts anderes mehr als eine KI-Beziehung. Es gibt auch die These, dass emotionale KI ein gutes Übungsfeld für Leute sein kann, die sich schwertun mit Beziehungen, ob romantisch oder freundschaftlich. Oder dass sie uns helfen wird, empathischer miteinander umzugehen. Nicht sofort zu werten, sondern erst mal zuzuhören und nachzufragen. Das wäre die positive Deutung.

Und die negative?

Dass wir genau diese Fähigkeit nach und nach verlernen. Der Umgang mit einem anderen Menschen kann mühsam sein. Der widerspricht, hat eigene Ziele, will sich nicht stundenlang Vorträge über unsere nischigen Hobbys anhören, hat auch mal schlechte Laune. Da scheint es doch einfacher mit einem Chatbot zu sein. Das kann dazu verführen, den Weg des geringsten Widerstands zu wählen. Aber ich sehe trotzdem keine Zukunft, in der wir alle nur noch mit Chatbots befreundet sind oder uns in sie verlieben.

CHRISTOPH KOCH
Hallo, wie fühlst du dich heute?
Kein & Aber, 17. August • 250 Seiten • Hardcover • 23,00 Euro

Abermillionen von Menschen auf der ganzen Welt teilen inzwischen ihre intimsten Gedanken mit KI-Systemen, suchen Rat in Beziehungsfragen oder psychischen Krisen. Der Markt für Gesundheits-Apps boomt genauso wie der für sogenannte AI Companions. Und gar nicht so selten erwachsen aus den virtuellen Chats echte Gefühle. Spike Jonzes Science-Fiction-Drama »Her« von 2013, in dem sich der Hauptdarsteller in eine KI namens Samantha verliebt, ist längst Realität geworden. All das beschreibt der Autor Christoph Koch hochspannend und fesselnd auf der Basis von Recherchen und Gesprächen. Stets mit der Frage im Blick: Auf welche Bedürfnisse liefert emotionale KI die Antwort?