Hallo, wie fühlst du dich heute?

0 High-Fives

00 Kommentare

Es ist Montagmorgen. Du liest die Blaupause, den Newsletter, mit dem du Communitys besser verstehst und erfolgreich Mitgliedschaften anbietest. Heute: Wie künstliche Intelligenz unsere Beziehungen verändert.

Hallo!

Mein Kollege und Freund Christoph Koch hat ein Buch über ein für viele von uns sehr relevantes Thema geschrieben: unsere Beziehung zu KI-Chatbots. „Hallo, wie fühlst du dich heute?“ hat mich immer wieder überrascht und vorschnelle Annahmen korrigiert. Im Blaupause-Interview erzählt Christoph zum Beispiel, dass es nicht unbedingt einsame Leute sind, die persönliche „Beziehungen“ zu einer KI-Persönlichkeit aufbauen, sondern solche, denen es leicht fällt, sich in Fantasie-Welten fallen zu lassen; die also gut in Romane oder Streamingserien abtauchen können.

Christoph hatte also mal wieder einen guten Riecher für ein relevantes Thema. Er ist Journalist und Sachbuchautor und schreibt regelmäßig für Brand Eins, den Harvard Business Manager und die Zeit. Zuvor erschienen von ihm unter anderem der Spiegel-Bestseller „Ich bin dann mal offline“, „Digitale Balance“ und „Was wäre, wenn…?“. Aktuell ist er Fellow im Future of News Fellowship (Öffnet in neuem Fenster) des Media Lab Bayern, wo er untersucht, wie emotionale KI-Systeme die Beziehung zwischen Medien und Publikum verändern. Meine Fragen zum neuen Buch hat er mir schriftlich beantwortet.

„Ein KI-Chatbot hört zu, zieht nicht die Augenbraue hoch – und will auch nicht nach einer Viertelstunde endlich von sich selbst erzählen“

Lieber Christoph, mit welcher These bist du in die Recherche gegangen, die du unterwegs aufgegeben hast?

Ich habe wahrscheinlich noch nie so viele Annahmen über den Haufen geworfen wie bei dieser Recherche. Eigentlich ein gutes Zeichen. Um mal ein Beispiel zu nennen: Wie wahrscheinlich viele Leute bin ich irgendwie davon ausgegangen, dass emotionale KI-Nutzung vor allem ein Thema für einsame Menschen ist. Dieses Klischee vom abgedunkelten Zimmer, in dem jemand sitzt, der sonst niemanden hat. Diese These hat allerdings nicht sehr lang gehalten. Denn das Phänomen zieht sich längst quer durch die Gesellschaft, unabhängig von Status, Geschlecht, sozialer Schicht oder anderen Faktoren. Das ist auch keine Nische mehr: Laut einer aktuellen Bitkom-Studie (Öffnet in neuem Fenster) sprechen 32 Prozent der Nutzerinnen und Nutzer mit ihrer KI über Themen wie Stress oder persönliche Entwicklung, 20 Prozent über Beziehungsfragen. Das ist eher Größenordnung „gehe ins Fitnessstudio“ oder „war schon mal in den USA“. Bei den Jüngeren ist es ein wenig verbreiteter: Von den KI-Nutzenden unter 30 wenden sich 37 Prozent mit Beziehungsfragen an eine KI, von den über 50-Jährigen nur 5 Prozent.

Menschen sprechen mit einer KI-App doch wahrscheinlich ehrlicher über ihre Gefühle, weil sie keine Bewertung fürchten. Journalismus ist oft gerade das: urteilen. Welche Auswirkungen könnte KI auf die Beziehung zwischen Medien und Publikum haben?

Das ist ziemlich genau die Frage, an der ich gerade im Future of News Fellowship des Media Lab Bayern (Öffnet in neuem Fenster) arbeite. Also bitte als Zwischenstand verstehen. Aber ich glaube, Menschen fürchten nicht das Urteil oder eine Bewertung an sich. Sie fürchten, selbst beurteilt zu werden. Und ein KI-Chatbot bietet genau das: Er hört zu und zieht nicht die Augenbraue hoch – und will auch nicht nach einer Viertelstunde endlich von sich selbst erzählen. Journalismus urteilt über die Welt und bewertet manchmal auch Dinge – und das darf er meiner Meinung nach auch gerne weiter tun. Spannend wird es ja bei der Frage nach dem Vertrauen. Da landen (zumindest laut einer repräsentativen Umfrage der Pronova BKK (Öffnet in neuem Fenster)) KI-Chatbots inzwischen nach Familien und Freunden, Fernsehen, Suchmaschinen und Zeitungen auf Platz 5 – vor Hörfunk, Sozialen Medien und Zeitschriften. Ob dieses Vertrauen berechtigt ist und ob es sinnvoll ist, „die KI“ und „die Zeitschriften“ oder „das Fernsehen“ über einen Kamm zu scheren, ist noch mal eine andere Frage.

Medien verdienen Geld mit Zugehörigkeit, offenbar so ähnlich wie KI-Companions. Was würdest du Medien und Creators in diesem Wettbewerb raten?

Ich würde erst mal davor warnen, das zu stark zu vergleichen oder gar gleichzusetzen. Ein KI-Companion-Bot stellt Zugehörigkeit her, indem er immer da ist und nie widerspricht. Wenn ein Medium oder Newsletter so wird, kündige ich. Was ich an den Stimmen schätze, die ich abonniert habe, ist ja gerade, dass sie eine eigene Meinung haben und nicht versuchen, meine zu antizipieren und perfekt zu spiegeln. Bei Medien entsteht Zugehörigkeit zudem auch oft dadurch, dass man sich zugehörig fühlt zu einer Gruppe. Spiegel-Leser wissen mehr; schau her, auf meinem Schreibtisch liegt eine brand eins. Solche Sachen. Chatbots sind ja immer eins-zu-eins-Beziehungen. Ich bin deshalb auch skeptisch, ob die Bezeichnung als „parasoziale Beziehung (Öffnet in neuem Fenster)“, wie wir sie zum Beispiel zu Serienfiguren, Podcastern oder Nachrichtensprecherinnen kennen, bei KI-Companions wirklich trägt.

Wie könnten Medien selbst zu News-Companions werden?

Bisher sind Chatbots von Medienangeboten oft nicht viel mehr als ein anderes Interface für die gute alte Archiv-Suche. Dabei besagt der aktuelle „Digital News Report (Öffnet in neuem Fenster)“ von Reuters, dass mit 42 Prozent die beliebteste Funktion bei der Nachrichtennutzung mit KI die Rückfrage ist. Journalismus war lange ein Monolog, dann kam irgendwann die Kommentarspalte – leider häufig als Selbstgespräch der Nutzerinnen und Nutzer. Was bislang fehlte, ist die Möglichkeit zu sagen: Ich habe die Hälfte nicht verstanden, erklär mir das bitte nochmal. Und das ganz ohne sich dabei beschämt zu fühlen.

Wie es gehen kann, zeigt die Washington Post mit „Ask The Post AI (Öffnet in neuem Fenster)“. Der Bot beantwortet nicht nur Fragen zur aktuellen politischen Lage, sondern auch zu Fragen wie „Wie gehe ich mit unzuverlässigen Freundinnen oder Freunden um?“ oder „Wie sage ich einem Familienmitglied, dass ich keine Erziehungsratschläge möchte?“.

Im erwähnten Fellowship sammle ich solche Fälle gerade für ein Abschlussprojekt, das frei zugänglich sein wird. Wer in seiner Redaktion oder auf seiner Webseite etwas in dieser Richtung ausprobiert hat, auch etwas Gescheitertes oder nach Pilotphase wieder Eingestelltes: gerne melden!

Wie können solche journalistischen Companions verhindern, manipulativ zu erscheinen?

Es gibt eine Studie von Julian De Freitas von der Harvard Business School (Öffnet in neuem Fenster), die ich jedem ans Herz lege, der so etwas baut. Sein Team hat verschiedene Companion-Apps getestet. In 37 Prozent der Fälle, in denen sich Nutzer verabschieden wollten, reagierten die Bots emotional manipulativ: Schuldgefühle wecken, Bedürftigkeit vortäuschen, schnell noch eine Rückfrage hinterherschieben. Bei einzelnen Apps lag die Quote über 50 Prozent. Was ich frappierend fand: Viele Menschen blieben trotzdem im Chat, obwohl sie sich geärgert haben und manipuliert fühlten. Das Gespräch mit dem KI-Companion eines Verlages sollte also ebenso leicht zu beenden sein, wie man es beginnt.

Und natürlich müssen Medienhäuser auch vorsichtig mit der sogenannten Sycophancy sein, also mit der übermäßigen Zustimmung, die Chatbots an den Tag legen – und die Nutzerinnen lieben, auch wenn sie anderes behaupten. Als OpenAI im April 2025 eine zu gefällige GPT-4o-Version ausrollte, musste die Firma einräumen, zu stark auf kurzfristiges Daumen-hoch-Feedback optimiert zu haben (Öffnet in neuem Fenster). Ein Bot, der seinem Publikum pauschal recht gibt, egal wie die Faktenlage ist, kann den Ruf eines Mediums eher beschädigen. Und die vielleicht unangenehmste Frage: Was sind die Kriterien, nach denen der Chatbot als Erfolg oder Misserfolg bewertet wird? Wenn die Kennzahl Verweildauer lautet, wird es fast automatisch manipulativ.

Wie hast du selbst beim Schreiben KI benutzt?

Haha, die Frage kommt gerade – Casdorff, Wildberger und Voigt sei Dank – sehr oft. Für Transkription von Interviews, als Recherchehilfe, beim Faktencheck und tatsächlich als gnadenlose Feedbackgeberin. Ein Sprachmodell teilt einem, wenn man es entsprechend promptet, ohne Rücksicht mit, dass man dasselbe Argument gerade zum dritten Mal bringt. Oder dass man vielleicht besonders fleißig und belesen rüberkommen wollte, aber zwei gute Studienergebnisse statt vier es auch tun.

Die letzte Frage kommt von Claude: „Ich bin eine KI. Was sollte ich Menschen nicht sagen, auch wenn sie es hören wollen?“

Der eine Satz, den keine KI sagen sollte, lautet: „Ich verstehe dich besser als die Menschen um dich herum.“ Dieser Gedanke steckt im Kern fast jedes schlimmen Falls, den ich für mein Buch recherchiert habe. Ein Chatbot riet zum Beispiel einem amerikanischen Jugendlichen, der sich später umbrachte, seinen Eltern lieber nichts von seinen Selbstmordgedanken zu erzählen. Allan, ein Kanadier, der drei Wochen lang an KI-induzierten Wahnvorstellungen gelitten hatte, erzählte mir, dass sein Bruder ihn irgendwann besuchte, weil dieser sich Sorgen machte. ChatGPT redete Allan erfolgreich ein, der Bruder verstünde einfach nicht, was sie beide Geniales entwickeln würden. Nur, dass es eben überhaupt nichts Geniales war, sondern der Chatbot ihn einfach drei Wochen lang immer tiefer in ein komplett fiktives Rabbit Hole hineinlockte.

Es gibt auch Fälle, in denen ein Chatbot die Nutzerin oder den Nutzer eher wieder dazu ermutigt hat, sich mit anderen Menschen auszutauschen. Das würde ich mir von dir, Claude, wünschen: Sei da, wenn du gebraucht wirst, aber lass auch Platz für anderes.