«Weshalb prüfen wir KI-Antworten nicht genauer?»

Marisa Tschopp: Ich denke, es gibt durchaus positive Aspekte bei dieser Art der Interaktion. Man kann zum Beispiel seinen Frust loswerden. Und wie Sie sagen, mangelt es an Therapieplätzen: Es gibt weltweit viel mehr Menschen, die Hilfe benötigen, als es Menschen gibt, die Hilfe geben können. Deshalb springen die Tech-Firmen in diese Lücke. Das Problem ist, dass die Entwicklung so rasend schnell passiert, dass die Gesetze und die Forschung nicht hinterherkommen. Sprich, diese Dinge passieren und wir können gar nicht genau sagen, ob das nun gut oder schlecht ist, weil wir es schlicht noch nicht wissen.

Beides trifft zu. Im Moment wirkt der Austausch mit KI wie ein digitaler Schnuller: Man kann sich kurzzeitig beruhigen, seine Sorgen loswerden, ausatmen. Es gibt wissenschaftliche Evidenz, die darauf hinweist, dass das Gespräch mit der KI depressive Gedanken, Angstzustände und sogar suizidale Gedanken mildern kann. Belastbare Ergebnisse fehlen jedoch. Die Vermutung liegt nahe, dass die Leute mit der Zeit immer weiter auf dieser Einsamkeitsspirale hinunterrutschen. Diese Systeme sind ja darauf ausgerichtet, dass die Leute dranbleiben und immer weiter interagieren mit der KI. Es würde gegen ihre Geschäftsidee sprechen, wenn sie der einsamen Person sagen würden: «So, jetzt geh raus Freund:innen suchen!»

Mittlerweile gibt es sogar eine Wikipedia-Seite zum Thema, weil das schon mehrfach vorgekommen ist. Es ist höchst tragisch und fragwürdig, dass überhaupt Modelle auf den Markt gelassen werden, die zu so etwas fähig sind.

Ursprünglich waren Large Language Models (LLM) wie ChatGPT oder Gemini dafür gebaut worden, Menschen beim Schreiben von E-Mails oder Erstellen von Präsentationen zu unterstützen. Dass die Menschheit sie auch auf sozio-emotionaler Ebene nutzt, hat selbst die Herstellerfirmen überrascht. Deshalb könnte man argumentieren, dass eine Firma nicht jeden Use Case voraussehen kann. Aber es müsste generell viel schärfere Regelungen geben, bevor solche Anwendungen auf den Markt kommen. Die LLM-Chatbots sind bekannt dafür, zu halluzinieren und Dinge zu schreiben, die totaler Quatsch sind. Das kann dazu führen, dass eine suizidale Person sich in ihrem Vorhaben bestätigt fühlt. In solchen Fällen müssen die Firmen zur Verantwortung gezogen werden.

Die Datenlage ist nicht klar. Ich würde spekulieren, dass aktuell vor allem Jugendliche und jüngere Erwachsene mit Mitte Dreissig den Hauptanteil ausmachen. Gerade im Seniorenbereich hätte die KI Potenzial, da dort die sozialen Kontakte meist deutlich abnehmen.

Überhaupt nicht! Ich bin bloss gegen den Einsatz von Large-Language-Modellen. Regelbasierte Chatbots sind ein ganz anderes Thema. Diese arbeiten nach starren Wenn-Dann-Regeln und geben nur Antworten, die zuvor von einem Menschen verfasst und eingespiesen worden sind. In der Kognitiven Verhaltenstherapie kann man solche Modelle gut anwenden.

Klar, man guckt automatisch zuerst auf die KI-Zusammenfassung ganz oben und dadurch weniger auf die einzelnen Suchresultate, die einem genauer angeben, welche Quelle einer Aussage zugrunde liegt. Dabei wissen wir heute, dass nicht alle KI-Antworten korrekt sind. Wir werden denkfaul durch die künstliche Intelligenz und geben uns mit weniger zufrieden. Die Frage, die mich hier interessiert ist: Weshalb? Weshalb prüfen wir diese KI-Antworten nicht genauer, weshalb nehmen wir das einfach hin?

Vielleicht ist es wirklich Faulheit. Oder wir kommen in einen Overtrust-Bereich, in dem wir der KI-Antwort mehr vertrauen, als wir sollten. Sei das aus Stress oder weil sie zehnmal korrekt war und es dann beim elften Mal hoffentlich auch gut gehen wird.

Grundsätzlich sind diese Modelle darauf gepolt, positiv-wohlwollend zu antworten. Man kann sie aber durchaus etwas kritischer werden lassen, indem man einen entsprechenden Prompt eingibt, etwa: «Ich möchte, dass du ultrakritisch bist.»

Die Kommunikation mit der Maschine löst Prozesse im Hirn aus, die leicht dazu führen, dass wir die KI vermenschlichen. Die meisten finden einen Umgang damit. Es gibt aber auch einen Mechanismus namens Suspension of Belief, da verdrängen die Leute den Gedanken, dass das Gegenüber eine Maschine ist. Sie wollen sie als Freundin sehen, also ist es ihre Freundin – Punkt. Manche heiraten die KI sogar. Bei dem Thema werde ich total emotional …

Ich erlebe momentan an Konferenzen mit, dass über solche Mensch-KI-Beziehungen gesprochen wird und man dabei über diese Leute lacht. Das geht gar nicht! Abfällig über Personen zu reden, die sich in eine KI verlieben oder sich während einer Panikattacke verzweifelt an ChatGPT wenden, halte ich für äusserst destruktiv. Gerade die Medien müssten mit solchen Geschichten vorsichtiger umgehen, weil das nur dazu führt, dass die betroffenen Leute sich noch mehr verstecken und noch tiefer in diese Computerwelt abtauchen.

Spannend, das hätte ich nicht erwartet. Das kann man den Leuten hinter dem System positiv anrechnen. Die Frage ist einfach: Waren die Antworten davor gut und dein Problem für den Moment gelöst? Denn wenn du dich gerade in einer wahnsinnigen Krisensituation befindest, willst du natürlich nicht, dass die KI das Gespräch vertagt.

Das überrascht mich hingegen nicht. Ich bin sehr, sehr kritisch, muss die KI aber natürlich trotzdem immer wieder ausprobieren. Vor Kurzem habe ich ein Erziehungsthema besprochen und es danach zusätzlich in die KI eingegeben. Sie schlug mir sehr ähnliche Lösungen vor wie diejenigen, die wir bereits erarbeitet hatten – plus ein paar zusätzliche, die echt gut waren. Gerade im Bereich Erziehungs- und Beziehungskonflikte kann die KI auf eine unglaubliche Masse an Informationen zurückgreifen, deshalb kommen da oft hilfreiche Ratschläge. Essenziell ist allerdings, dass man diese für seine persönliche Situation einordnen und beurteilen kann.