Meine Freundin, die KI

Die Reise in die Zukunft führt in die Schweizer Agglomeration. Tiefe Häuserschluchten prägen das Bild einer grauen Vorstadt, in der Wohnraum und Arbeitsplätze knapp sind. Die Menschen hangeln sich von einem temporären Job zum anderen – wer keine Arbeit hat, verdient sich mit sozialen Engagements in einem staatlichen Kreditsystem Punkte. Und: Zum Alltag gehört KI, die über emotionale Fähigkeiten verfügt – etwa ein smarter Fingerring, der sich nach dem Wohlbefinden des Trägers oder der Trägerin erkundigt.

Dieses Szenario haben Forschende der ZHAW-Institute für Wirtschaftsinformatik und für Angewandte Medienwissenschaft erlebbar gemacht – in Form einer 20-minütigen Virtual-Reality-Erfahrung. Entwickelt wurde diese im Wissenschaftskommunikationsprojekt «Den Alltag mit Affective Computing erleben – Immersive Science Fiction Prototyping für verantwortungsvolle Innovation». Sie macht mithilfe einer VR-Brille nicht nur erfahrbar, wie es wäre, mit einer emotionalen KI zu leben, sondern wirft auch grundsätzliche Fragen zum Affective Computing auf: Werden wir künftig mit KI befreundet sein? Und: Wollen wir das überhaupt?

Personen, die VR-Erfahrung spielen. Hauptzielgruppe waren dabei junge Menschen zwischen 13 und 29 Jahren. «Für die Freundschaft als extremen Anwendungsfall emotionaler KI war die Zielgruppe perfekt. Freundschaft hat in diesem Alter einen sehr hohen Stellenwert», sagt Elke Brucker-Kley, Co-Leiterin des Projekts, das vom Schweizerischen Nationalfonds finanziert wurde. «Jugendliche und junge Erwachsene pflegen zudem einen hedonistischen Umgang mit Technologien. Was keinen Spass macht, nutzen sie nicht.» Man habe sich von der Zielgruppe Hinweise erhofft, wie eine emotionale KI sein sollte – oder genau nicht sein dürfe. Aber: «Ziel war es nicht, allgemeingültige Erkenntnisse zu gewinnen», fügt Co-Leiter Thomas Keller an. Denn beim Science Fiction Prototyping (siehe Kasten) bestehe das Risiko, ein zu dystopisches oder utopisches Szenario zu entwerfen. Das schlage sich in den Beurteilungen nieder – und damit auch in den Schlüssen, die man daraus ziehe. «Wir wollten primär in einen Dialog mit den jungen Menschen treten und über ihre Haltungen und Erwartungen diskutieren.»

Um eine Erfahrung zu entwickeln, die deren aktuelle Ängste und Wünsche mit Blick auf KI widerspiegelt, wurden im Vorfeld Interviews mit jungen Menschen durchgeführt. Diese dienten als Inspiration für die multilineare Geschichte. Wer sie durchspielt, muss Entscheidungen treffen über die Nutzung eines digitalen Assistenzsystems, das zunehmend «menschlicher» wird: Vom sprechenden Smartring über ein Tattoo, das menschliche Emotionen erkennt, bis zu «Youman», einem humanoiden Avatar, der in der virtuellen Welt zum treuen Begleiter wird.

Die Mehrheit der Teilnehmenden entschied sich für sämtliche Technologiesprünge. So liessen sich 57 Prozent das Tattoo stechen, über 81 Prozent testeten den Youman und 53 Prozent behielten diesen am Ende der Geschichte. «Eine Rolle hat dabei sicher die Neugier gespielt, emotionale KI auszuprobieren», so Brucker-Kley. Ob die Entscheidungen in der Realität ähnlich ausgefallen wären, lasse sich daraus nicht schliessen. Ebenfalls offen bleibt, ob die Teilnehmenden den Avatar Youman mit dem Gedanken an eine Freundschaft behalten haben – oder ob sie Gefallen daran gefunden haben, dass dieser im Szenario alltägliche Arbeiten für sie übernimmt. «Es kann sein, dass sie schlicht einen Diener zur Verfügung haben wollten», sagt Thomas Keller.

Die ständige Verfügbarkeit und Hilfsbereitschaft der KI schien für manche Teilnehmende verlockend zu sein. Das zeigte sich laut Brucker-Kley in den Gesprächsrunden, die jeweils nach der VR-Erfahrung durchgeführt und diskursanalytisch ausgewertet wurden. «Gleichzeitig hatten die Dauerpräsenz und das makellose, stets hilfsbereite Verhalten der KI aber auch etwas Abschreckendes.» In einer direkt im VR-Szenario durchgeführten Umfrage äusserten Teilnehmende auch ein gewisses Misstrauen: So zweifelten sie etwa daran, dass eine emotionale KI die für eine Freundschaft zentralen Kriterien wie Vertrauen und Ehrlichkeit erfüllen könne. «Es bestand die Befürchtung, dass die KI Daten teilt und womöglich manipuliert.»

Trotz der Skepsis stieg der Anteil jener Teilnehmenden, die sich eine Freundschaft mit einer KI vorstellen können, nach der VR-Erfahrung auf 35 Prozent an – von 23 Prozent davor. Beinahe unverändert blieb dagegen die Haltung zur Frage, ob eine KI dereinst ein besserer Freund oder eine bessere Freundin sein könnte als ein Mensch: Auch nach der VR-Erfahrung beantworteten 71 Prozent diese mit einem Nein, davor waren es 76 Prozent gewesen.

Die Erkenntnisse wollen die Forschenden nun in anderen Projekten nutzen, in denen es um soziale Interaktionen mit KI geht. Als Beispiel nennt Brucker-Kley ein Projekt mit dem Kantonsspital Aarau, bei dem eine KI in einer virtuellen Umgebung Menschen mit chronischen Erkrankungen berät. «Die Diskussionen mit den jungen Menschen haben zum Beispiel das Bedürfnis gezeigt, das Aussehen des KI-Avatars mitbestimmen zu können – das haben wir in dem neuen Projekt berücksichtigt.»