Karin Nordström: Menschen sind grundsätzlich neugierig und wissbegierig. Das sind Eigenschaften, die sehr viel Gutes hervorgebracht haben für die Gesellschaft. Da will der Gesetzgeber möglichst wenig eingreifen, um der Kreativität möglichst freien Lauf zu lassen. Christoph Heitz: Dieser Artikel bezieht sich auch darauf, dass sich Forschende nicht instrumentalisieren lassen sollen zum Beispiel von wirtschaftlicher oder politischer Macht – zumindest nicht undeklariert. Nordström: Die totale Forschungsfreiheit ist eine Illusion. Was Forschende interessiert, welche Fragen gestellt werden, ist Teil ihrer Sozialisierung in gewissen gesellschaftlichen, wirtschaftlichen oder politischen Kontexten oder richtet sich nach Forschungstraditionen. Im besten Fall machen Forschende die Fragen anderer zu ihren Fragen – das muss nicht im Widerspruch zur Freiheit stehen. Im schlimmsten Fall stellen und beantworten sie nur ihre eigenen Fragen – das ist dann Forschung im Elfenbeinturm. «Was Forschende interessiert, welche Fragen gestellt werden, ist Teil ihrer Sozialisierung in gewissen gesellschaftlichen, wirtschaftlichen oder politischen Kontexten oder richtet sich nach Forschungstraditionen.» Karin Nordström, Präsidentin des ZHAW-Ethikausschusses Heitz: Als anwendungsorientierte Hochschule forschen wir in der Regel in Kooperation mit Partnerfirmen oder Institutionen. Deshalb ist es wichtig, vor Beginn der Zusammenarbeit die Ziele auszuhandeln. Die Projekte müssen so ausgestaltet sein, dass sie mit den Wertvorstellungen der Wissensarbeitenden vereinbar sind – durchaus unter Anerkennung der Rahmenbedingungen. Heitz: Nicht per se. Wir sind keine Erfüllungsgehilfen. Da wir aber nicht nur Wissen generieren, sondern mitwirken, es direkt in die Praxis umzusetzen, ändern wir ganz konkret den Lauf der Dinge. Wir haben als Fachhochschulen faktisch den Auftrag, die Welt zum Besseren zu verändern. Das ist ein vornehmer Auftrag. Wir müssen uns aber die Frage stellen, wodurch dieser Auftrag konterkariert werden könnte. «Da wir nicht nur Wissen generieren, sondern mitwirken, es direkt in die Praxis umzusetzen, ändern wir ganz konkret den Lauf der Dinge. Wir haben faktisch den Auftrag, die Welt zum Besseren zu verändern.» Christoph Heitz, Data Scientist Heitz: Zum Beispiel durch Machtstrukturen oder ungewisse Finanzierungsmöglichkeiten. Es ist also ein grosser Anspruch, unsere Unabhängigkeit als Forschungsinstitution zu wahren – die für unsere Akzeptanz zentral ist. Mindestens ebenso wichtig wie Unabhängigkeit ist ein anderer Aspekt: Wir haben die Verantwortung für das, was wir tun. Die Entschuldigung der Grundlagenforschung, dass sie ja nur Wissen generiert, während die Anwenderinnen und Anwender letztlich dafür verantwortlich seien, was damit geschieht – diese gilt für uns nicht in der gleichen Weise. Bei allen unseren Projekten müssen wir die Frage mitdenken: Was passiert mit unserer Welt, wenn unsere Forschungsergebnisse in die «freie Wildbahn» entlassen werden. Nordström: Die Einstellung, alles wissen zu wollen, ist per se gut und wichtig. Der Zweck darf aber nicht die Mittel heiligen. Die Methoden zur Durchführung von Forschung müssen ethisch vertretbar sein: Das heisst, der zu erwartende Nutzen eines Forschungsvorhabens muss in einem angemessenen Verhältnis zu potenziellen Risiken stehen. Nicht alles, was möglich ist, ist unbedingt erstrebenswert. Wir sollten uns stets fragen: Wozu brauchen wir das Wissen, wozu verwenden wir es, wohin wollen wir? Welche Art von Erkenntnissen bringt uns weiter oder trägt zu einer nachhaltigen, fairen Lebenswelt bei? Solche Fragen müssen im Gesundheitsbereich, in dem ich arbeite, vor allem in der Genforschung gestellt werden. «Wir müssen uns fragen: Welche Art von Erkenntnissen bringt uns weiter oder trägt zu einer nachhaltigen, fairen Lebenswelt bei?» Karin Nordström, Präsidentin des ZHAW-Ethikausschusses Heitz: Uns als Hochschule stünde es gut an, an die Dinge zu denken, die über den Business Case unserer Firmenpartner hinausgehen. Das ist für mich zentral. Denn die Interessen der Partnerunternehmen sind zunächst einmal anders gelagert: Wer auf wirtschaftlichen Erfolg und Geldverdienen abzielt, denkt nicht in erster Linie an z.B. soziale Auswirkungen. Besonders im Gebiet der KI, in dem ich arbeite, ist das aber eines der zentralen Probleme. Heitz: Meine Erfahrung ist: Wenn wir die Risiken und unsere Überlegungen auf den Tisch bringen, dann werden wir ernst genommen. Unsere konstruktive Aufgabe besteht darin, Lösungen zu entwickeln, die unsere Partnerunternehmungen weiterbringen, gleichzeitig aber auch verträglich sind mit den Werten unserer Gesellschaft. Nicht immer einfach, aber einfach immer lohnend. Damit schaffen wir soziale Nachhaltigkeit, die auch im Interesse unserer Partner ist. Nordström: Es gibt einen Graubereich bei der Forschung am oder mit Menschen. Nicht alle Projekte fallen unter das Humanforschungsgesetz und müssen folglich auch nicht von einer Kantonalen Ethikkommission geprüft werden. Dennoch werfen sie ethische Fragen auf. Hochschulen haben deshalb interne Kommissionen oder Ausschüsse dafür eingerichtet. Kommt hinzu, dass einige wissenschaftliche Zeitschriften zur Bedingung gemacht haben, dass die Methoden und Resultate aus ethischer Sicht geprüft wurden, bevor sie diese veröffentlichen. Auch beim Schweizerischen Nationalfonds ist Voraussetzung dafür, dass Fördermittel gesprochen werden, dass diese Vorhaben ethischen Kriterien standhalten können. Nordström: Es muss eine Balance zwischen Nutzen und Risiken geben. Der Fokus liegt auf dem Schutz der Studienteilnehmenden: Wurden sie ausreichend und verständlich darüber informiert, worum es geht? Konnten sie auf dieser Basis eine informierte Zustimmung geben? Wurde dieses Einverständnis eingeholt und dokumentiert? Auch Fragen zur Datensicherheit müssen gestellt werden. «Wir müssen stets die Frage mitdenken: Was passiert mit unserer Welt, wenn unsere Forschungsergebnisse in die ‘freie Wildbahn’ entlassen werden?» Christoph Heitz, Data Scientist Heitz: Datenschutz war das grosse Thema im Kontext der Digitalisierung in den Jahren 2000 bis 2015. Mit Künstlicher Intelligenz befindet sich unsere Gesellschaft in einer neuen Phase. In grossem Stil wir jetzt darüber diskutiert, wie man mit KI die Welt verändert und welche ethischen Fragen dabei geklärt werden müssen. Nordström: Bisher nicht. Das ist Neuland und brächte eine ganz andere Dimension in die Arbeit mit ein. Heitz: Im Grunde hat aber ein grosser Teil unserer Forschung hinsichtlich Digitalisierung ganz direkte Auswirkungen auf Menschen, schon allein, wenn man bedenkt, welche Auswirkungen Apps auf unseren Alltag haben. Wir leben in einer Welt, die durchdrungen ist von ganz vielen Systemen im Hintergrund. Ich würde nicht so weit gehen, zu sagen, dass sie uns manipulieren, aber doch irgendwie steuern. Die EU ist gerade dabei, mit dem AI Act einen weltweit einzigartigen Rechtsrahmen für Künstliche Intelligenz zu setzen. Heitz: Dieses Gesetz basiert auf einem Risikoansatz. KI-Systeme werden nach dem Risiko, das sie für die Menschen darstellen, analysiert und klassifiziert: Wie gross ist das Risiko, dass jemand zu Schaden kommt? Oder werden Bevölkerungsgruppen systematisch diskriminiert und ins wirtschaftliche Abseits gestellt, weil ein Algorithmus so funktioniert, dass Menschen dieser Gruppen systematisch schlechter gestellt werden, wenn es um Stellen, Kredite oder Versicherungen geht? Das passiert häufig und basiert in der Regel nicht auf einem Programmierfehler, sondern auf der Logik der Aufgabenstellung, die solche gesellschaftlichen Auswirkungen nicht mitberücksichtigt. Ist die Auswirkung von KI-Systemen auf das Leben von Menschen gross, setzt die Regulierung ein. Dies gilt etwa für Systeme im Gesundheitswesen, aber auch bei wichtigen Dienstleistungen wie Banken oder Versicherungen. Heitz: Ein Weckruf waren 2017 die US-Wahlen, als die Einflussnahme durch die Datenanalysefirma Cambridge Analytica aufgedeckt wurde und Donald Trump an die Macht kam. Ab diesem Zeitpunkt wurde deutlich, dass es nicht mehr nur auf den Datenschutz ankommt. Da wurden völlig neue Dimensionen der Digitalisierung deutlich. In dieser Zeit entstand auch aus einer Initiative der ZHAW das Netzwerk Data Innovation Alliance , dem heute 25 Forschungsinstitutionen und 50 Firmen angehören und dessen Präsident ich bin. Das Netzwerk treibt Innovation mittels Nutzung von Daten voran. Wir standen vor der Frage: Was tun wir da eigentlich und mit welchen Auswirkungen auf die Welt? Wir haben deshalb schon 2017 eine Ethikexpertengruppe aufgesetzt und einen Ethikkodex speziell für den Umgang mit Daten entwickelt. Wir sind überzeugt, dass wir sicherstellen müssen, dass die Nutzung von Daten und KI unsere gesellschaftlichen Werte wie Freiheit, Autonomie oder soziale Gerechtigkeit nicht beschädigt. Langfristig ist diese Art von sozialer Nachhaltigkeit für die ganze Branche von zentraler Wichtigkeit, also im direkten Interesse der Firmen. Heitz: Bisher war unser Verständnis in den Ingenieurwissenschaften und der Informatik derart, dass wir in erster Linie technische Fragen lösten. Das reicht heute nicht mehr. Ich glaube, speziell im Rahmen der Digitalisierung haben wir als anwendungsorientierte Hochschule eine wirklich grosse Aufgabe und Verantwortung, unsere Projekte inhaltlich so auszurichten, dass sie kompatibel sind mit den Werten unserer Gesellschaft. Wenn man eine Applikation entwickelt, dann muss man sich entscheiden, welche Wertvorstellungen mit den technologischen Lösungen verbunden sein sollen. Um Fachleute darin auszubilden, bieten wir seit dem Frühlingssemester 2023 ein Modul für Informatik- und Data-Science-Studierende zum Thema Algorithmic Fairness an und ab Frühjahr 2024 auch in der Weiterbildung. Die ZHAW ist damit eine der ersten Hochschulen in der Schweiz, die so etwas im Grundstudium implementiert. Heitz: Es ist Teil des Unterrichts, zu zeigen, dass es unterschiedliche Definitionen von Fairness gibt und dass man nicht in jeder Beziehung fair sein kann. Es muss vielmehr eine normative Festsetzung geben. Diese können aber nicht die Ingenieurinnen und Ingenieure selber vornehmen, sondern da müssen sie das Management ins Boot holen. Die Ingenieure müssen aber die ethischen Fragestellungen und Optionen aufzeigen. Denn nur sie haben ein Gefühl dafür, welche technischen Optionen es gibt und welche ethischen Auswirkungen diese haben. Welche Konsequenzen und Risiken das Unternehmen tragen will, muss letztlich das Management entscheiden. Nordström: Dann ist es Teil der Ausbildung, zu zeigen, dass Technologie nicht neutral ist, sondern dass da Werte mitspielen? Heitz: Ja, hier werden die Studierenden sensibilisiert, dass zum Beispiel durch das Design oder die konkrete technische Ausgestaltung von Vorhersage-Algorithmen Tools produziert werden können, die unzulässig diskriminieren. Sie lernen nicht nur, wie man das erkennt und welche Ideen von sozialer Gerechtigkeit mit solchen Modellen verknüpft werden können, sondern auch, wie man Diskriminierung vermeiden und Fairness konkret in einen Algorithmus implementieren kann. Das ist ein Beispiel für die Art von Verantwortung, die wir als anwendungsorientierte Hochschule übernehmen sollten. Heitz: Nicht nur. Wir sollten zunächst selbst die Kompetenz für diese umsichtige Weitsicht entwickeln, zweitens die Studierenden hierin ausbilden und nachher draussen bei der Umsetzung die richtigen Fragen stellen, aber auch in der Lage sein, Lösungen für diese Fragen zu entwickeln mit möglichst wenig unliebsamen Auswirkungen. Heitz: Nehmen wir an, wir brauchen ein Tool zur Unterstützung der Entscheidung für die Verteilung finanzieller Mittel im Gesundheitswesen. Eine typische normative Frage wäre dann: Sollen die medizinischen Ressourcen über alle gleichmässig verteilt werden? Oder will man die Mittel bedarfsgerecht verteilen, etwa um zu erreichen, dass Frauen die gleichen Heilungschancen haben wie Männer? Je nach Wahl sähe die technische Implementierung ganz unterschiedlich aus. Nordström: Das ist auch die grosse Frage bei Public Health: Wie müssten chancengerechte Gesundheitsversorgung, Gesundheitsförderung und Prävention aussehen? Wo sind Ungleichheiten notwendig, um eine Gleichheit zu erreichen? Habt Ihr Data Scientists auch Lösungen für solche Fragen? Heitz: In der Forschung sind hier in den letzten Jahren viele Ansätze entwickelt worden – diese gilt es jetzt in die Praxis zu bringen. Die Gefahr ist gross – und das sehen wir bei KI-Applikationen immer wieder –, dass Leute Lösungen bauen, und fünf Jahre später staunen sie: Oh, da ist jetzt was ganz Schlimmes passiert, was man nie beabsichtigt hat. Aber niemand hat daran gedacht, zu Beginn nach den Folgen zu fragen, die normative Setzung zu machen und die Technologie so anzupassen, damit bestimmte Anforderungen erfüllt werden. Nordström: Das gilt für Forschung generell. Heitz: So ein vorausschauendes und ethisches Denken muss deshalb trainiert werden Heitz: Forschungsmoratorien halte ich nicht für angebracht. Dann passiert vielleicht nichts Schlimmes mehr, aber auch nichts Gutes. Ich finde, es braucht keine Verbote, sondern eine Verpflichtung, technische Lösungen so zu gestalten, dass negative Auswirkungen minimiert werden. Das heisst, als Forschende müssen wir auch Lösungen für einen verantwortlichen Einsatz entwickeln. Wir können unsere Forschungspartner befähigen, sensibel zu werden für die Fragen nach den Risiken, und sie gleichzeitig darin unterstützen, die gesellschaftlichen Nebenwirkungen unter Kontrolle zu behalten. Dies ist herausfordernd, aber vor herausfordernden Fragestellungen sollten wir als Hochschule keine Angst haben. Interview Patricia Faller

Christoph Steinebach: Die grösste Veränderung liegt in den Möglichkeiten durch neu aufgekommene Tools. Beispielsweise kann modernste neurowissenschaftliche Forschung mit psychologischen Fragestellungen verbunden werden. Dank der Digitalisierung werden zunehmend Daten fortlaufend und direkt erhoben, etwa mit einer App, die auf dem Smartphone dreimal pro Tag einen kurzen Fragebogen aufpoppen lässt. Auch forschen wir zunehmend in und mit virtuellen Räumen. So verfügen wir an der ZHAW über einen Fahrradsimulator. Dank «Big Data» verarbeiten wir grössere Mengen an Daten und nutzen die Welt von Google als Plattform. Dabei stellt sich die Frage, wie man alles zusammenbringt. Was dazu geführt hat, dass wir über mehr Metaanalysen verfügen, die im Prinzip über Forschungsprojekte und -ergebnisse forschen. In diesen Metaanalysen geht es beispielsweise darum, diese Ergebnisse statistisch zusammenzufassen, womit sich der Forschungsstand eines Themas bewerten lässt. Grundsätzlich ja. Viele finden unsere Forschungsergebnisse spannend, sie lesen sie, sagen aber auch manchmal: «Kaum zu glauben.» Forschung überrascht zuweilen mit unerwarteten Ergebnissen, was Widerstand auslösen kann. Dass sich viele Resultate psychologischer Studien nicht replizieren lassen, hat dem Fachgebiet einen gewissen Vertrauens­verlust beschert. Aber es gibt auch gute Gründe dafür. Menschen und Einstellungen verändern sich über Generationen hinweg. Vieles von dem, was in den 1950er Jahren erforscht wurde, gilt heute nicht mehr. Oder es bestehen Unterschiede zwischen befragten Gruppen. Aber es braucht Spielregeln, damit es nicht zu Verzerrungen oder zur Beeinflussung von Ergebnissen kommt. «Bei sensiblen Forschungsthemen versuche ich Menschen aus der Zielgruppe in das Projekt einzubeziehen. Das ist auch eine ethische Haltung.» Christoph Steinebach, Direktor des Departements Angewandte Psychologie Klassischerweise ist Forschung objektiv, also nicht ungewollt durch Involvierte beeinflusst; reliabel, was bei wiederholter Durchführung zu zuverlässigen Ergebnissen führt; und valide, was gegeben ist, wenn gemessen wird, was gemessen werden soll. Neu muss auch deutlich sein, wer für den Forschungsprozess verantwortlich ist, wie und welche Daten erhoben wurden und wo sie verfügbar sind, sodass auch Dritte darauf zurückgreifen und nachrechnen oder mit den Daten weiterarbeiten können. Auch muss ausgewiesen werden, welche Entscheidungen in welchen Phasen getroffen wurden. Es herrscht mehr Transparenz, was sicher den Aufwand erhöht. Auch die sicher berechtigte Sorge um den Datenschutz macht es nicht einfacher. Manche Teilnehmenden sind skeptisch und beantworten gewisse Fragen nicht, was das Ergebnis verzerren kann. Transparenz und Konsens – die Beteiligten müssen wissen, was warum gemacht wird. Den zu Befragenden biete ich an, sie über die Ergebnisse zu informieren. Bei sensiblen Forschungsthemen versuche ich, Menschen aus der Zielgruppe in das Projekt einzubeziehen. Wir klären gemeinsam, was gute Fragen sind und mit welchen Ansätzen man dem Thema gerecht wird. Das ist auch eine ethische Haltung. Aus der Distanz und von oben herab forscht man nicht mehr. Auftragsforschung hat den Vorteil, dass sich damit Zielgruppen erschliessen lassen, mit denen man gar nicht in Kontakt kommen würde. Man arbeitet mit Leuten zusammen, die an der Umsetzung interessiert sind. Mit den Daten sind zudem Analysen möglich, die über die Fragestellung des Auftraggebers hinausgehen. Idealerweise kann man eigene Interessen einbringen und die Auftraggebenden davon überzeugen, dass sie zusätzliche Fragestellungen zulassen. Wenn das nicht gelingt, muss man Abstriche machen. «Ich hoffe nicht, dass es in der Schweiz Forschende gibt, die bestimmte Themen nicht anpacken, weil sie die Reaktionen fürchten.» Christoph Steinebach, Professor für Angewandte Entwicklungspsychologie Dank Fördermitteln gibt es viele Möglichkeiten, national und international an spannenden Projekten zu arbeiten. Ich sehe aber ein fachhochschulspezifisches Problem: Viele, die an der ZHAW als Dozierende oder wissenschaftliche Mitarbeitende tätig sind, sind stark in der Lehre engagiert, es bleibt wenig Zeit für Forschung. Oft kann man das nur nebenher machen. Hier existiert Luft nach oben. In der Forschungsförderung hat man Linien, die auf Themenfelder oder gesellschaftliche Fragestellungen zugeschnitten sind – etwa die Förderung von Mental Health. Hier passen viele Themen. Es gibt aber auch solche, bei denen es schwierig ist, Förderung zu erhalten. Wichtige und spannende Fragestellungen liegen im Schatten der Aufmerksamkeit. So etwa fliessen relativ wenig Mittel in die Verkehrs- oder die Sportpsychologie. Ich hoffe nicht, dass es in der Schweiz Forschende gibt, die bestimmte Themen nicht anpacken, weil sie die Reaktionen fürchten. Bei uns sind Forschende diesbezüglich gut geschützt. In anderen Gesellschaften muss man mit gewissen Forschungsgegenständen vorsichtig sein, etwa bei Diversity, Gender oder LGBTQ. Eine Grenze ist die Zeit. Als Direktor eines Departements mit vielfältigen Anliegen und Aufgaben ist es schwer, kontinuierlich in einem Forschungsthema unterwegs zu sein. Gerne hätte ich zur Resilienzförderung über die Lebensspanne hinweg mehr geforscht. Für dieses relevante und attraktive Thema bietet die ZHAW ein gutes Umfeld. Eine wichtige Frage wäre etwa, wie wir Resilienz umfassend im Alltag einer Hochschule fördern können. Interview Kathrin Reimann