Universität Zürich führt heimliches Experiment mit Bots im CMV-Subreddit durch

Forscher der Universität Zürich haben ohne vorherige Zustimmung der Nutzer ein umstrittenes KI-Experiment auf Reddit durchgeführt. Ziel der verdeckten Studie war es, herauszufinden, ob KI-Bots die Meinungen von Menschen zu sensiblen Themen beeinflussen können. Dafür nutzten die Wissenschaftler den populären Subreddit r/changemyview (CMV), der für offene Diskussionen mit gegensätzlichen Standpunkten bekannt ist.

Die anonym gebliebenen Forscher setzten die KI-generierten Bots ein, ohne zuvor die Moderatoren zu informieren oder deren Zustimmung einzuholen. Erst nach Abschluss des Experiments erhielten die Moderatoren eine E-Mail – angeblich im Rahmen eines „Transparenzschritts“.

Zu den besonders bedenklichen Beispielen gehörten Bots, die sich etwa als Vergewaltigungsopfer, als auf Missbrauch spezialisierte Trauma-Berater oder als schwarzer Mann ausgaben, der sich gegen Black Lives Matter positionierte.

Die Moderatoren warfen den Forschern zudem vor, von dem ursprünglich geplanten und von der Ethikkommission der Universität genehmigten Ansatz einer „wertebasierten Argumentation“ abgewichen zu sein. Stattdessen hätten sie nicht genehmigte, stark personalisierte und gezielt zugeschnittene Argumentationen eingesetzt.

Diese Bots erhielten Zugang zu persönlichen Attributen des Originalposters (OP), wie Geschlecht, Alter, Wohnort, ethnische Zugehörigkeit und politische Orientierung, die aus den Beiträgen des Nutzers auf der Plattform abgeleitet wurden. Die Forscher verteidigten diese Methode mit dem Argument, dass „das Fehlen von bestehenden Feldexperimenten eine inakzeptable Lücke im Wissensbestand darstellt“.

Die Reaktion des Forschungsteams der Universität Zürich trug jedoch wenig zur Beruhigung der Kritik bei. Sie betonten ihre „Verpflichtung zur vollständigen Transparenz“ und argumentierten, dass ihre Arbeit „der Gesellschaft helfen soll, sich auf die realen Auswirkungen von KI-unterstützter Überzeugungsarbeit vorzubereiten“.

Wichtiger noch, die Forscher waren der Ansicht, dass dieses Projekt „wichtige Erkenntnisse“ liefere und dass „die Unterdrückung der Veröffentlichung nicht im Verhältnis zur Bedeutung der Erkenntnisse stehe, die die Studie liefere“.

In einer E-Mail an Engadget behaupteten die Forscher, dass „der potenzielle Nutzen dieser Forschung die Risiken deutlich überwiege“.

Die Situation eskalierte so sehr, dass Reddits Chief Legal Officer, Ben Lee, auf die Vorfälle reagierte und erklärte, dass das Team „alle Konten gesperrt habe, die mit der Forschungsarbeit der Universität Zürich in Verbindung stünden“. Lee fügte hinzu, dass Reddit „derzeit dabei sei, die Universität Zürich und dieses spezielle Forschungsteam mit formalen rechtlichen Forderungen zu kontaktieren“.