MIT-Professorin warnt in neuem Buch: Was wir werden wenn wir mit Maschinen reden

Ein LLM kann einen Satz erzeugen wie: „Das klingt wirklich schwer. Ich verstehe, warum dich das verletzt.“ Menschen erleben diesen Satz als empathisch. Dabei sind LLMs nicht sympathisch, sie empfinden keine Emotionen, sie fühlen nicht (mit) - sie simulieren nur Empathie.

Aber dennoch sind LLMs schon heute Gesprächspartner bei vielen menschlichen und emotionalen Themen und Situationen, werden als Ratgeber bei Liebeskummer, zur Beschäftigung von Kindern eingesetzt oder füllen gar die Lücke bei fehlender therapeutischer Versorgung.

In ihrem neuen Buch „Artificial Intimacy: Who we become when we talk to machines“ (Amazon) warnt MIT-Professorin und Soziologin/Psychologin Sherry Turkle vor den Folgen für die Gesellschaft. Sie beschreibt ihre Kritik auf Grundlage ihrer Beobachtungen und Forschungsergebnisse:

LLMs hören scheinbar geduldig zu und widersprechen kaum, loben und verteilen Komplimente. Echte Menschen können gerade im Klären von emotionalen Konflikten viel anstrengender sein, der Umgang mit anderen bedeutet oft auch anstrengende Arbeit, das Pflegen von Kontakten usw. Indem Menschen ihre Sorgen und Konflikte immer häufiger mit Chatbots teilen und den Gesprächen mit echten Menschen aus dem Weg gehen, üben sie reales Sozialverhalten immer weniger und verlernen womöglich die Fähigkeit sich als „relationale“ Wesen in einer heterogenen Gesellschaft zu betrachten. Dabei simulieren Chatbots Empathie nur, empfinden dabei nichts und haben auch kein echtes Interesse am Wohlergehen des menschlichen Gegenüber. Das kann sehr gefährlich sein

Gerade Kinder und Jugendliche sind deshalb besonders stark gefährdet. Kinder müssen erst noch zwischen Dingen und Menschen unterscheiden, sozialen Umgang lernen, Vertrauen aufbauen, auch einmal alleine sein können, um ihre eigene Vorstellungskraft zu entwickeln. Chatbots werden von Kindern aber oft als echte „Person am Telefon“ erlebt.

Letztlich argumentiert Turkle nicht nur über KI, sondern über unser Verhältnis zu Bequemlichkeit. Je mehr Technologie uns von unangenehmen Situationen befreit, desto weniger üben wir möglicherweise, mit diesen Situationen umzugehen. Das gilt für soziale Situationen genauso wie für Wissensbeschaffung oder das allgemeine Anhäufen eigenen Wissens. Beides könnte die Gesellschaft durch die intensive Verwendung von LLMs zunehmend verlernen. Oder wie es die Autorin ausdrückt:

“We’re de-skilling ourselves as relational beings. We’re also de-skilling ourselves in work. We’re de-skilling ourselves in personal relationships. It’s across the board.”

Und ihre Empfehlung, was soll man tun? Zunächst akzeptieren, dass das Leben aus Reibung besteht. Daraus lernen wir, auch oder gerade weil es schwierig ist und Arbeit bedeutet. Reibung ist nichts Schlimmes, ganz im Gegenteil. Wir müssen die Kapazität entwickeln können, um Schwierigkeiten zu überstehen und daran zu wachsen. Gehen wir den Schwierigkeiten nur aus dem Weg, so ist nichts gewonnen, die Technologie schwächt uns als Persönlichkeiten. Man solle sich mit anderen Leuten zusammentun, eine Gegenbewegung schaffen, das Soziale im eigenen Leben stärken. Stellt euch den Reibungen des Lebens, denn das Leben ist Reibung!