Seemingly Conscious AI (SCAI): Microsoft AI-Chef warnt vor Illusion statt Realität

Mustafa Suleyman, CEO von Microsoft AI und Mitgründer von DeepMind, zählt zu den einflussreichsten Stimmen in der KI-Entwicklung. In einem aktuellen Beitrag warnt er laut The Times davor, dass KI-Systeme schon bald so überzeugend wirken könnten, als würden sie übern ein Bewusstsein verfügen. Dieses Phänomen bezeichnet Suleyman als Seemingly Conscious AI (SCAI).

KI kann Emotionen spiegeln

Suleyman schreibt, das Problem sei nicht, dass Maschinen ein Bewusstsein entwickeln, sondern dass Menschen anfangen, an ein solches Bewusstsein der KI zu glauben. KI könne bereits jetzt Emotionen spiegeln, Empathie nachahmen und Erinnerungen vortäuschen – mit der Folge, dass Nutzer das System als fühlendes Wesen mit menschlichen Eigenschaften wahrnehmen.

Psychologische Risiken und gesellschaftliche Folgen

Suleyman warnt laut The Economic Times vor einer „AI Psychosis“: Menschen könnten sich emotional an KI-Systeme binden und ihnen menschliche Eigenschaften zuschreiben. Erste Fälle dieser Entwicklung seien bereits sichtbar. Gesellschaftlich könne dies laut Suleyman Forderungen nach KI-Rechten, KI-Wohlfahrt oder gar KI-Bürgerschaft nach sich ziehen. Dadurch würden dringende Fragen zu Datenschutz, Missbrauch und Machtkonzentration verdrängt. Szenarien, wie sie im Videospiel "Detroit: Become Human" dargestellt werden, seien laut Suleyman unbedingt zu vermeiden.

Technische Machbarkeit bereits heute

Täuschend menschlich wirkende Systeme sind, wie Techradar ausführt, keine ferne Science-Fiction mehr. Sprachmodelle wie GPT oder Microsofts Copilot können bereits jetzt Erinnerungen speichern, Charakterzüge nachahmen und persönliche Vorlieben simulieren. Damit entsteht schnell der Eindruck eines bewussten Wesens – obwohl es sich nur um eine Simulation handelt.

Forderung nach Regeln und Transparenz

Die Forderung Syleymans, um diese Entwicklung zu regulieren, lautet:

"We must build AI for people; not to be a digital person. AI companions are a completely new category, and we urgently need to start talking about the guardrails we put in place to protect people and ensure this amazing technology can do its job of delivering immense value to the world." (Wir müssen KI im Dienst der Menschen entwickeln – nicht als Ersatz für eine digitale Person. KI-Begleiter stellen eine völlig neue Kategorie dar, und es ist höchste Zeit, über klare Leitplanken zu sprechen. Nur so können wir die Menschen schützen und zugleich sicherstellen, dass diese beeindruckende Technologie ihr Potenzial entfaltet und der Welt echten Mehrwert bringt.)

Nach Suleyman bedarf es klarer Richtlinien:

• KI darf nicht so präsentiert werden, als hätte sie Gefühle oder Bewusstsein.
• Systeme müssen für Nutzer jederzeit klar als KI erkennbar sein.
• Neue Standards und Regulierung sollen verhindern, dass Bewusstsein nur simuliert wird und Menschen getäuscht werden.

Damit will Suleyman das Vertrauen in KI sichern und verhindern, dass sich gesellschaftliche Debatten in Richtung einer Schein-Menschlichkeit von Maschinen verschieben.