Neurale Netzwerke in KI weniger verknüpft als erwartet

Künstliche neurale Netzwerke geben weiterhin Rätsel auf. Wie genau die Informationen zusammengetragen werden, die Texte entstehen, warum sich kapitale Fehler einschleichen und manche Chatbots schlicht zusammenbrechen, lässt sich nur schwer entschlüsseln.

Das liegt unter anderem daran, dass diese Netze in ihrem grundlegenden Aufbau einem Gehirn ähneln. Nicht die Datenpunkte und einzelne Informationen prägen die Funktionsweise, sondern die schier unendliche Anzahl an möglichen Verknüpfungen untereinander.

Oftmals bleiben die neuralen Netzwerke einer Künstlichen Intelligenz jedoch auf einer wesentlich einfacheren Ebene, wie eine aktuelle Studie herausgefunden hat.

Mit grundlegenden Informationen geht die KI deutlich weniger komplex um, als bisher erwartet. Statt beispielsweise zu einer Anfrage alle möglichen Antworten zu sammeln und mit dem wahrscheinlichsten, weil am häufigsten verknüpften Fakt zu reagieren, wird eine lineare Verknüpfung verwendet.

Insgesamt 47 unterschiedliche, lineare Verknüpfungen konnten die Forschenden in der untersuchten künstlichen Intelligenz ausfindig machen. Das gelang über eine entsprechende Anfrage und das anschließende Verfolgen des Signalwegs durch das neurale Netzwerk.

Und der war bei vielen Fakten erstaunlich kurz. So ließen sich Frage zum gespielten Instrument bekannter Künstler, zur Sportart von Profisportlern oder zum Beispiel auch zu Hauptstädten einzelner Länder über eine einzelne Verknüpfung beantworten. Weniger eindeutig zu Beantwortendes lässt sich dagegen schwerer im Netzwerk nachvollziehen.

Dennoch konnte aufgezeigt werden, dass viele Informationen auf direktem Wege miteinander verbunden sind und kaum als Netzwerk organisiert sind. Zu verstehen, wie ein solcher Chatbot sein Wissen ausgibt und wie man das Signal im Netzwerk verlässlich rückverfolgen kann, dürfte in jedem Fall helfen, die teils kuriosen, manchmal aber auch schwierig zu erkennenden Fehler einer KI nachzuvollziehen.

Allein der Einblick in die Funktionsweise mit dem überraschend linearen Aufbau ist da schon viel wert.