Dieser DIY-Roboter wird in Echtzeit „high“

Ein Bastler aus der Reddit-Community r/LocalLLaMA hat möglicherweise die ungewöhnlichste LLM-Integration des Jahres entwickelt: einen Kofferroboter namens Sparky, der zunehmend „verpeilt“ wirkt, wenn er Rauch ausgesetzt wird. Dabei handelt es sich nicht um ein vorprogrammiertes Verhalten, sondern um eine direkte Verknüpfung echter Sensordaten mit den Sampling-Parametern des Sprachmodells.

Das Projekt wurde von Reddit-Nutzer u/CreativelyBankrupt vorgestellt. Im Inneren des Roboters befindet sich ein MQ-2-Gassensor. Alle 500 Millisekunden misst der Sensor die Luftqualität und vergleicht sie mit einem dynamisch angepassten Referenzwert für saubere Luft. Die ermittelte Rauchbelastung wird anschließend in einen Phasenwert zwischen 0 und 10 umgerechnet. Dieser Wert verändert in Echtzeit die Art und Weise, wie das LLM Text generiert.

Mit steigender Rauchkonzentration erhöht sich beispielsweise die Temperatur von 1,0 auf etwa 1,6. Gleichzeitig steigt der top_p-Wert von 0,95 auf 0,99 und top_k von 64 auf 120. Dadurch greift das Modell zunehmend auf unwahrscheinlichere Token zurück und erzeugt immer unvorhersehbarere Antworten.

Die Wortwahl von Sparky wird dadurch zunehmend chaotischer und weniger kohärent – genau so, wie es bei hohen Sampling-Werten für Sprachmodelle zu erwarten ist. Jede Antwort wird dabei neu generiert, sodass keine zwei „berauschten“ Reaktionen identisch sind. Zusätzliche Persönlichkeitsanpassungen pro Phase sorgen dafür, dass sich der veränderte Zustand auch im Verhalten bemerkbar macht, ohne dass der Roboter diesen explizit erwähnt.

Auch optisch reagiert Sparky auf den Rauch. Die Augen hängen leicht herab, die Sprachausgabe wirkt etwas schleppender und das Display zeigt bei Phase 10 einen umfassenden Rauch- und Plasmaeffekt. Dieser Zustand bleibt für sieben Minuten bestehen, bevor der Roboter allmählich wieder in den Normalzustand zurückkehrt.

Der Entwickler weist allerdings offen auf die Grenzen der Hardware hin. Der MQ-2 ist ein VOC-Sensor und kann daher nicht zwischen verschiedenen Rauchquellen unterscheiden. Weihrauch oder eine Zigarette lösen dieselbe Reaktion aus wie Cannabisrauch.

Zum Zeitpunkt der Veröffentlichung hat das Video auf Reddit bereits mehr als 1.100 Upvotes gesammelt. Das Video ist unten eingebettet.

My suitcase robot gets high now off a real gas sensor wired straight into the LLM sampler. Smoke raises temperature/top_p/top_k live, so his speech genuinely gets loopier and never repeats.
by u/CreativelyBankrupt in LocalLLaMA