Einfacher Trick spart Energie und CO₂: KI-Chatverlauf löschen

Künstliche Intelligenz gilt als rechenintensiv – insbesondere im Betrieb großer Sprachmodelle wie GPT-4. Ein Forschungsteam des Versicherungsunternehmens Axa zeigt nun, dass auch das Verhalten der Endnutzer einen messbaren Einfluss auf den Ressourcenverbrauch hat. In der aktuellen Publikation Mitigating the Carbon Footprint of Chatbots as Consumers, erschienen im Sammelband Trends in Sustainable Computing and Machine Intelligence bei Springer Nature, empfehlen die Autoren einen simplen Schritt: Wer bei einem Themenwechsel den KI-Chatverlauf löscht und neu beginnt, kann den Tokenverbrauch und damit auch den Energieeinsatz senken.

Technischer Hintergrund

Der technische Hintergrund: Da große Sprachmodelle kein Gedächtnis haben, müssen sie bei jeder Anfrage den kompletten bisherigen Verlauf analysieren. Mit jedem zusätzlichen Eintrag wächst der sogenannte Prompt – und mit ihm der Rechenaufwand pro Interaktion. Diese verdeckte Datenlast verursacht zusätzlichen Stromverbrauch und erhöht somit die indirekten Emissionen.

Bis zu 19 Prozent weniger Tokens durch konsequenten Chat-Neustart

Um das Einsparpotenzial zu quantifizieren, analysierte das Team anonymisierte Protokolle eines GPT-basierten internen Assistenzsystems mit über 190.000 Nutzereingaben. Das Ergebnis: Durch gezieltes Zurücksetzen des Chatverlaufs bei Themenwechseln lässt sich laut der Studie der Tokenverbrauch um bis zu 19 Prozent senken – eine direkt messbare Effizienzsteigerung.

In der Springer-Veröffentlichung heißt es dazu:

„Users can significantly reduce the number of tokens processed by simply starting a new conversation when switching topics, leading to substantial savings in computational cost and carbon emissions.“

Kleine Maßnahme – große Wirkung im KI-Alltag

Zwar bleibt die Hauptverantwortung für nachhaltigere KI-Systeme bei den Anbietern, doch laut Studie können auch Nutzer unmittelbar zur Reduzierung der CO₂-Bilanz beitragen. Gerade bei häufiger, intensiver Nutzung von KI-Chatbots – etwa im Berufsalltag – ist das Zurücksetzen des Chatverlaufs ein einfacher, aber wirksamer Hebel für energieeffizienteren Einsatz.

KI Umweltbilanz: jeder kann helfen 

Angesichts steigender Nachfrage nach KI-Diensten und wachsender Energiekosten gewinnt auch der ökologische Fußabdruck von Sprachmodellen an Bedeutung. Die Springer-Studie liefert erstmals konkrete, datengestützte Hinweise, wie Nutzer durch bewusste Interaktion die Umweltbilanz verbessern können – ohne auf Funktionalität zu verzichten.