Mit spannender Architektur: KI-Workstation verspricht Open-Source-Stack und unterstützt GPT-OSS 120B

RISC-V-Systeme sind im Prinzip natürlich nicht neu, in den letzten Jahren hat sich in diesem Bereich aber doch so einiges getan und so gibt es inzwischen sogar Notebooks auf Basis der RISC-V-Architektur, welche problemlos erhältlich sind. Dabei handelt es sich allerdings noch eher um Systeme für Liebhaber oder Bastler. Komplett im Massenmarkt sind RISC-V-Systeme noch nicht angekommen. Mit der TT-QuietBox 2 hat der Hersteller Tenstorrent nun die eigenen Angaben zufolge erste RISC-V-KI-Workstation vorgestellt, welche mit einem vollständigen Open-Source-Software-Stack kommt. Ein wenig auseinandernehmen muss man diese Ankündigung insbesondere in Bezug auf die Software: Konkret verspricht Tenstorrent, dass der Quellcode der gesamten Software von Treiber bis zu den KI-Anwendungen, einsehbar und im Prinzip auch modifizierbar ist. Das bedeutet nicht, dass Software erst von Grund auf entwickelt werden muss. Allerdings sind Modifikationen eben möglich. Herstellerangaben zufolge wird die QuietBox 2 schon einsatzbereit geliefert.

Nutzbar ist so direkt GPT-OSS 120B, welches dementsprechend 120 Milliarden Parameter nutzt. Llame 3.1 70B arbeitet Herstellerangaben zufolge mit einer Leistung von 476,5 Token in der Sekunde. Weiterhin gibt es mit Flux und Wan 2.2 die Möglichkeit, Bilder und Videos vollständig lokal zu generieren, etwa ein Rendering zu einem neuen und noch hochgeheimen Produkt, bei welchem die Möglichkeit eines Datenabflusses kategorisch ausgeschlossen werden mussm, kann dies sinnvoll sein. Genutzt wird ein 128 Gigabyte großer GDDR6-Speicher, der DDR5-Arbeitsspeicher ist 256 Gigabyte groß. Als Betriebssystem kommt Ubuntu 24.04 zum Einsatz. Die Verfügbarkeit der TT-QuietBox 2 soll ab dem zweiten Quartal 2026 und für einen Preis von mindestens 9.999 Dollar gegeben sein.