Meta Muse Glimmer: Gratis-KI ohne Cloud, ab 24 GB Grafikspeicher

Meta hat am 10. August Muse Glimmer veröffentlicht, ein Sprachmodell mit rund 30 Milliarden Parametern. Bemerkenswert ist weniger das Modell selbst als die Lizenz und der Zielrechner. Die Gewichte stehen unter Apache 2.0 auf Hugging Face, du darfst sie also herunterladen, verändern und kommerziell einsetzen. Laufen soll das Ganze nicht im Rechenzentrum, sondern auf einer einzelnen Grafikkarte unter deinem Schreibtisch.

Hinter dem Modell steht das Meta Superintelligence Lab. Muse Glimmer ist aus dem größeren Muse Spark destilliert, ein großes Modell hat einem kleinen also beigebracht, wie es antworten soll. Es versteht Text und Bilder, gibt aber nur Text aus, beherrscht über 100 Sprachen und arbeitet mit mehr als 131.000 Token Kontext. Der Wissensstand endet am 4. Januar 2026. Zuletzt hatte Meta den Coding-Agenten Muse Code und den Bildgenerator Muse Image gezeigt.

24 GB Grafikspeicher sind die Eintrittskarte

In voller Rechengenauigkeit bräuchte das Modell 64 GB Grafikspeicher. Meta drückt es per Quantisierung auf etwa 4 Bit herunter, also auf eine gröbere Zahlendarstellung, die weniger Platz braucht. Der Sprachteil schrumpft damit auf unter 20 GB, daneben passen noch der Bildencoder und der Zwischenspeicher für den laufenden Dialog.

Zwei fertige Varianten liegen bereit. K-Quant-Dynamic zielt auf 32 GB und verliert im Mittel über 15 Benchmarks 0,2 Prozent Genauigkeit, K-Quant-17GB passt in 24 GB und verliert 1,0 Prozent. Praktisch heißt das GeForce RTX 5090, RTX 4090, RTX 3090 oder ein Mac mit M4 Max. Eine Mittelklassekarte mit 12 GB fällt raus. Wer weniger Speicher hat, findet in unserem Ratgeber kleinere Modelle für den eigenen Laptop, und selbst auf dem iPhone läuft inzwischen ein brauchbares Sprachmodell.

Ein Beschleuniger macht es dreimal schneller

Damit ein lokales Modell nicht zäh wirkt, legt Meta einen Helfer namens DFlash dazu. Der schlägt gleich 16 Token am Stück vor, das große Modell prüft den ganzen Block in einem Rutsch und bessert nur die Fehler aus. Auf einer RTX 5090 steigt der Durchsatz nach Metas eigener Messung von 74,9 auf 233,4 Token pro Sekunde, das ist Faktor 3,1. Ein MacBook mit M5 Max kommt von 26,6 auf 50,2 Token, der M4 Max von 23,7 auf 37,8.

AMD hat am selben Tag eigene Werte nachgereicht. Ein Mini-PC mit Ryzen AI Max+ 395 schafft bis zu 24 Token pro Sekunde, eine Radeon AI PRO R9700 bis zu 53, gemessen unter Windows mit llama.cpp. AMD bezeichnet die Zahlen selbst als vorläufig.

Stark beim Planen, schwächer an der Oberfläche

Meta vergleicht Muse Glimmer mit Gemma4-31B von Google und Qwen3.6-27B von Alibaba. Wenn das Modell Werkzeuge aufruft und über mehrere Schritte plant, liegt es klar vorn. Im Test MCP Atlas erreicht es 75,5 Punkte gegen 54,2 und 62,5, bei DeepSearch QA 74,6 gegen 61,7 und 71,1.

Qwen gewinnt dafür anderswo. Beim Bedienen einer echten Desktop-Oberfläche steht es 65,9 zu 75,6, im Terminal 51,7 zu 60,7. Und im Sicherheitstest Siren AgentDojo, der misst, wie leicht sich ein Modell durch versteckte Anweisungen in fremden Dokumenten manipulieren lässt, liegt Muse Glimmer mit 28,4 Prozent erfolgreichen Angriffen zwar vor Qwen, aber hinter Gemma4 mit 25,6 Prozent. Wer das Modell auf eigene Dateien und Mails loslässt, sollte das mitdenken.

So kommst du ran

Auf Hugging Face liegen vier Pakete bereit: das Basismodell mit vollen BF16-Gewichten, GGUF-Dateien für llama.cpp, ExecuTorch-Builds für Apple-Geräte und der DFlash-Helfer. Am bequemsten geht es über LM Studio, dort taucht das Modell in der Suche auf. AMD empfiehlt dafür mehr als 32 GB Grafikspeicher oder entsprechend zugewiesenen Arbeitsspeicher. Wer weniger Grafikspeicher hat, findet bei Anbietern wie Unsloth kleinere Quantisierungen, muss dann aber Teile des Modells in den normalen Arbeitsspeicher auslagern, was spürbar Tempo kostet. Die Community war flott. Keinen Tag nach der Freigabe lagen bereits 57 zusätzliche Quantisierungen und sechs Feintunings daneben. Einfach im Browser antesten wie damals bei Kimi K3 geht hier allerdings nicht, ohne passende Hardware bleibt Muse Glimmer außen vor.