Tiiny AI will lokale KI-Rechenpower bezahlbar machen - Preis und Details zum Start

Wir haben an dieser Stelle bereits über den Tiiny AI berichtet. Dieses kompakte System soll die vollständig lokale Nutzung von KI-Modellen erlauben und kann damit sowohl Kosten für ein entsprechendes Abonnement sparen als auch die Nutzung von KI-Modellen unter Berücksichtigung von scharfen Datenschutzbestimmungen erlauben. Inzwischen gibt es Informationen zum Preis des Systems, konkret wird es dieses ab dem 11. März für einen Preis ab 1.399 Dollar geben - und zwar im Rahmen einer Crowdfunding-Kampagne. Dabei sollten sich Nutzer eben der doch signifikanten, finanziellen Risiken solcher Schwarmfinanzierung bewusst sein. Aktuell können Kunden noch etwas mehr Geld sparen. Konkret gibt es eine kostenpflichtige Vorreservierung für 10 Dollar, wodurch sich dann ein Preis von 1.299 Dollar ergeben soll.

Das 142 × 80 × 22 Millimeter große System kommt mit einem SoC auf Basis der ARM-Architektur und bringt sowohl eine in den SoC integrierte als auch eine dedizierte NPU mit. Die dedizierte NPU soll dabei eine Leistung von 160 TOPS bieten. Der Arbeitsspeicher ist 80 Gigabyte groß, wobei LOPDDR5X-Speicher zum Einsatz kommt. Beworben wird die Kompatibilität zu ganz verschiedenen Modellen wie etwa GPT-OSS-120B, als durchschnittliche Output-Geschwindigkeit werden 18 bis 40 Token in der Sekunde angegeben. Es ist eine PCIe 4.0-SSD mit einer Kapazität von einem Terabyte verbaut, es stehen dreimal USB Typ C bereit und WiFi wird ebenfalls unterstützt. Geworben wird mit einer besonders einfachen Installation und Inbetriebnahme. So soll das System einfach an einen PC oder ein Notebook angesteckt werden, dann wird das Modell ausgewählt und die Nutzung ist gleich möglich.