Asus: Diese USB-Karte könnte eine Alternative zum Prozessor-Update für die NPU sein

Erweiterungskarten für PC-Systeme sind natürlich ein alter Hut, so sind dedizierte Grafikkarten für anspruchsvolle Videospieler ein muss. Wir haben an dieser Stelle schon mehrmals über Erweiterungskarten für die Beschleunigung von KI-Modellen berichtet, wobei solche bei vielen modernen PCs wahrscheinlich nicht mehr unbedingt nötig sind - in die APUs integrierte NPUs sei Dank. Um die KI-Leistung von bestehenden Systemen zu erhöhen, können solche Erweiterungskarten dennoch Sinn machen. Mit der UGen300 hat Asus eine solche nun angekündigt.

Dabei handelt es sich um eine USB-Erweiterungskarte, welche über USB 3.1 Gen 2 kommuniziert und dementsprechend keine Installation in einem PCI-Steckplatz oder das Öffnen des PCs erfordert. Ausgestattet ist das Modell mit einer Hailo-10H-NPU. Diese soll eine Leistung von 40 TOPS (INT4) erreichen, die typische Leistungsaufnahme wird mit 2,5 Watt beziffert und ist damit sehr gering bis faktisch vernachlässigbar. Genutzt wird ein 8 Gigabyte großer LPDDR4-Arbeitsspeicher - das wird KI-Interessierte durchaus aufhören lassen, dedizierte KI-Buils bringen es meist auf weit über 100 Gigabyte Arbeitsspeicher, tatsächlich kann die Speicherausstattung je nach Anwendung eine gewichtige Einschränkung darstellen.

Die Kompatibilität soll sowohl zu x86- als auch ARM-Plattformen und zu Windows-, Linux- und Android-Geräten gegeben sein und zu verschiedenen Frameworks wie TensorFLow, PyTorch und ONNX. Über 100, vortrainierte Modelle sind Herstellerangaben zufolge nutzbar. Eine typische Anwendung wäre etwa die fortschrittliche Bild- oder Mustererkennung und -interpretation. Informationen zum Preis oder der Verfügbarkeit liegen bisher nicht vor.