Winzige KI läuft auf MS-DOS-PCs direkt von Diskette

Der Entwickler WollyMonjac hat Tiny 2.1 veröffentlicht. Der kleine, von Claude programmierte KI-Chatbot läuft unter MS-DOS, ist für Rechner mit 486DX- oder Pentium-Prozessor ausgelegt und passt auf eine einzige 1,44-MB-Diskette.
Tiny 2.1 nutzt wie große Sprachmodelle eine Transformer-Architektur, ist aber als kompakter Chatbot für Fragen und Antworten konzipiert und in Turbo C 2.0 geschrieben. Entwickelt hat ihn Anthropics Spitzenmodell Claude Fable 5.2. Für das Training kamen die ebenfalls leistungsstarken Opus-5.5-Modelle zum Einsatz.
Fable 5.2 hat den Transformer programmiert, Opus 5.5 die Trainingsdaten erzeugt. Diese umfassen mehr als 3.500 Fakten sowie Beispiele für Smalltalk und Mathematik, jeweils mit unterschiedlich formulierten Fragen und Antworten. Auf dem alten Pentium-PC läuft damit ein eigenständiges Modell. Mit Wörtern und Fakten aus dem Training kommt Tiny 2.1 recht gut zurecht. Bei komplexen oder zu langen Fragen erfindet es Antworten, wie es früher auch bei großen Sprachmodellen vorkam.
Die bunte Oberfläche im Video unten erinnert an klassische DOS-Programme. Sie bietet ein Fenster für den Gesprächsverlauf, eine Anzeige für das neuronale Netz, eine Aktivitätsanzeige und ein Eingabefeld mit der Beschriftung "Ask Tiny". Am unteren Rand stehen die Tastenkürzel für die Funktionstasten. Die Antworten gibt das Modell mit einer Roboterstimme über den PC-Lautsprecher aus.
Für den Betrieb sind weder eine Diskette noch ein USB-Diskettenlaufwerk nötig. Die ZIP-Datei lässt sich von GitHub herunterladen und in einen MS-DOS-Emulator laden. Dort lässt sich Tiny 2.1 starten, indem zuerst "CD \TINY" und dann "TINY" eingegeben wird. Mit "TCC -ml TINY.C" lässt sich das Programm neu kompilieren. Die Skripte für das Training mit eigenen Inhalten stehen auf GitHub unter der MIT-Lizenz bereit.
Das Modell hat 367.000 Parameter und nutzt ein Netzwerk mit vier Schichten und einer Hidden-Dimension von 96. Es liest und schreibt Buchstabe für Buchstabe. Die Gewichte sind als 8-Bit-Ganzzahlen mit einem Skalierungsfaktor pro Zeile gespeichert und belegen rund 380 KB. Das Programm benötigt etwa 540 KB freien konventionellen Arbeitsspeicher.
Zusammen mit dem Programm belegt das Modell rund 435 KB. Auf einer formatierten Diskette mit 1,44 MB bleibt damit reichlich Platz, sofern sie noch funktioniert. Das Retro-Projekt bietet sich für Vorführungen in Computerräumen an Schulen oder in Museen an und könnte sogar in ungewöhnlichen Kunstprojekten zum Einsatz kommen.

Quelle(n)
WollyMonjac (Github) via Reddit





