"Ziemlich schrecklich": Laut Sam Altman verschwenden PCs den weltweit knappen DRAM

OpenAI-Chef Sam Altman hält große Mengen Arbeitsspeicher in privaten Computern für eine ineffiziente Nutzung des begrenzten Speicherangebots. In Rechenzentren ließen sich dieselben Ressourcen seiner Ansicht nach besser einsetzen. Bei der lokalen KI-Inferenz, die als Alternative zu cloudbasierten KI-Diensten zunehmend beliebter wird, bleibe der Speicher die meiste Zeit ungenutzt. Knapper DRAM werde dadurch schlecht verteilt. Altman äußerte sich diesbezüglich wie folgt:

Aus Sicht der weltweiten Verteilung ist es eigentlich ziemlich schlimm, wenn jeder einen Teil des begrenzten DRAM-Angebots im eigenen Computer hat und dieser nur 5 Prozent der Zeit genutzt wird. Bei einem derart knappen Angebot muss das Ziel eine möglichst hohe Auslastung in der Cloud sein.

Altman sieht den Speicher also in zentralen Rechenzentren besser aufgehoben, wo er kontinuierlich für mehrere Nutzer und unterschiedliche Aufgaben eingesetzt werden könnte. Seine Argumentation konzentriert sich allerdings auf die lokale KI-Inferenz und lässt die vielen anderen Gründe außer Acht, aus denen PCs Arbeitsspeicher benötigen. Dazu gehören Spiele, Alltagsanwendungen und Multitasking.

Altmans Position passt auch zum Geschäftsmodell von OpenAI. Das Unternehmen bietet zwar einige Modelle mit frei zugänglichen Gewichten an, seine wichtigsten Produkte sind jedoch geschlossene Modelle, die in Rechenzentren laufen und über Abonnements und Cloud-Dienste zugänglich sind. Eine stärkere Verbreitung lokaler KI-Modelle könnte die Abhängigkeit von Cloud-Plattformen und Abonnements verringern. Für das Training großer Modelle blieben Rechenzentren allerdings unverzichtbar.

Die Äußerungen fallen in eine Zeit, in der Anbieter von KI-Infrastruktur um ein zunehmend knappes Speicherangebot konkurrieren. Speicherhersteller bedienen vorrangig die Nachfrage aus Rechenzentren. Das erhöht den Druck auf den Endkundenmarkt und trägt zu steigenden Preisen für PCs und andere Hardware bei. Altmans Aussagen befeuern damit die Debatte darüber, ob das weltweit begrenzte DRAM-Angebot in großen KI-Rechenzentren gebündelt werden oder weiterhin einzelnen Nutzern zur Verfügung stehen sollte.