AMD: Neuer Trick halbiert DRAM-Bedarf von Servern bei minimalem Leistungsverlust

AMD hat einen Weg gefunden, die Kosten für Server-Arbeitsspeicher zu senken: Die Mext-Technologie verlagert seltener genutzte Daten aus dem DRAM auf deutlich günstigere SSDs. KI-Algorithmen sagen dabei voraus, welche Daten Anwendungen voraussichtlich als Nächstes benötigen, um die Leistungseinbußen möglichst gering zu halten. Die Technik läuft bereits auf 145 Systemen und hat die Speicherkosten schätzungsweise um rund 4,5 Millionen Euro gesenkt.

AMD hat Mext im Juni übernommen und bereitet nun die Einführung der Technologie für Unternehmenskunden mit Epyc-Prozessoren vor. Laut Gary Smerdon, dem früheren Mext-Chef und heutigen Corporate Vice President für Geschäftsentwicklung bei AMD, kann der Arbeitsspeicher 60 bis 90 Prozent der Kosten großer Server ausmachen. Einen Teil des DRAM durch SSD-Speicher zu ersetzen, könnte Kunden daher erhebliche Einsparungen ermöglichen.

Das Prinzip ähnelt dem von Swap-Dateien beziehungsweise der Windows-Auslagerungsdatei: Wird der Arbeitsspeicher knapp, werden Daten auf einen Massenspeicher verschoben. Allerdings kann Flash-Speicher bis zu 500-mal langsamer als DRAM sein, weshalb dieses Verfahren üblicherweise mit Leistungseinbußen verbunden ist.

Mext soll diese Einbußen weitgehend vermeiden. Dazu sagt die Software mithilfe maschinellen Lernens voraus, welche Speicherseiten Anwendungen benötigen werden, und lädt sie zurück in den RAM, bevor sie angefordert werden. Smerdon verweist auf eine Untersuchung von Meta, der zufolge auf 50 bis 80 Prozent der Speicherseiten seit mindestens fünf Minuten nicht mehr zugegriffen worden ist. Das deutet darauf hin, dass ein erheblicher Teil der Daten im teuren DRAM gerade nicht aktiv genutzt wird.

Um künftige Speicherzugriffe vorherzusagen, nutzt die Software mehrere Algorithmen für maschinelles Lernen, darunter ein von der Transformer-Technologie abgeleitetes Modell. Laut AMD dauert das erste Training auf einem einzelnen CPU-Kern eines Epyc-Prozessors weniger als eine Sekunde. Anschließend passt sich das Modell an veränderte Arbeitslasten an, ohne dafür eine GPU zu benötigen.

AMDs Tests zeigen, dass die Ergebnisse von Mext von der jeweiligen Arbeitslast und dem Anteil des durch Flash ersetzten DRAM abhängen. Bei Tests mit Synopsys PrimeTime, einem Werkzeug zur Automatisierung des Elektronikentwurfs, hat Mext die Hälfte des DRAM ersetzt und dabei 95 Prozent der ursprünglichen Leistung erhalten. Bei einem Speicherverhältnis von nur noch 25 Prozent DRAM zu 75 Prozent Flash ist die Leistung auf 80 Prozent des ursprünglichen Niveaus gesunken.

Für Apache Spark meldet AMD bessere Ergebnisse. Hier sind nach dem Austausch der Hälfte des DRAM gegen Flash noch 99 Prozent der Leistung erhalten geblieben. Nach Angaben des Unternehmens läuft die Technologie bereits auf 145 Systemen. Smerdon schätzt, dass Kunden durch den Verzicht auf zusätzliche Arbeitsspeicherkäufe bislang rund 4,5 Millionen Euro eingespart haben.

Es gibt allerdings auch Einschränkungen. In virtualisierten Umgebungen benötigt die Software pro virtueller Maschine oder Instanz einer Virtual Private Cloud einen CPU-Kern. Auf Servern mit vielen virtuellen Maschinen könnte dadurch ein erheblicher zusätzlicher Ressourcenbedarf entstehen.

AMD will Mext über seine OEM-Partner lizenzieren. Die Software wird ausschließlich mit AMD-Hardware funktionieren. Das Unternehmen arbeitet mit Herstellern wie HPE an kompatiblen Epyc-Systemen. Außerdem entwickelt AMD eine separate Anwendung namens RAM View, mit der Kunden ermitteln können, welche Server und Arbeitslasten von der Technologie profitieren könnten. Preise und einen Termin für die breitere Verfügbarkeit hat AMD bislang nicht genannt.