Ingenieure der Facebook-Muttergesellschaft Meta enthüllten, wie sie mithilfe einer Softwarelösung namens Transparent Memory Offloading (TMO) freien Speicher anbieten konnten.

Es ist jetzt Teil des Linux-Kernels und lädt, einfach ausgedrückt, automatisch Daten auf andere Speicherebenen (z. B. Samsungs CX-Speichererweiterung), die weniger teuer und effizienter als Speicher sind.

Die Einsparungen sind erheblich; TMO läuft seit über einem Jahr auf Millionen von Facebook-Servern und spart dabei bis zu fast einem Drittel Speicherplatz pro Server ein. Während dies auf Dutzenden oder sogar Hunderten von Servern wahrscheinlich unbedeutend wäre, stellt die schiere Größe von Facebook eine einzigartige Herausforderung dar.

Analyse: Facebooks gigantischer Appetit auf RAM

Das weltweit größte soziale Netzwerk hat fast drei Milliarden monatlich aktive Benutzer und Millionen von Servern an 21 Standorten auf der ganzen Welt. Wenn jeder Server durchschnittlich 128 GB RAM hätte, würde dies 256 Millionen GB (oder 256 PB) RAM entsprechen, was bei durchschnittlichen Kosten von 4 € pro GB (DDR4 ECC RAM) ungefähr 1 Milliarde € Speicher entspricht Das setzt voraus, dass Facebook mindestens zwei Millionen Server hat (der Facebook-Blog sprach bereits im Juli 2018 von „Millionen von Servern“), und die tatsächliche Zahl dürfte noch viel höher liegen.

Zahlen, die von dem Team präsentiert wurden, das an TMO arbeitete, zeigten, dass die Speicherkosten ein Drittel der Serverstückliste von Meta ausmachen, wobei komprimierter RAM und SSD weniger als 11 % ausmachen. Noch besorgniserregender ist, dass sich die Kosten für RAM (als Prozentsatz der gesamten Infrastruktur) mehr als verdoppelt haben, seit Facebook seine erste Servergeneration (derzeit ist es die vierte) auf den Markt gebracht hat.

Die Einführung von TMO hat einige Nachteile; genauer gesagt, Leistungsabfall. Aber die Einsparungen bei Strom und Speicher überwiegen die Nachteile bei weitem, und zukünftige Iterationen in Kombination mit Hardwareverbesserungen (z. B. schnellere SSDs oder CXLs) werden weitere Abhilfe schaffen.

Teilen Sie es