Unternehmensnachrichten über Panmnesia und Meta nutzen einen einzigen Chip, eine CXL-basierte Ansicht von KI-Rechenzentren

Der Anbieter von Meta und CXL-Technologie, Panmnesia, sagt, dass KI-Rechenzentren als eine einzige koordinierte Rechenressource betrachtet werden müssen, und nicht als ein zusammenliegender Satz unabhängiger Server.

Das KI-Rechenzentrum sollte eine eng gekoppelte Ressource sein, mit einer einzigen Kohärenzdomäne, wie ein CPU-Chip.die viele Kohärenzbereiche habenKI-Rechenzentren können einen einzigen Job über Hunderte, sogar Tausende von GPUs ausführen, ähnlich wie eine Hochleistungs-Computing-Workload mit koordinierten Prozessorkerne.Speicher und Netzwerkverbindungen.

Panmnesia und Meta haben gemeinsam eine nächste Generation KI-Rechenzentrum Architektur wie diese vorgeschlagen, in der das Rechenzentrum wie ein einzelner Chip funktioniert.eine Zeitschrift für das Portfolio Nature.

Myoungsoo Jung
Myoungsoo Jung, CEO von Panmnesia, sagte: "Da KI-Systeme weiter skaliert werden,Die Fähigkeit, eine große Anzahl von Beschleunigern und Speichergeräten schnell und effizient zu verbinden, wird genauso wichtig wie die Leistung einzelner BeschleunigerDiese Forschung skizziert eine Richtung für die KI-Infrastruktur der nächsten Generation, bei der CXL es dem gesamten Rechenzentrum ermöglicht, als ein einziges Computersystem zu funktionieren.

Die Komponenten auf einem einzigen Verarbeitungsschip, Kernen usw. sind so konzipiert und platziert, daß sie einheitliche Verbindungswege in einer einzigen Kohärenzdomäne haben und ihre Arbeit in zeitlich begrenztemkoordinierte und kontrollierte Art und WeiseIm Gegensatz dazu verfügen bestehende Rechenzentren über Serverprozessoren und Speicher in Rackregalen mit Netzwerkverbindungen und -schaltern im Rack und zwischen den Racks.Es gibt keine Kontrollstruktur, so dass die Serververarbeitung koordiniert wird.

Chip-ähnliches Rechenzentrum
Panmnesia sagt: "In den aktuellen Rechenzentren werden Beschleuniger in einem Rack durch schnell wachsende Verbindungen verbunden.während Verbindungen, die das Rack verlassen und Verbindungen zu anderen Geräten als Beschleunigern auf langsamere Skalierungsnetze angewiesen sindDie Messungen dieser Umgebungen zeigen starke Latenzverteilungen, mit einer 99-Prozentil-Rundreise-Latenz, die etwa fünfmal so hoch ist wie die Mediane.und je mehr Geräte teilnehmen, desto häufiger und schwerer tritt es auf.

Um ein KI-Rechenzentrum effizient und schnell zu betreiben, müssen sowohl Racks als auch Racks von GPUs, deren Speicher und Speicher kontrolliert und koordiniert werden.,Es heißt, die Verringerung der Latenzschwankungen zwischen den Geräten, so dass sich das Rechenzentrum als Ganzes vorhersehbar verhält, ist genauso wichtig wie die Verbesserung der Leistung der einzelnen Geräte oder der Verbindungsgeschwindigkeit.

Panmnesia LAU
Meta und Panmnesia schlagen vor, CXL als Grundlage dafür zu verwenden, mit neuen Konzepten, die es ermöglichen, auf Multi-GPU-Rack-Ebene zu arbeiten.Erweiterte CXL sorgt für eine Cache-Kohärenz zwischen den Beschleunigern in ihrem System, unterstützt eine größere Anzahl von Geräten als Nvidia's Rack-Scale, NVLink-basierte GB200 NVL72 und UALink.

Diese definiert die grundlegenden Regeln für die Verbindung von Geräten, jedoch nicht für Datenvermittlung und Latenzzeit.
High-Fan-Out-Non-Blocking-Schalter: Verbinden viele Geräte auf einmal, reduzieren die Anzahl der Hopps und halten die Pfadlängen gleich, unabhängig von der Quelle.
Link Acceleration Unit (LAU): Bewegt die sich wiederholende Protokollverarbeitung an jedem Verbindungspunkt auf eine dedizierte Hardwarepipeline, wodurch das Hop-Level-Verhalten regelmäßiger und die Latenzvariation begrenzt wird.
Fabric Controller: Anwendung derselben Bestellrichtlinie für die Bearbeitung von Anfragen im gesamten System, so dass Transaktionen konsistent verarbeitet werden, unabhängig davon, durch welches Gerät sie gelangen.

Panmnesia-Schalter mit hohem Lüfter-Aus- und Nicht-Blockschalter
Der Stoffcontroller (ein kombinierter CXL/PCIe-Controller) und die LAU haben die Siliziumvalidierung abgeschlossen, und der Stoffschalter wurde als physischer Siliziumchip hergestellt.mit vorfreie Silizium jetzt geliefertDies zeigt, daß die vorgeschlagene Architektur auf dem Niveau des herstellbaren Siliziums gültig ist.

Ihre Architektur gruppiert CPUs, Beschleuniger, Speicher und Schalter nach Funktion in Trays, gruppiert Trays in Pods,und verbindet die Kapseln durch ein Gewebe, eine regelmäßige Tray-Pod-Gewebehierarchie, die dazu bestimmt ist, festes Hopfen zu erhalten, einheitlichere Kommunikationswege und -zeiten.

Panmnesia Stoffkontroller
Im Vergleich zum Design von Nvidia, bei dem eine CPU über NVLink-C2C mit zwei Beschleunigern verbunden ist, ist das Rackinterieur durch NVLink verbunden,und Server und Racks werden durch ein Scale-out-Netzwerk wie Ethernet oder InfiniBand verbunden, ihr System:
bietet eine 8-fache Erhöhung der Beschleuniger, die direkt von einer einzelnen CPU koordiniert werden; von 2 auf 16,
Ermöglicht es bis zu 960 Beschleunigern, gemeinsam in einer einzigen Kohärenzdomäne zu arbeiten,
Reduziert die Datenzugriffsverzögerung von der Mikrosekundenstufe auf mehrere hundert Nanosekunden; ungefähr eine Größenordnung niedriger,
Die Ausfallersatz-Einheit wird zu einem fehlerhaften Gerät anstelle eines Servers.Die Trennung der Ressourcen nach Typ ermöglicht es dem System, nur die fehlerhaften Geräte anstelle eines gesamten Servers zu ersetzen, wodurch Ressourcenverschwendung und längere Betriebsausfälle vermieden werden.

Panmnesia hat die Kernkomponenten der Architektur bereits in Silizium implementiert, die Validierung abgeschlossen und bereitet sie nun für die kommerzielle Lieferung vor.Die künftigen Entwicklungen betreffen optische Verbindungen zur Steigerung von Geschwindigkeit und Skalierbarkeit.

Startbemerkung
Der NREE-Artikel ist verfügbar.

Beibei Qianxing Jietong Technology Co., Ltd.
Sandy Yang, Leiterin der globalen Strategie
WhatsApp / WeChat: +86 13426366826
E-Mail: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com Die Daten werden auf der Website der chinesischen Regierung gespeichert.
Geschäftsfokus:
Vertrieb von IKT-Produkten/Systemintegration und Dienstleistungen/Infrastrukturlösungen
Mit mehr als 20 Jahren Erfahrung im IT-Vertrieb arbeiten wir mit führenden globalen Marken zusammen, um zuverlässige Produkte und professionelle Dienstleistungen zu liefern.
¢Technologie nutzen, um eine intelligente Welt aufzubauen¡Ihr vertrauenswürdiger Dienstleister für IKT-Produkte!