MLPerf Storage v3.0 fügt dem bestehenden POSIX-Framework eine S3-Datenschicht hinzu, neben neuen KV-Cache- und Vektordatenbank-Workloads,eine enge Angleichung der Benchmark-Kriterien an die Anforderungen moderner KI-Datensysteme.
Der von MLCommons entwickelte MLPerf Storage Benchmark bewertete ursprünglich die Speicherleistung für maschinelle Lern-Training-Workloads, einschließlich Unet3D, Cosmoflow und Resnet50,Verwendung von NVIDIA A100 und H100 GPU-HardwareDie Version 3.0 enthält eine umfassende Testumstrukturierung, die sich auf vier Kern-Arbeitslast-Szenarien konzentriert.
Der aktualisierte Testrahmen umfasst eine KI-Ausbildung auf Basis von Unet3D und RetinaNet, die maximale Skalierbarkeit des Beschleunigers misst, während die Auslastung von über 90% beibehalten wird.simuliert auf NVIDIA B200 oder AMD MI355 GPUsEs deckt auch Checkpointing für Llama 3-Style-Modelle ab, die von 8B bis 1,25T-Parametern reichen und eine geringe Latenzzeit für 10 Runden iterativer Schreib- und Leserungen priorisieren.Die Suite enthält Vektordatenbank-Tests auf einer Million, 1536-dimensionale Milvus-Datensatz, um den Abfrage-Durchsatz zu maximieren und gleichzeitig die Latenz- und Rückrufraten zu verfolgen, sowie KV-Cache-Tests, um die maximale gleichzeitige Konversationsunterstützungskapazität zu messen.
Brian Belgodere, Co-Vorsitzender der MLPerf Storage Working Group, erklärte, dass das neue Testportfolio die Benchmark-Abdeckung für die Mainstream-Anforderungen an die Speicherung von KI-Inferenzen erweitert.Die aktualisierte Suite vergleicht schulungsorientierte Schulungen und Checkpointing-Tests mit schlussorientierten KV-Cache- und Vektordatenbankbewertungen. Indem integrierte KI-Systeme in zielgerichtete Arbeitsbelastungsbewertungen für Speicher, einschließlich Checkpointing, KV-Caching und Vektoranfragenverarbeitung, aufgeteilt werden,Der Benchmark ermöglicht es Branchenfachleuten, die Konfigurationen der KI-Infrastruktur besser zu optimieren und Engpässe bei der Speicherleistung zu beseitigen..
Die neu hinzugefügte S3-Objektspeicherschicht unterstützt Training, Checkpointing und partielle Vektordatenbank-Tests, wobei etwa ein Sechstel aller v3.0-Einreichungen einen auf S3-basierten Speicherzugriff übernimmt.
Curtis Anderson, ein weiterer Co-Vorsitzender der Arbeitsgruppe, stellte fest, dass der KI-Kontext sich auf Billionen von Token vergrößert, Objektspeicher sich als eine tragfähige,sogar eine bevorzugte Alternative zum traditionellen DateisystemspeicherDie native S3-Unterstützung in der Version 3.0 liefert transparente Leistungsdaten, um Entscheidungen zur Bereitstellung von Enterprise-Speichern zu leiten.
Insgesamt 19 Anbieter übermittelten Ergebnisse für diesen Benchmark-Zyklus.VAST Data und WEKA fehlten auf der EinreichungslisteMLPerf-Vertreter kommentierten, dass traditionelle NAS-Anbieter nur begrenzt teilnehmen, wobei die meisten etablierten Anbieter die letzte Runde ausstehen.
Angesichts der vielfältigen KI-Speicherlandschaft veröffentlicht v3.0 kein einziges Gesamtranking, sondern liefert unabhängige Ergebnisse für die vier Arbeitsbelastungskategorien mit mehrdimensionalen Metriken.Der vollständige Ergebnisdatensatz umfasst 145 Zeilen und 55 Spalten, insgesamt fast 8.000 Datenzellen, mit 12 speziellen Spalten ausschließlich für KV-Cache-Leistungsmetriken.Lese-/Schreibbandbreite und P95-Latenz bei Speicher-allein- und Speicher+Speicher-Architekturen für Llama-Modell-Belastungen 8B und 70B.
MLCommons empfiehlt außerdem eine standardisierte Leistungsbewertung auf der Grundlage der Rackdichte und der Energieeffizienz pro Watt, um die Gesamtbetriebseffizienz der Infrastruktur zu messen.
Die aktualisierte Benchmark-Suite verfügt über eine hochkomplexe Evaluierungslogik, die es Anbietern ermöglicht, Ergebnisse für gezielte Arbeitslasten selektiv einzureichen.Suzhou Zishan und TTA haben die Testergebnisse der Vektordatenbank vorgelegt..
Everpure berichtete über erstklassige Leistung für seinen FlashBlade//EXA bei Checkpointing- und KV-Cache-Tests für 405B- und 1.25T-Parametermodelle.024 simulierte Beschleuniger, erreichte die Plattform eine Schreibbandbreite von 877,52 GiB/s (Abschluss von 17,74s) und eine Lesebandbreite von 588,28 GiB/s (Abschluss von 28,99s) für das Checkpointing von 1,25T-Modellen.65 GiB/s Schreibdurchsatz bei 10 Knoten bis zu einem Höchstwert von 30 Knoten.
Zusätzliche Daten zeigen, dass die Einreichung von Schreibmeldungen an den Kontrollstellen vor Ort eine mittlere Energieeffizienz von 14 GB/s pro Watt mit einem Höchststand von 201 GB/s pro Watt erzielte.UNet3D-Leseprüfungen ergaben einen mittleren Wirkungsgrad von 34 GB/s pro Watt und einen Höchstwert von 277 GB/s pro Watt.
Beibei Qianxing Jietong Technology Co., Ltd.
Sandy Yang, Leiterin der globalen Strategie
WhatsApp / WeChat: +86 13426366826
E-Mail: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com Die Daten werden auf der Website der chinesischen Regierung gespeichert.
Geschäftsfokus:
Vertrieb von IKT-Produkten/Systemintegration und Dienstleistungen/Infrastrukturlösungen
Mit mehr als 20 Jahren Erfahrung im IT-Vertrieb arbeiten wir mit führenden globalen Marken zusammen, um zuverlässige Produkte und professionelle Dienstleistungen zu liefern.
¢Technologie nutzen, um eine intelligente Welt aufzubauen¡Ihr vertrauenswürdiger Dienstleister für IKT-Produkte!
Ihre Nachricht muss zwischen 20 und 3.000 Zeichen enthalten!
German
