Unternehmensnachrichten über Instinktiv und EPYC; VAST Data richtet weitreichende Zusammenarbeit bei AMD CPUs/GPUs ein

John Mao

Wichtige Säulen der erweiterten Zusammenarbeit

• -VAST adoptiert AMD EPYC (Codename Venice) der 6. Generation, um seine CBox- und EBox-Plattformen der 6. Generation zu betreiben, die dem VAST AI OS zugrunde liegen.die doppelte I/O-Bandbreite und niedrigere Latenzzeit als PCIe Gen 5 für VAST DataBase und DataEngine-unterstützte KI-Datendienste einschließlich Datenbanken, Datenspeicher und Ereignisstreaming.
• -Eine von VAST, AMD und DriveNets gemeinsam entwickelte dreigliedrige KI-Infrastruktur-Referenzarchitektur, die AMD Helios-AI-Hardware im Rackmaßstab, VAST AI OS und DriveNets AI Fabric-Netzwerk integriert.Der Entwurf enthält Einzelheiten zur Unterstützung der Ausbildungsinfrastruktur, Schlußfolgerungen, Verstärkungslernen und KV-Cache-Arbeitslasten sowie Größenanleitung für Teams, die KI-Fabriken aufbauen.
• -Weitere Ökosystempartnerschaften mit TensorMesh, EmbeddedLLM und anderen Anbietern zur Beschleunigung von Produktions-Inferenzstacks, die für agentenartige KI optimiert sind.
• - Neue KV-Cache- und Inferenzoptimierungen, die AMD Instinct-GPUs, Infinity Context, ROCm-Software und VAST AI OS zusammenführen.
• -Automatisiertes Management des KV-Cache-Lebenszyklus: Das Löschen des Caches mit sensiblen personenbezogenen Daten stellt große Compliance-Hürden für Unternehmen dar.Der integrierte Stack nutzt die nativen Datenlebenszyklusregeln von VAST, um die KV-Cache-Daten automatisch zu löschen, die eine solide Sicherheit, Privatsphäre und Einhaltung der Vorschriften ohne manuelle Verwaltungsarbeit bieten.
• - AMD Pensando Pollara 400 AI NIC erstellt Hochgeschwindigkeitsdatenwege, die Instinct GPUs mit VAST AI OS verbinden.es schaltet Daten nahtlos zwischen GPU-Speicher und VAST ′s NVMe SSD-Speichercluster, die den Zugang zum KV-Cache und Speicher ermöglichen, der für groß angelegte Schlüsse und agentenartige KI von entscheidender Bedeutung ist.
• -Verifizierte Bereitstellungen bei führenden KI-Cloud-Anbietern, die weltweit AMD-basierte KI-Dienste anbieten, einschließlich 5C, Core42, Crusoe, EmbeddedLLM, Phanos.AI, TensorWave und Vultr.