Der globale Flash- und Speichermarkt war am Wochenende von intensiver Aktivität geprägt, darunter ein Streit zwischen Micron und Apple, Gespräche von Anthropic mit SK Hynix über die Chipbeschaffung, eine neue Partnerschaft zwischen Nvidia und SK Hynix, Fortschritte von SK Hynix bei 3D-DRAM und eine Innovation von Samsung im Bereich CXL-Speicherpooling.
SK Hynix dominierte die jüngsten Schlagzeilen der Branche. Citrini-Analyst Jukan bestätigte, dass das Unternehmen 3D-gestapeltes DRAM entwickelt, unterstützt durch die strategische Einstellung von Ingenieuren für das Design von 3D-gestapeltem DRAM auf Logik über seine US-Niederlassung in San Jose. Die Rekrutierung zielt auf Talente ab, die in der Lage sind, 3D-gestapelte DRAM-Logik-Dies mit mehreren US-Kunden gemeinsam zu entwickeln.
Die neue Architektur schichtet 3D-DRAM-Stacks über Prozessoren für Systemhalbleiter. Die Integration von DRAM und Logik auf einem einzigen Die ermöglicht eine schnellere Inter-Chip-Konnektivität und einen geringeren Stromverbrauch als herkömmliche Package-on-Package (PoP)-Verbindungen von separaten Speicher- und Logikpaketen.
Jukan merkt an, dass die Technologie auf KI-Workload-Geräte abzielt, die eine hohe Speicherbandbreite und einen geringen Stromverbrauch erfordern, insbesondere mobile Anwendungsprozessoren für Smartphones – und positioniert Apple als potenziellen Schlüsselkunden für SK Hynix.
Die SK Group hat ihre strategische Partnerschaft mit Nvidia durch formelle Absichtserklärungen erweitert und eine Zusammenarbeit im Wert von über 500 Milliarden US-Dollar gebildet. SK Telecom wird eine 2-Gigawatt Nvidia Vera Rubin DSX AI Factory als neuen Cloud-Anbieter bauen, um die globale Rechennachfrage zu decken. Die Vera Rubin-Chips werden den HBM4-Speicher von SK Hynix verwenden, wobei die erste KI-Fabrik für 2027 geplant ist.
Die Partnerschaft zielt darauf ab, die Entwicklung von KI-Infrastrukturen im großen Maßstab zu beschleunigen, die souveräne, physische, agentenbasierte und unternehmensweite KI-Dienste abdecken, und die steigende KI-Nachfrage in Südkorea und der gesamten asiatisch-pazifischen Region zu bedienen. SK Hynix wird auch eine langfristige KI-Speicherpartnerschaft mit Nvidia eingehen, um eine stabile Versorgung von Nvidia mit KI-Speicher der nächsten Generation zu gewährleisten und gleichzeitig die Produktionskapazität von SK Hynix zu skalieren. Beide Seiten werden HBM und andere KI-Speicherlösungen für LLM-Training, agentenbasierte und physische KI-Szenarien gemeinsam entwickeln und optimieren.
SK Group Chairman Chey Tae-won erklärte, dass die Zusammenarbeit die Stärken von SK Hynix im Bereich KI-Speicher und die Infrastruktur von SK Telecom nutzen wird, um eine KI-Fabrik von Weltklasse aufzubauen und Südkorea von einem KI-Nutzer zu einem globalen Zentrum für KI-Innovationen zu machen.
Der ehemalige Intel-CEO Pat Gelsinger kritisierte HBM während eines Gesprächs mit der koreanischen Industrie offen und bezeichnete es als unvollkommene Speicherlösung. Er wies auf die Hauptfehler von HBM hin: thermische Stapelprobleme, Konnektivitätsgrenzen, die durch die GPU-Randbereiche eingeschränkt sind, schlechte Energieeffizienz und Bit-Ineffizienz – wobei etwa vier Speicherbits pro effektivem Betriebsbit geopfert werden. Gelsinger räumte dennoch ein, dass HBM die derzeit beste praktikable Lösung sei.
SK Hynix SVP Hoshik Kim unterstützte Gelsingers Ansicht teilweise und erklärte, dass HBM den inhärenten Engpass der KI-Speicherwand nicht grundlegend lösen könne. Er stellte klar, dass HBM nur als vorübergehende Abhilfemaßnahme diene, während SK Hynix aktiv alternative Lösungen zur Bewältigung der Kernherausforderung der Speicherwand entwickle.
Laut Bloomberg verhandelt das führende US-KI-Unternehmen Anthropic mit SK Hynix über die Lieferung dedizierter Speicherchips zur Unterstützung seiner kundenspezifischen Inhouse-KI-Prozessoren. SK Group Chairman Chey Tae-won gab die Nachricht auf einem KI-Gipfel im Juli 2024 in San Francisco bekannt, auf dem auch Anthropic CEO Dario Amodei sprach und die ehrgeizigen Hardwareentwicklungsziele von Anthropic inmitten breiter Branchenbemühungen zur Überwindung der GPU-Dominanz von Nvidia lobte. Amodei reagierte öffentlich nicht auf die Kommentare.
Samsung hat mit externem CXL-gepooltem Speicher für das KV-Cache-Offloading eine nahezu native DRAM-Leistung für KI-Inferenz-Workloads erzielt, so sein offizieller Tech-Blog. LLMs verlassen sich auf KV-Cache, um berechnete Aufmerksamkeits-Schlüssel und -Werte zu speichern, um die Inferenzlatenz und redundante Berechnungen zu reduzieren. Große Modelle benötigen jedoch Hunderte von Gigabyte Cache, die den On-Board-Speicher von KI-Prozessoren leicht übersteigen. Konventionelles SSD- oder netzwerkbasiertes Offloading erleichtert Kapazitätsgrenzen, führt aber zu zusätzlicher Latenz und Bandbreiten-Overhead.
Die CXL-Technologie durchbricht traditionelle physikalische DRAM-Beschränkungen durch kohärente PCIe-Interconnects mit hoher Bandbreite und ermöglicht skalierbares Speicherpooling über mehrere Geräte hinweg durch CXL-Switches. Samsungs CMM-D (CXL Memory Module-DRAM) ist speziell für diese erweiterte Speicherarchitektur konzipiert.
Samsung testete seine CMM-D-Module mit Nvidia RTX PRO 6000 Blackwell GPUs über PCIe Gen5 und baute einen 1 TB CXL-Speicherpool mit vLLM- und LMCache-Softwareoptimierungen auf. Die Tests bestätigten, dass der Pool das KV-Cache-Offloading im großen Maßstab mit nahezu DRAM-Leistung unterstützt. In Single-GPU-Konfigurationen erreichte das optimierte CXL-Pooling als LMCache-Backend die DRAM-Leistung. In Multi-GPU-Umgebungen mit acht GPUs behielt es 92 % des nativen DRAM-Durchsatzes bei deutlich größerer Speicherkapazität.
Weitere Tests verglichen ein lokales 512 GB DRAM-Setup und einen 1 TB CXL-Pool unter steigenden KV-Cache-Lasten. Lokales DRAM litt unter starken Leistungseinbrüchen durch wiederholte Cache-Neuberechnungen, sobald die Kapazität überschritten war, während der CXL-Pool eine stabile Leistung beibehielt und deutlich größere Cache-Footprints unterstützte. Vollständige Testergebnisse sind im herunterladbaren Whitepaper von Samsung verfügbar.
Samsung stellt fest, dass aktuelle CXL-Switch-Implementierungen Host-seitige Kernel- und Softwareanpassungen für LMCache und andere Komponenten erfordern. Dennoch zeigt das CXL 3.0-basierte Speicherpooling ein starkes Anwendungspotenzial, mit einer fortschreitenden Reifung des Ökosystems durch Intel DMR, AMD Venice und neue CXL 3.0-Switch-Plattformen zur Beseitigung bestehender technischer Einschränkungen.
Schließlich hat sich eine wachsende Kluft zwischen Micron und Apple aufgetan. Unter Berufung auf WSJ-Berichte enthüllt Citrinis Jukan, dass Apple das Weiße Haus um Genehmigung bittet, um die in China gelistete CXMT DRAM in seinen Geräten einzusetzen, während Micron Gegenanträge einreicht, um die Einführung von CXMT-Chips zu blockieren. Die Reibung rührt von einer langjährigen Verärgerung des Micron-CEO Sanjay Mehrotra her, die auf seine Sandisk-Zeit zurückgeht, als Apple während eines Käufermarktes niedrige Flash-Speicherpreise durchsetzte. Da der aktuelle Speichermarkt die Anbieter begünstigt, ist Mehrotra Berichten zufolge nicht bereit, die Preis- und Lieferengpässe für Apple zu lockern.
Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang/Global Strategy Director
WhatsApp / WeChat: +86 13426366826
E-Mail: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
Geschäftsschwerpunkt:
Distribution von ICT-Produkten/Systemintegration & Dienstleistungen/Infrastrukturlösungen
Mit über 20 Jahren Erfahrung in der IT-Distribution arbeiten wir mit führenden globalen Marken zusammen, um zuverlässige Produkte und professionelle Dienstleistungen zu liefern.
„Technologie nutzen, um eine intelligente Welt zu bauen“ Ihr vertrauenswürdiger Anbieter von ICT-Produkten und -Dienstleistungen!
Ihre Nachricht muss zwischen 20 und 3.000 Zeichen enthalten!
German
