Equinix hat seine NVIDIA-Partnerschaft erweitert und eine neue Zusammenarbeit mit Together AI zur Einführung von Equinix Inference Exchange geschlossen. Die Plattform, die als verteilte KI-Inferenzarchitektur auf Enterprise-Niveau konzipiert ist, verlagert Rechenlasten näher an Kerndatenspeicher, Endbenutzer und operative Anwendungen. Sie wurde zusammen mit Equinix Fabric One auf der Equinix Horizon vorgestellt und vereint NVIDIA Enterprise-Hardware, die Open-Source-Modellplattform von Together AI und die globale Interconnection-Infrastruktur von Equinix, um Latenz-, Datensouveränitäts- und Netzwerkengpässe zu lösen.

Verteilte Inferenz und Daten-Schwerkraft adressieren Da Enterprise-KI von Prototypen zu Hochdurchsatz-Produktion übergeht, beeinflusst die Platzierung der Inferenz die Gesamtkosten, die Antwortlatenz und die Compliance. Dennoch bringt der Betrieb verteilter Infrastrukturen in heterogenen Umgebungen einen operativen Mehraufwand und Netzwerkkomplexität mit sich.

Equinix mildert diese Schmerzpunkte durch seine über 280 Rechenzentren in 77 Metropolen, 230 Cloud-On-Ramps und ein Ökosystem von über 10.500 verbundenen Unternehmen. Acht der zehn führenden KI-Modellanbieter und neun der zehn führenden KI-Clouds befinden sich bereits in Equinix-Standorten, was die Plattform zu einer neutralen Aggregationsschicht für verteilte KI-Pipelines macht.

Architektur und Stack-Integration Equinix Inference Exchange besteht aus drei Ebenen: physische Infrastruktur, Compute und Software. Equinix betreibt die zugrunde liegende physische Interconnect-Grundlage, die Stromversorgung, fortschrittliche Flüssigkeitskühlung, laufende Anlagenbetrieb sowie hybride Datenkonnektivität über Equinix Fabric abdeckt. NVIDIA liefert die Compute- und Validierungsschicht mit Enterprise-KI-Hardware, die für hohen Token-Durchsatz und geringere Inferenzkosten pro Abfrage optimiert ist. Together AI liefert die Inferenz-Serving-Software-Schicht, die über 200 Open-Source-Modelle unterstützt. Sie unterstützt gemeinsam genutzte Multi-Tenant-Setups für Compute-Effizienz und isolierte Single-Tenant-Bereitstellungen für Workloads, die dedizierte Kapazitäten erfordern.

Der über Equinix Fabric geleitete Datenverkehr senkt die Time-to-First-Token (TTFT) für regionale Benutzer und schafft private Peering-Verbindungen zwischen On-Premises-Speichern und Modell-Endpunkten.

Enterprise-Bereitstellungsziele und Verfügbarkeit Drei Kernbereitstellungsmodi werden unterstützt. Metro-Edge-Inferenz führt Modelle in lokalen Metro-Hubs für API-Antworten mit geringer Latenz neben zentralisiertem Management und privaten Interconnects aus. Die Migration von Open-Source-Modellen bietet einen reibungslosen Übergang von geschlossenen proprietären APIs zu offenen Foundation-Modellen, reduziert Vendor-Lock-in und nutzt bestehende Netzwerke neu. Für regulierte souveräne KI-Anwendungsfälle ermöglicht das verteilte Design Unternehmen, Inferenz und Datenverarbeitung innerhalb definierter geografischer Grenzen zu halten, um strenge Datenresidenz- und Governance-Regeln zu erfüllen.

Führungskräfte von Equinix, NVIDIA und Together AI erklären, dass diese Integration ein herstellerunabhängiges Hochdurchsatz-Inferenz-Fabric liefert, das Rechenleistung und operative Agilität ausbalanciert.

Equinix Inference Exchange wird im ersten Quartal 2027 allgemein für Unternehmen verfügbar sein.

Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang/Global Strategy Director
WhatsApp / WeChat: +86 13426366826
E-Mail: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
Geschäftsschwerpunkte:
ICT-Produktvertrieb/Systemintegration & Dienstleistungen/Infrastrukturlösungen
Mit über 20 Jahren Erfahrung im IT-Vertrieb arbeiten wir mit führenden globalen Marken zusammen, um zuverlässige Produkte und professionelle Dienstleistungen zu liefern.
„Technologie nutzen, um eine intelligente Welt aufzubauen“ Ihr vertrauenswürdiger ICT-Produktserviceanbieter!