Nvidia ist Planung Um die leichte Kommunikation zwischen dem GPUs künstlicher Intelligenz bis 2026 zu implementieren, wobei die Zusammenhänge von Silicon Photonics mit CO-Packaged Optics (CPO) in den AI-Plattformen der nächsten Generation im Rahmen der nächsten Generation höhere Übertragungsraten bei reduziertem Stromverbrauch erreicht hat.
Auf der Hot Chips-Konferenz lieferte NVIDIA weitere Einzelheiten zu den bevorstehenden Quanten-X- und Spectrum-X-Photonik-Verbindungslösungen, wobei sie ihre erwartete Ankunft im Jahr 2026 umzusetzen. Diese Lösungen stellen einen signifikanten Schritt in Richtung optischer Verbindungen zur Bewältigung der zunehmenden Anforderungen an Datenübertragung in großen AI-GPU-Clustern dar.
Es wird erwartet, dass die Entwicklungszeitleiste von NVIDIA TSMC von TSMC (Compact Universal Photon Motor), das in drei unterschiedliche Phasen strukturiert ist, genau widerspiegelt. Die Anfangsphase umfasst eine optische Engine, die für OSFP -Anschlüsse ausgelegt ist, die Datenübertragungen von 1,6 TB/s erleichtert und gleichzeitig den Stromverbrauch senkt. Die zweite Phase überträgt sich in die Cowos-Verpackung mit einer mitgehaltenen Optik und erreicht damit 6,4 TB/s-Datenübertragungsraten auf Motherboard-Ebene. Die dritte Phase konzentriert sich auf die Erzielung von 12,8 TB/s innerhalb der Prozessorpakete mit dem Ziel, sowohl Stromverbrauch als auch Latenz weiter zu verringern.
Die Notwendigkeit von CPO beruht auf den Herausforderungen, die mit der Verbindung von Tausenden von GPUs in großflächigen AI-Clustern verbunden sind, und erfordert, dass sie als einheitliches System arbeiten. Diese Architektur erfordert Änderungen zu herkömmlichen Netzwerkkonfigurationen. Insbesondere anstatt jedes Rack mit einem eigenen Tier-1-Schalter (Top-of-Rack), der durch kurze Kupferkabel verbunden ist, werden die Schalter an das Ende der Zeile verlegt. Diese Konfiguration legt einen konsistenten Stoff mit geringer Latenz in mehreren Racks fest. Dieser Umzug erhöht den Abstand zwischen Servern und ihrem primären Schalter und macht Kupferkabel für hohe Geschwindigkeiten wie 800 GB/s unpraktisch. Infolgedessen werden optische Verbindungen für nahezu alle Links für Server-zu-Schalter- und Switch-to-Switch-Links unerlässlich.
Nvidia entwirft einen langsameren B30A -Chip, um die US -Beschränkungen zu treffen
Die Verwendung von steckbaren optischen Modulen in solchen Umgebungen zeigt inhärente Einschränkungen. In diesen Entwürfen beenden Datensignale den anwendungsspezifischen integrierten Schaltkreis (ASIC), durchqueren die Platine und die Anschlüsse und werden anschließend in Licht umgewandelt. Dieser Prozess führt zu erheblichen elektrischen Verlusten und erreicht ungefähr 22 Dezibel auf 200 GB/s -Kanälen. Die Kompensation für diesen Verlust erfordert eine komplexe Verarbeitung, die den Stromverbrauch pro Port auf 30W erhöht. Dies erfordert wiederum zusätzliche Abkühlung und führt potenzielle Versagenspunkte ein. Nvidia behauptet, dass diese Probleme mit zunehmendem Umfang der KI -Bereitstellungen zunehmend problematisch werden.
CPO mildert die Nachteile, die mit herkömmlichen optischen steckbaren optischen Modulen verbunden sind, indem die optische Konvertierungsmotor direkt neben dem Switch ASIC integriert wird. Mit dieser Nähe kann das Signal fast sofort mit Ballaststoffen gekoppelt werden, wobei die Notwendigkeit umgeht, über verlängerte elektrische Spuren zu fahren. Infolgedessen wird der elektrische Verlust auf 4 Dezibel reduziert, und der Stromverbrauch pro Port nimmt auf 9W ab. Diese Anordnung beseitigt auch zahlreiche Komponenten, die möglicherweise scheitern könnten, was die Implementierung optischer Verbindungen vereinfacht.
Nvidia behauptet, dass der Übergang von herkömmlichen steckbaren Transceivern und die Integration optischer Motoren direkt in Switch Silicium, erleichtert durch die Coupé -Plattform von TSMC, erhebliche Verbesserungen an Effizienz, Zuverlässigkeit und Skalierbarkeit erzielt. NVIDIA berichtet, dass CPO erhebliche Vorteile gegenüber steckbaren Modulen bietet, einschließlich einer 3,5-maligen Steigerung der Leistungseffizienz, einer 64-fachen Verbesserung der Signalintegrität, einer 10-fachen Anstieg der Belastbarkeit aufgrund der Verringerung der aktiven Geräte und etwa 30% schnellerer Bereitstellungszeiten aufgrund einfacherer Service- und Montageverfahren.
NVIDIA plant die Einführung von CPO-basierten optischen Verbindungsplattformen sowohl für Ethernet- als auch für Infiniband-Technologien. Das Unternehmen geht davon aus, dass er Anfang 2026 Quanten-X-Infiniband-Switches auf den Markt bringen. Jeder Schalter ist so ausgelegt, dass jeder Schalter 115 TB/s Durchsatz bereitstellt und 144 Anschlüsse mit jeweils 800 GB/s entspricht. Das System umfasst auch ein ASIC mit 14,4 Tflops der In-Network-Verarbeitung und unterstützt die skalierbare hierarchische Aggregationsprotokoll der 4. Generation der 4. Generation, die darauf abzielt, die Latenz für kollektive Operationen zu verringern. Diese Schalter verwenden Flüssigkühlung.
Gleichzeitig bereitet sich Nvidia auf die Integration von CPO in Ethernet über seine Spektrum-X-Photonikplattform vor, die in der zweiten Hälfte von 2026 veröffentlicht werden soll. Diese Plattform basiert auf dem Spectrum-6-ASIC, das zwei verschiedene Geräte mit Power Power beträgt: Die SN6810 bietet 102,4 TB/s. TB/S und 512 Ports, die mit dem gleichen Preis betrieben werden. Beide Geräte werden auch Flüssigkühlung einsetzen.
Nvidia sieht vor, dass seine CPO-basierten Switches neue KI-Cluster für generative KI-Anwendungen vorantreiben werden, die immer großer und komplexer werden. Durch die Verwendung von CPO werden diese Cluster Tausende diskreter Komponenten beseitigen, was zu schnelleren Installationszeiten, einer einfacheren Wartung und einem verringerten Stromverbrauch pro Verbindung führt. Infolgedessen wird erwartet, dass Cluster, die Quantum-X-Infiniband- und Spektrum-X-Photonik verwenden, Verbesserungen der Metriken wie Zeit-zu-Eins-Zeit, Zeit-zu-First-Token und allgemeine langfristige Zuverlässigkeit zeigen.
NVIDIA betont, dass zusammengepackte Optik nicht nur eine optionale Verbesserung sind, sondern eine grundlegende Anforderung für zukünftige KI-Rechenzentren. Dies deutet darauf hin, dass das Unternehmen beabsichtigt, seine optischen Verbindungen als zentrales Unterscheidungsmerkmal und Vorteil gegenüber KI-Lösungen im Bereich Rack-Maßstab zu positionieren, die von Wettbewerbern wie AMD angeboten werden. Der Erwerb von Enosemi durch AMD ist in diesem Zusammenhang relevant.
Ein kritischer Aspekt der Nvidia -Siliziumphotonik -Initiative ist die enge Ausrichtung mit der Entwicklung der TSMC -Coupé -Plattform (Compact Universal Photonic Engine). Während die Plattform der TSMC in den kommenden Jahren voranschreitet, wird erwartet, dass sich die CPO -Plattformen von NVIDIA entsprechend verbessern. Die erste Generation von TSMC-Coupé wird durch Stapeln eines 65-nm-elektronischen integrierten Schaltkreises (EIC) mit einem photonischen integrierten Schaltkreis (PIC) unter Verwendung der SOIC-X-Verpackungstechnologie des Unternehmens erstellt.
Die TSMC Coupé Roadmap ist in drei Entwicklungsstufen unterteilt. Die erste Generation umfasst eine optische Engine, die für OSFP -Anschlüsse ausgelegt ist und bei gleichzeitig 1,6 TB/s -Datenübertragung und gleichzeitig die Stromverbrauchsreduzierung bereitgestellt wird. Die zweite Generation umfasst eine Cowos-Verpackung mit zusammengepackter Optik, was zu einer Datenübertragungsrate von 6,4 TB/s auf Motherboardebene führt. Die dritte Generation soll 12,8 TB/s innerhalb von Prozessorpaketen erreichen und zielt darauf ab, den Stromverbrauch und die Latenz weiter zu reduzieren.
