NVLink

NVLink ist ein Hochgeschwindigkeits-Bus von Nvidia, der für den Datentransport zwischen GPU-Knoten und CPUs entwickelt wurde, etwa im Bereich der High-Performance-Workstations und bei Rack-basierten Supercomputern. Er ersetzt bei neueren Computersystemen auch das SLI-System für die Direkt-Verbindung von Grafikkarten. Die folgende Tabelle liefert einen Überblick der Datenrate über eine einzelne Link-Verbindung in einer Richtung. Je nach Halbleiter und Leiterplattenausführung können mehrere solche Links zur Verfügung stehen und auch gebündelt werden. Eine Bündelung von Lanes ist im Design bzw. den Implementierungen vorgesehen. Dadurch wird die Bandbreite entsprechend vervielfacht. Für die NVLink-Generation 2.0 gibt Nvidia die Volta basierte GPU-Serie mit bis zu 6 Links an, sowie passend eine als NVSwitch bezeichnete, der Generation zugehörige, für Rechenzentrumsanwendungen gedachte Switch-Fabrik für bis zu 16 GPUs. Die ebenfalls mit NVLink-Generation 2.0 ausgestattete Turing-Serie kommt mit bis zu 2 Links. Mit NVLink-Generation 3.0 ist die Ampere GPU-Serie verknüpft was bis zu 12 Links, sowie einen zugehörigen Switch für ebenfalls bis zu 16 GPUs. Für den Halbleiter Nvidia GV100 mit 6 Lanes NVLink 2.0 ergeben sich in der Board-Ausführung für Rechenzentrum mit der Bezeichnung 'V100 SXM2' damit je 150 GByte/s für eingehende und ausgehende Transfers, also zusammen 300 GByte/s. Die Turing-basierten GPU-Top-Modelle bei denn PCIe-Grafikkarten auf Basis vom Halbleiter Nvidia TU102 bieten dagegen nur 2 Lanes mit entsprechend he 50 GByte/s. Für die Ampere Halbleiter-Generation steht der Halbleiter Nvidia GA100 (etwa verfügbar mit der A100 Karte) für 12 Lanes der NVLink-Generation 3.0 mit je Datenrichtung 300 GByte/s und somit 600 GByte/s gesamt. Derselben Halbleiter- und NVLink-Generation zugehörig ist der Halbleiter Nvidia GA102 wie er in den GPU-Top-Modellen bei den PCIe-Grafikkarten zum Einsatz kommt und dort mit 4 Lanes bei allerdings nur 28,125 GTransfers/s und somit Datenraten je Richtung 56,25 GByte/s oder gesamt 112,5 GByte/s realisiert. Da es sich bei den zuvor genannten Switches effektiv um eine quasi-passiv realisierte Durchleitungsfunktion handelt ist deren Datentransfer-Rate und somit deren Nutzen für den eigentlichen Anwender letztlich durch die daran angebundenen Datenquellen und Senken definiert, so dass sich erst durch ein konkretes Umfeld-Design sinnvolle Angaben zu deren Leistung im System ergeben können.