What are the advantages of Ethernet over InfiniBand for AI data center networking?
Quels sont les avantages d'Ethernet par rapport à InfiniBand ?
In early high-performance computing (HPC) and AI training networks, InfiniBand, a high-speed, low-latency, proprietary networking technology initially gained popularity for its fast and efficient communication between servers and storage systems. Today, the open alternative Ethernet is gaining significant traction in the modern AI data center networking market and is expected to become the dominant technology.
While proprietary technologies like InfiniBand can bring advancements and innovation, they are expensive, charging premiums where competitive supply-and-demand markets can’t regulate costs. In addition, the talent pool of network professionals who can build and operate an Ethernet versus a proprietary InfiniBand network is massive, and a broad array of tools are available to manage such networks compared to InfiniBand technology, which is sourced primarily via Nvidia.
Next to IP, Ethernet is the world's most widely adopted networking technology. Ethernet has evolved to become faster, more reliable, and scalable, making it preferred for handling the high data throughput and low-latency requirements of AI applications. The progression to 800GbE and data center bridging (DCB) Ethernet enhancements enable high-capacity, low latency, and lossless data transmission, making Ethernet fabrics highly desirable for high-priority and mission-critical AI traffic.
Les premiers réseaux dédiés au calcul haute performance (HPC) et à l'entraînement de l'IA s'appuyaient fréquemment sur InfiniBand, une technologie propriétaire de réseau haute vitesse à faible latence, en raison de la rapidité et de l'efficacité de ses communications entre les serveurs et les systèmes de stockage. Aujourd'hui, l'alternative ouverte Ethernet gagne rapidement en popularité dans les datacenters dédiés à l'IA et devrait même devenir la technologie dominante.
Bien qu'innovantes, les technologies propriétaires comme InfiniBand sont très coûteuses sur des marchés où l'offre et la demande ne peuvent pas réguler les coûts. En outre, par rapport à la technologie InfiniBand, dont les outils proviennent principalement de Nvidia, il est bien plus facile de trouver des ingénieurs réseau capables de créer et d'exploiter des réseaux Ethernet, pour lesquels une large gamme d'outils de gestion est disponible.
Après la technologie IP, Ethernet est le protocole réseau le plus largement adopté au monde. Ethernet a évolué pour gagner en rapidité, en fiabilité et en évolutivité, ce qui en fait la solution privilégiée pour répondre aux exigences de haut débit et de faible latence des applications d'IA. Avec les dernières avancées 800 GbE et les améliorations DCB (Data Center Bridging) pour Ethernet, les fabrics IP assurent une transmission des données à haute capacité, à faible latence et sans perte, ce qui les rend idéales pour le trafic d'IA prioritaire et critique.