1 · Débit plafonné
Le monitoring NIC affiche un débit constamment autour de 9-9,5 Gb/s sur une NIC 10G pendant les sauvegardes, la réplication, les transferts de fichiers. La NIC est saturée ; en saturation, les applications subissent de la latence.
Les serveurs enterprise d'il y a 5 à 7 ans embarquent souvent des NIC 1G/10G intégrées. Pour les workloads modernes — vSAN, Storage Spaces Direct, Ceph, sauvegarde à haute densité, réplication DR — le 25G/100G est devenu le standard. L'upgrade NIC est l'une des interventions au plus fort impact : quelques centaines d'euros de carte, un bénéfice direct sur les performances applicatives.
Le monitoring NIC affiche un débit constamment autour de 9-9,5 Gb/s sur une NIC 10G pendant les sauvegardes, la réplication, les transferts de fichiers. La NIC est saturée ; en saturation, les applications subissent de la latence.
Une sauvegarde nocturne de 4-6 To sur NIC 10G demande typiquement 2 à 3 heures. Si la fenêtre ne suffit plus (10+ To), le passage au 25G la réduit d'un facteur 2,5×, le 100G d'un facteur 10×.
vSAN fonctionne en 10G mais la latence en écriture reste marginale. Le 25G+ avec RDMA ramène la latence en écriture vSAN à des niveaux acceptables même pour des VM de base de données. Idem pour Storage Spaces Direct.
Un vMotion / Live Migration de VM avec 100+ Go de RAM prend plusieurs minutes en 10G. Quelques secondes en 25G. Sur des workloads avec HA dynamique, c'est un facteur opérationnel, pas seulement de performance.
Une NIC 100G exige du PCIe Gen4 x16 (ou du Gen3 x16 mais avec limitation), une NIC 25G exige du Gen3 x8 au minimum. Les slots disponibles sur les serveurs enterprise doivent être vérifiés en amont — sur les systèmes les plus compacts (1U), ils sont en concurrence avec les HBA, GPU et contrôleurs.
Le 10G utilise du SFP+ (DAC jusqu'à 7 m, optique LR jusqu'à 10 km). Le 25G utilise du SFP28 (DAC 3 m, optique LR). Le 100G utilise du QSFP28 (DAC 3 m, optiques variées). La compatibilité vendor optique↔NIC ↔ switch doit être vérifiée : Cisco n'accepte que des optiques Cisco-coded sur ses switches (avec des tolérances), Mellanox est plus ouvert.
Nous vérifions que le port du switch supporte la vitesse cible. Le câble breakout (1× QSFP28 100G → 4× SFP28 25G) est une astuce utile pour dégager de la capacité en ports 25G à partir d'un switch 100G.
Les pilotes NIC modernes (Mellanox OFED, Intel ICE) sont supportés nativement sur les noyaux Linux récents, Windows Server 2019+, ESXi 7+. Pour le RDMA sous Windows : SMB Direct natif. Sous Linux : les pilotes RoCE / iWARP doivent être chargés.
Les jumbo frames (MTU 9000) permettent un meilleur débit en sauvegarde/réplication. À configurer de façon cohérente de bout en bout : NIC, switch, partie distante. Un mismatch provoque des paquets droppés et une path-MTU discovery problématique.
Sur un serveur multi-socket, la NIC est rattachée à un CPU précis via le PCIe. Un workload qui tourne sur l'autre CPU paie le trafic cross-NUMA. Un placement optimal de la NIC tient compte du CPU qui sert le workload principal.
NIC existantes du serveur, switch ToR (modèle, ports disponibles, vitesses supportées), câblage en place, configuration MTU, éventuels teams NIC / LACP. Nous comprenons comment le serveur est raccordé au réseau avant de proposer l'upgrade.
NIC cible selon la vitesse, les fonctionnalités (RDMA, DPDK) et le budget. Optiques / DAC cohérents avec le switch. Nous vérifions la compatibilité des optiques vendor avec le switch ToR (Cisco/Arista/Mellanox).
Installation physique de la NIC dans le slot optimal (NUMA-aware si multi-socket), câblage, configuration MTU cohérente avec le switch, teaming / LACP éventuel, activation du RDMA si le workload l'exige.
iperf3 / qperf entre serveurs pour vérifier le line rate, la latence ping, le passage des jumbo frames. Sur workload réel (sauvegarde, réplication, vSAN) : test synthétique avant la mise en production.
Client du secteur des services, zone de Brescia, cluster Hyper-V 4 nœuds avec Storage Spaces Direct (S2D) hyperconvergé. Nœuds Lenovo SR650, NIC dual-port 10G Mellanox ConnectX-4 Lx. Workload : 80 VM de production (DC, fichiers, serveur TSE, applications de gestion). S2D fonctionnait en 10G mais avec une latence en écriture de 8-15 ms au repos, des pics à 30-40 ms en charge — à la limite pour les VM de base de données SQL Server, même modestes.
Solution : upgrade des NIC vers des Mellanox ConnectX-5 Ex 25G OCP 3.0 (format compatible avec le SR650). Switch ToR Mellanox SN2010 déjà 25G-capable ; il fallait de nouvelles optiques SFP28 + des DAC 25G inter-nœuds. SMB Direct (RDMA RoCE v2) activé côté Windows Server 2022, jumbo frames MTU 9000 de bout en bout.
Exécution : 4 fenêtres en soirée, une par nœud. Live migration des VM vers les 3 autres nœuds, extinction du serveur, remplacement de la NIC OCP, reconfiguration du port de switch, boot, validation, réintégration au cluster.
Résultat : latence en écriture S2D au repos descendue à 1,5 ms, pics de 4-6 ms en charge. CPU des nœuds nettement moins sollicités grâce au kernel bypass du RDMA. Profil de risque des VM SQL visiblement amélioré.
Le 1G suffit pour : petits serveurs de service, serveurs de fichiers à faible nombre d'utilisateurs, sauvegarde traditionnelle lente. Le 1G NE suffit PAS pour : virtualisation de service moyen à grand, vSAN/Storage Spaces (10G minimum requis, 25G conseillé), sauvegarde nocturne de plusieurs To sur fenêtre réduite, réplication DR synchrone. Le 10G est désormais le nouveau minimum pour un serveur enterprise mid-market.
Pour certains workloads, oui, réellement. Le RDMA (RoCE ou iWARP) permet à la NIC de dialoguer avec la mémoire du serveur distant sans mobiliser le CPU — la latence descend à 1-5 µs, le débit monte, l'utilisation CPU chute drastiquement. C'est critique pour : SMB Direct sous Windows Server, NVMe-oF, vSAN en 25G+, le clustering GPU pour l'IA. Pour des workloads traditionnels (web, mail, DB mono-serveur), le RDMA n'apporte rien.
Physiquement oui, s'il dispose d'un slot PCIe Gen3 x16 ou Gen4 x8 libre. Mais le goulet d'étranglement se déplace sur le reste du système : le CPU n'arrive pas à saturer 100G de trafic, la stack réseau du noyau devient la limite. Pour exploiter correctement le 100G il faut des CPU récents (Xeon Gen3+, EPYC Rome+), des pilotes DPDK, des applications conçues pour l'offload. Sur des systèmes plus anciens, le 25G est déjà un grand pas, et le 100G un gaspillage.
Cela dépend des switches en place. Les switches ToR modernes (Mellanox SN/SX, Cisco Nexus 9300, Arista 7050X) supportent souvent le 25G nativement ou via breakout. Les switches plus anciens 10G-only, non. Le bilan des coûts : NIC 25G serveur + nouvelles optiques SFP28 + port de switch 25G compatible. Souvent le passage du 10G au 25G est quasi gratuit parce que les switches sont déjà prêts.
Les NIC OCP 2.0/3.0 sont un format dédié (slot interne propriétaire) utilisé sur beaucoup de serveurs enterprise récents pour la première NIC. Avantages : câblage plus propre, slot PCIe libéré pour d'autres cartes, gestion iLO/iDRAC intégrée. Sur un upgrade, nous privilégions l'OCP quand il est disponible. Pour les slots externes additionnels, nous utilisons du PCIe standard.
Pour le 10G/25G enterprise : Intel X710, X722, E810 (pilotes matures), Broadcom NetXtreme E-series (par défaut chez beaucoup de constructeurs). Pour le 25G+/100G à hautes performances et le RDMA : Mellanox ConnectX-5/6/7 (NVIDIA, référence pour le RDMA), Intel E810-CQDA2, Broadcom Stingray. Les cartes vendor-branded (Dell, HPE) sont en général des rebrands des chipsets Intel/Broadcom/Mellanox avec un firmware constructeur.
Envoyez-moi la marque, le modèle (Service Tag / numéro de série / part number de la motherboard) et le workload visé. Sous un jour ouvré je vous réponds avec la faisabilité technique, les contraintes que j'ai relevées et une estimation honnête.