1 · Durchsatz am Limit
Das NIC-Monitoring zeigt bei Backup, Replikation oder File-Transfer dauerhaft 9-9,5 Gb/s auf einer 10G-NIC. Die NIC ist gesättigt; unter Sättigung sehen die Anwendungen Latenz.
Enterprise-Server aus den letzten 5-7 Jahren haben meist integrierte 1G/10G-NICs. Für moderne Workloads — vSAN, Storage Spaces Direct, Ceph, Backup mit hoher Datendichte, DR-Replikation — ist 25G/100G inzwischen Standard. Das NIC-Upgrade gehört zu den Maßnahmen mit der größten Wirkung: ein paar hundert Euro für die Karte, spürbarer Nutzen bei der Anwendungsperformance.
Das NIC-Monitoring zeigt bei Backup, Replikation oder File-Transfer dauerhaft 9-9,5 Gb/s auf einer 10G-NIC. Die NIC ist gesättigt; unter Sättigung sehen die Anwendungen Latenz.
Ein nächtliches Backup von 4-6 TB über eine 10G-NIC braucht typischerweise 2-3 Stunden. Reicht das Fenster nicht mehr (10+ TB), verkürzt ein Upgrade auf 25G das Fenster um den Faktor 2,5, auf 100G um den Faktor 10.
vSAN läuft über 10G, aber die Write-Latenz ist grenzwertig. 25G+ mit RDMA bringt die vSAN-Write-Latenz auf ein Niveau, das auch für Datenbank-VMs akzeptabel ist. Bei Storage Spaces Direct gilt dasselbe.
vMotion / Live Migration einer VM mit 100+ GB RAM dauert über 10G Minuten. Über 25G Sekunden. Bei Workloads mit dynamischer HA ist das ein betrieblicher Faktor, nicht nur eine Performance-Frage.
Eine 100G-NIC verlangt PCIe Gen4 x16 (oder Gen3 x16, dann mit Einschränkungen), eine 25G-NIC mindestens Gen3 x8. Die freien Slots im Enterprise-Server sind vorab zu prüfen — in kleineren Systemen (1U) konkurrieren sie mit HBA, GPU und Controllern.
10G nutzt SFP+ (DAC bis 7 m, LR-Optik bis 10 km). 25G nutzt SFP28 (DAC 3 m, LR-Optik). 100G nutzt QSFP28 (DAC 3 m, verschiedene Optiken). Die Vendor-Kompatibilität Optik ↔ NIC ↔ Switch muss geprüft werden: Cisco akzeptiert auf den eigenen Switches nur Cisco-coded Optiken (mit Toleranzen), Mellanox ist offener.
Wir prüfen, ob der Switch-Port die Zielgeschwindigkeit unterstützt. Ein Breakout-Kabel (1× QSFP28 100G → 4× SFP28 25G) ist ein nützlicher Kniff, um aus einem 100G-Switch zusätzliche 25G-Ports zu gewinnen.
Moderne NIC-Treiber (Mellanox OFED, Intel ICE) werden von aktuellen Linux-Kerneln, Windows Server 2019+ und ESXi 7+ nativ unterstützt. Für RDMA unter Windows: SMB Direct nativ. Unter Linux müssen die RoCE-/iWARP-Treiber geladen werden.
Jumbo Frames (MTU 9000) verbessern den Durchsatz bei Backup und Replikation. Die Einstellung muss durchgängig end-to-end erfolgen: NIC, Switch, Gegenstelle. Ein Mismatch führt zu verworfenen Paketen und zu Problemen bei der Path-MTU-Discovery.
In Multi-Socket-Servern hängt die NIC über PCIe an einer bestimmten CPU. Ein Workload, der auf einer anderen CPU läuft, zahlt den Cross-NUMA-Traffic. Die optimale NIC-Platzierung berücksichtigt, welche CPU den primären Workload bedient.
Vorhandene Server-NICs, ToR-Switch (Modell, freie Ports, unterstützte Geschwindigkeiten), aktuelle Verkabelung, MTU-Konfiguration, eventuelles NIC-Teaming / LACP. Wir verstehen erst, wie der Server ans Netz angebunden ist, bevor wir ein Upgrade vorschlagen.
Ziel-NIC nach Geschwindigkeit, Features (RDMA, DPDK) und Budget. Optiken / DAC passend zum Switch. Wir prüfen die Vendor-Kompatibilität der Optiken mit dem ToR-Switch (Cisco/Arista/Mellanox).
Physischer Einbau der NIC im optimalen Slot (NUMA-aware bei Multi-Socket), Verkabelung, MTU-Konfiguration passend zum Switch, gegebenenfalls Teaming / LACP, RDMA-Aktivierung, falls der Workload es erfordert.
iperf3 / qperf zwischen den Servern, um Line Rate, Ping-Latenz und den Durchlauf von Jumbo Frames zu prüfen. Auf dem realen Workload (Backup, Replikation, vSAN) ein synthetischer Test vor dem Go-live.
Kunde aus dem Dienstleistungssektor im Raum Brescia, Hyper-V-Cluster mit 4 Knoten und Storage Spaces Direct (S2D), hyperkonvergent. Knoten: Lenovo SR650, Dual-Port-NIC 10G Mellanox ConnectX-4 Lx. Workload: 80 produktive VMs (DC, File, Terminal Server, ERP-Anwendungen). S2D lief über 10G, aber die Write-Latenz lag im Leerlauf bei 8-15 ms, unter Last mit Spitzen bei 30-40 ms — grenzwertig für kleinere SQL-Server-Datenbank-VMs.
Lösung: Upgrade der NICs auf Mellanox ConnectX-5 Ex 25G OCP 3.0 (Formfaktor kompatibel zum SR650). Der ToR-Switch Mellanox SN2010 war bereits 25G-fähig; nötig waren neue SFP28-Optiken und 25G-DAC zwischen den Knoten. SMB Direct (RDMA RoCE v2) unter Windows Server 2022 aktiviert, Jumbo Frames MTU 9000 end-to-end.
Durchführung: vier Abendfenster, eines pro Knoten. Live Migration der VMs auf die anderen 3 Knoten, Server heruntergefahren, OCP-NIC getauscht, Switch-Port neu konfiguriert, Boot, Validierung, Wiedereingliederung in den Cluster.
Ergebnis: S2D-Write-Latenz im Leerlauf auf 1,5 ms gesunken, unter Last Spitzen von 4-6 ms. Die CPU-Last der Knoten deutlich geringer dank des Kernel-Bypass von RDMA. Das Risikoprofil der SQL-VMs sichtbar verbessert.
1G reicht für: kleine Abteilungsserver, File Server mit wenigen Nutzern, klassisches langsames Backup. 1G reicht NICHT für: Virtualisierung in mittleren bis großen Abteilungen, vSAN/Storage Spaces (mindestens 10G erforderlich, 25G empfohlen), nächtliche Backups von mehreren TB in einem knappen Fenster, synchrone DR-Replikation. 10G ist inzwischen das neue Minimum für Enterprise-Server im Mid-Market.
Für bestimmte Workloads ja, wirklich nötig. RDMA (RoCE oder iWARP) erlaubt der NIC den Zugriff auf den Speicher des entfernten Servers, ohne die CPU einzubeziehen — die Latenz sinkt auf 1-5 µs, der Durchsatz steigt, die CPU-Auslastung fällt drastisch. Kritisch ist das für: SMB Direct unter Windows Server, NVMe-oF, vSAN ab 25G, GPU-Clustering für AI. Für klassische Workloads (Web, Mail, DB auf einem einzelnen Server) bringt RDMA nichts.
Physisch ja, sofern ein freier Slot PCIe Gen3 x16 oder Gen4 x8 vorhanden ist. Aber der Flaschenhals verschiebt sich auf den Rest des Systems: die CPU schafft es nicht, 100G Traffic zu sättigen, der Kernel-Netzwerkstack wird zur Grenze. Um 100G sinnvoll zu nutzen, braucht es aktuelle CPUs (Xeon Gen3+, EPYC Rome+), DPDK-Treiber und Anwendungen, die auf Offload ausgelegt sind. Auf älteren Systemen ist 25G bereits ein großer Sprung, und 100G ist Verschwendung.
Das hängt von den vorhandenen Switches ab. Moderne ToR-Switches (Mellanox SN/SX, Cisco Nexus 9300, Arista 7050X) unterstützen 25G oft nativ oder per Breakout. Ältere Switches mit reinem 10G nicht. Die Kostenrechnung: 25G-NIC im Server + neue SFP28-Optiken + kompatibler 25G-Switch-Port. Oft ist der Sprung von 10G auf 25G fast gratis, weil die Switches bereits dafür ausgelegt sind.
OCP-2.0/3.0-NICs sind ein dedizierter Formfaktor (herstellereigener interner Slot), der in vielen neueren Enterprise-Servern für die erste NIC genutzt wird. Vorteile: aufgeräumte Verkabelung, ein PCIe-Slot bleibt für andere Karten frei, integrierte Verwaltung über iLO/iDRAC. Bei Upgrades bevorzugen wir OCP, wo verfügbar. Für zusätzliche externe Slots nutzen wir Standard-PCIe.
Für 10G/25G im Enterprise-Umfeld: Intel X710, X722, E810 (ausgereifte Treiber), Broadcom NetXtreme E-Series (Standard bei vielen Herstellern). Für 25G+/100G mit hoher Performance und RDMA: Mellanox ConnectX-5/6/7 (NVIDIA, Goldstandard für RDMA), Intel E810-CQDA2, Broadcom Stingray. Vendor-branded Karten (Dell, HPE) sind in der Regel Rebrands der Chips von Intel/Broadcom/Mellanox mit herstellereigener firmware.
Schicken Sie mir Marke, Modell (service tag / Seriennummer / Teilenummer der motherboard) und den Ziel-Workload. Innerhalb eines Arbeitstags antworte ich mit der technischen Machbarkeit, den Einschränkungen, die ich sehe, und einer ehrlichen Einschätzung.