Angebot anfordern → Server ausgefallen · Notfall
Upgrade · Networking

NIC-Upgrade: 10G reicht nicht mehr für viele moderne Workloads.

Enterprise-Server aus den letzten 5-7 Jahren haben meist integrierte 1G/10G-NICs. Für moderne Workloads — vSAN, Storage Spaces Direct, Ceph, Backup mit hoher Datendichte, DR-Replikation — ist 25G/100G inzwischen Standard. Das NIC-Upgrade gehört zu den Maßnahmen mit der größten Wirkung: ein paar hundert Euro für die Karte, spürbarer Nutzen bei der Anwendungsperformance.

Wann ein NIC-Upgrade

Vier Indikatoren dafür, dass das Netz der Flaschenhals ist.

1 · Durchsatz am Limit

Das NIC-Monitoring zeigt bei Backup, Replikation oder File-Transfer dauerhaft 9-9,5 Gb/s auf einer 10G-NIC. Die NIC ist gesättigt; unter Sättigung sehen die Anwendungen Latenz.

2 · Backup-Fenster gesprengt

Ein nächtliches Backup von 4-6 TB über eine 10G-NIC braucht typischerweise 2-3 Stunden. Reicht das Fenster nicht mehr (10+ TB), verkürzt ein Upgrade auf 25G das Fenster um den Faktor 2,5, auf 100G um den Faktor 10.

3 · vSAN / SDS mit zu wenig Leistung

vSAN läuft über 10G, aber die Write-Latenz ist grenzwertig. 25G+ mit RDMA bringt die vSAN-Write-Latenz auf ein Niveau, das auch für Datenbank-VMs akzeptabel ist. Bei Storage Spaces Direct gilt dasselbe.

4 · Langsame VM-Migration

vMotion / Live Migration einer VM mit 100+ GB RAM dauert über 10G Minuten. Über 25G Sekunden. Bei Workloads mit dynamischer HA ist das ein betrieblicher Faktor, nicht nur eine Performance-Frage.

Technische Randbedingungen

Fünf Punkte, die zu prüfen sind.

1 · Freie PCIe-Slots und Generation

Eine 100G-NIC verlangt PCIe Gen4 x16 (oder Gen3 x16, dann mit Einschränkungen), eine 25G-NIC mindestens Gen3 x8. Die freien Slots im Enterprise-Server sind vorab zu prüfen — in kleineren Systemen (1U) konkurrieren sie mit HBA, GPU und Controllern.

2 · Verkabelung und Optiken

10G nutzt SFP+ (DAC bis 7 m, LR-Optik bis 10 km). 25G nutzt SFP28 (DAC 3 m, LR-Optik). 100G nutzt QSFP28 (DAC 3 m, verschiedene Optiken). Die Vendor-Kompatibilität Optik ↔ NIC ↔ Switch muss geprüft werden: Cisco akzeptiert auf den eigenen Switches nur Cisco-coded Optiken (mit Toleranzen), Mellanox ist offener.

3 · Freier Switch-Port

Wir prüfen, ob der Switch-Port die Zielgeschwindigkeit unterstützt. Ein Breakout-Kabel (1× QSFP28 100G → 4× SFP28 25G) ist ein nützlicher Kniff, um aus einem 100G-Switch zusätzliche 25G-Ports zu gewinnen.

4 · Treiber und Betriebssystem

Moderne NIC-Treiber (Mellanox OFED, Intel ICE) werden von aktuellen Linux-Kerneln, Windows Server 2019+ und ESXi 7+ nativ unterstützt. Für RDMA unter Windows: SMB Direct nativ. Unter Linux müssen die RoCE-/iWARP-Treiber geladen werden.

5 · MTU-Konfiguration

Jumbo Frames (MTU 9000) verbessern den Durchsatz bei Backup und Replikation. Die Einstellung muss durchgängig end-to-end erfolgen: NIC, Switch, Gegenstelle. Ein Mismatch führt zu verworfenen Paketen und zu Problemen bei der Path-MTU-Discovery.

6 · NUMA-Awareness

In Multi-Socket-Servern hängt die NIC über PCIe an einer bestimmten CPU. Ein Workload, der auf einer anderen CPU läuft, zahlt den Cross-NUMA-Traffic. Die optimale NIC-Platzierung berücksichtigt, welche CPU den primären Workload bedient.

NIC-Chips und Modelle

Was wir je nach Geschwindigkeit und Budget verbauen.

# 10G — Enterprise-Einstieg (Standard in vielen Servern) Intel X710-DA2 2× SFP+ · ausgereifte Treiber · Arbeitstier Intel X722 häufig auf neueren Motherboards integriert Broadcom 57414 2× SFP+ · verbreitet als Vendor-Branding Mellanox ConnectX-4 Lx 25G-fähig, im 10G-Modus # 25G — Sweet Spot 2026 Mellanox ConnectX-5 Ex 2× SFP28 · RDMA RoCE · erste Wahl Intel E810-XXVDA2 2× SFP28 · DPDK-tauglich Broadcom 57414 2× SFP28 · solide Alternative # 100G — schwere Workloads / AI / NVMe-oF Mellanox ConnectX-6 Dx 2× QSFP56 · RDMA · ML-Standard Mellanox ConnectX-7 2× QSFP112 · neueste Generation Intel E810-CQDA2 2× QSFP28 · Enterprise-Generalist # OCP-Formfaktor (herstellereigener Slot) OCP 3.0 SFF Mellanox 25G/100G · Dell/HPE/Lenovo OCP 3.0 SFF Intel E810- / X710-Varianten # DPU / SmartNIC (für fortgeschrittene Fälle) NVIDIA BlueField-2/3 Offload des Kernel-Netzwerkstacks · NVMe-oF AMD Pensando DSC2 programmierbar · SDN
Ablauf des Eingriffs

Vier Phasen.

1 · Audit der bestehenden Topologie

Vorhandene Server-NICs, ToR-Switch (Modell, freie Ports, unterstützte Geschwindigkeiten), aktuelle Verkabelung, MTU-Konfiguration, eventuelles NIC-Teaming / LACP. Wir verstehen erst, wie der Server ans Netz angebunden ist, bevor wir ein Upgrade vorschlagen.

2 · Auswahl von NIC und Optik

Ziel-NIC nach Geschwindigkeit, Features (RDMA, DPDK) und Budget. Optiken / DAC passend zum Switch. Wir prüfen die Vendor-Kompatibilität der Optiken mit dem ToR-Switch (Cisco/Arista/Mellanox).

3 · Einbau und Konfiguration

Physischer Einbau der NIC im optimalen Slot (NUMA-aware bei Multi-Socket), Verkabelung, MTU-Konfiguration passend zum Switch, gegebenenfalls Teaming / LACP, RDMA-Aktivierung, falls der Workload es erfordert.

4 · Validierung und Benchmark

iperf3 / qperf zwischen den Servern, um Line Rate, Ping-Latenz und den Durchlauf von Jumbo Frames zu prüfen. Auf dem realen Workload (Backup, Replikation, vSAN) ein synthetischer Test vor dem Go-live.

Anonymisierter Praxisfall

Hyper-V-Cluster mit Storage Spaces Direct: von 10G auf 25G mit RDMA.

Kunde aus dem Dienstleistungssektor im Raum Brescia, Hyper-V-Cluster mit 4 Knoten und Storage Spaces Direct (S2D), hyperkonvergent. Knoten: Lenovo SR650, Dual-Port-NIC 10G Mellanox ConnectX-4 Lx. Workload: 80 produktive VMs (DC, File, Terminal Server, ERP-Anwendungen). S2D lief über 10G, aber die Write-Latenz lag im Leerlauf bei 8-15 ms, unter Last mit Spitzen bei 30-40 ms — grenzwertig für kleinere SQL-Server-Datenbank-VMs.

Lösung: Upgrade der NICs auf Mellanox ConnectX-5 Ex 25G OCP 3.0 (Formfaktor kompatibel zum SR650). Der ToR-Switch Mellanox SN2010 war bereits 25G-fähig; nötig waren neue SFP28-Optiken und 25G-DAC zwischen den Knoten. SMB Direct (RDMA RoCE v2) unter Windows Server 2022 aktiviert, Jumbo Frames MTU 9000 end-to-end.

Durchführung: vier Abendfenster, eines pro Knoten. Live Migration der VMs auf die anderen 3 Knoten, Server heruntergefahren, OCP-NIC getauscht, Switch-Port neu konfiguriert, Boot, Validierung, Wiedereingliederung in den Cluster.

Ergebnis: S2D-Write-Latenz im Leerlauf auf 1,5 ms gesunken, unter Last Spitzen von 4-6 ms. Die CPU-Last der Knoten deutlich geringer dank des Kernel-Bypass von RDMA. Das Risikoprofil der SQL-VMs sichtbar verbessert.

# Vorher · 10G ConnectX-4 Lx · ohne RDMA S2D Write idle 8-15 ms S2D Write peak 30-40 ms CPU Netzwerk 14-18% Live Migration ~95 Sek. (VM 32GB) # Nachher · 25G ConnectX-5 Ex · RDMA RoCE S2D Write idle 1,5 ms S2D Write peak 4-6 ms CPU Netzwerk 2-3% Live Migration ~22 Sek. (VM 32GB)
Kostentreiber

Drei Positionen im NIC-Angebot.

  1. Gewählte NIC — die wichtigste Variable. Zertifiziert aufbereitete Mellanox ConnectX-5/6 sind sehr günstig; Intel/Broadcom als Alternative.
  2. Optiken und DAC — bei 100G nicht zu vernachlässigen. DAC mit 1-3 m sind billig; LR-Optiken für 10 km sind teurer.
  3. Switch-Konfiguration und Verkabelung — Kabeltausch, MTU-Neukonfiguration, RDMA-Aktivierung. Wo nötig in Abstimmung mit Ihrem Netzwerk-Engineer.
FAQ

Die Fragen, die uns am häufigsten gestellt werden.

Wann ist 1G noch in Ordnung und wann muss aufgerüstet werden?

1G reicht für: kleine Abteilungsserver, File Server mit wenigen Nutzern, klassisches langsames Backup. 1G reicht NICHT für: Virtualisierung in mittleren bis großen Abteilungen, vSAN/Storage Spaces (mindestens 10G erforderlich, 25G empfohlen), nächtliche Backups von mehreren TB in einem knappen Fenster, synchrone DR-Replikation. 10G ist inzwischen das neue Minimum für Enterprise-Server im Mid-Market.

RDMA: wirklich nötig oder nur Marketing?

Für bestimmte Workloads ja, wirklich nötig. RDMA (RoCE oder iWARP) erlaubt der NIC den Zugriff auf den Speicher des entfernten Servers, ohne die CPU einzubeziehen — die Latenz sinkt auf 1-5 µs, der Durchsatz steigt, die CPU-Auslastung fällt drastisch. Kritisch ist das für: SMB Direct unter Windows Server, NVMe-oF, vSAN ab 25G, GPU-Clustering für AI. Für klassische Workloads (Web, Mail, DB auf einem einzelnen Server) bringt RDMA nichts.

Kann ich eine 100G-NIC in einen alten Server einbauen?

Physisch ja, sofern ein freier Slot PCIe Gen3 x16 oder Gen4 x8 vorhanden ist. Aber der Flaschenhals verschiebt sich auf den Rest des Systems: die CPU schafft es nicht, 100G Traffic zu sättigen, der Kernel-Netzwerkstack wird zur Grenze. Um 100G sinnvoll zu nutzen, braucht es aktuelle CPUs (Xeon Gen3+, EPYC Rome+), DPDK-Treiber und Anwendungen, die auf Offload ausgelegt sind. Auf älteren Systemen ist 25G bereits ein großer Sprung, und 100G ist Verschwendung.

Muss ich die Switches tauschen, um NICs mit 25G/100G einzusetzen?

Das hängt von den vorhandenen Switches ab. Moderne ToR-Switches (Mellanox SN/SX, Cisco Nexus 9300, Arista 7050X) unterstützen 25G oft nativ oder per Breakout. Ältere Switches mit reinem 10G nicht. Die Kostenrechnung: 25G-NIC im Server + neue SFP28-Optiken + kompatibler 25G-Switch-Port. Oft ist der Sprung von 10G auf 25G fast gratis, weil die Switches bereits dafür ausgelegt sind.

OCP-NIC oder PCIe-NIC, was lohnt sich?

OCP-2.0/3.0-NICs sind ein dedizierter Formfaktor (herstellereigener interner Slot), der in vielen neueren Enterprise-Servern für die erste NIC genutzt wird. Vorteile: aufgeräumte Verkabelung, ein PCIe-Slot bleibt für andere Karten frei, integrierte Verwaltung über iLO/iDRAC. Bei Upgrades bevorzugen wir OCP, wo verfügbar. Für zusätzliche externe Slots nutzen wir Standard-PCIe.

Welche NIC-Marken empfehlen Sie?

Für 10G/25G im Enterprise-Umfeld: Intel X710, X722, E810 (ausgereifte Treiber), Broadcom NetXtreme E-Series (Standard bei vielen Herstellern). Für 25G+/100G mit hoher Performance und RDMA: Mellanox ConnectX-5/6/7 (NVIDIA, Goldstandard für RDMA), Intel E810-CQDA2, Broadcom Stingray. Vendor-branded Karten (Dell, HPE) sind in der Regel Rebrands der Chips von Intel/Broadcom/Mellanox mit herstellereigener firmware.

Lassen Sie uns reden

Nennen Sie mir Marke, Modell und Ziel. Ich antworte mit einem Plan.

Schicken Sie mir Marke, Modell (service tag / Seriennummer / Teilenummer der motherboard) und den Ziel-Workload. Innerhalb eines Arbeitstags antworte ich mit der technischen Machbarkeit, den Einschränkungen, die ich sehe, und einer ehrlichen Einschätzung.