Einheit 3.4: Lastverteilung - Layer 4 (Netzwerk)
Einführung
Hinter dem öffentlichen Edge von FinCorp befindet sich ein Payment-Switch-Service im Daten-LAN. Er verwendet ein eigenes TCP-Protokoll mit gegenseitigem TLS, und das Risiko-Team verlangt, dass die Zertifikate auf den Servern verbleiben, die sie besitzen. Kein Zwischenkomponente darf diesen Traffic entschlüsseln. Dies ist der Fall für Layer 4: Verbindungen ausbalancieren, den Gesundheitszustand prüfen und die Nutzlast unverändert lassen.
Diese Einheit gestaltet den NLB als privaten Balancer der geschichteten Architektur und kombiniert ihn mit dem ALB aus Einheit 3.3. Sie schließt mit dem Aufbau des privaten NLB in fc-prod-fra-core.
1. Layer-4-Mechanik und Design
1.1 Was der NLB leistet
Der NLB bietet verbindungsbasierte Lastverteilung auf Layer 4 für TCP. Er fungiert als Proxy: Client-Verbindungen enden am Balancer und werden 1:1 auf Verbindungen abgebildet, die der Balancer zu den Zielen initiiert, was als Zweiarm-Lastverteilung bezeichnet wird. Er führt Ziel-NAT (DNAT) durch, um Clients auf Ziele abzubilden; Quell-NAT (SNAT) wird nicht unterstützt, sodass Ziele keine Verbindungen über ihn initiieren können.
Der NLB verteilt jeden TCP-basierten Traffic, einschließlich HTTP und HTTPS, aber seine Regeln und Health Checks sind strikt TCP-basiert. Er kann nicht anhand einer URL routen und verfügt über keinen HTTP-Health-Check. Verschlüsselter Traffic wird als TCP durchgereicht, sodass das Backend das Zertifikat behält und den TLS-Handshake selbst abschließt. Genau das benötigen End-to-End-Verschlüsselung und nicht-HTTP-Protokolle.
Der NLB verfügt über eine einzelne Listener-Schnittstelle, die mehrere IPs mit unterschiedlichen Weiterleitungsregeln tragen kann. Sein Listener ist öffentlich, mit einer reservierten öffentlichen IP, oder privat, auf einem privaten Netzwerk für Ost-West-Traffic. Auf der Zielseite präsentiert das Backend den Zielen eine private IP als Quelle des Client-Traffics, abgeleitet aus der Maske des Zielnetzwerks und standardmäßig auf x.x.x.225 gesetzt. Mehrere Backend-IPs können mit unterschiedlichen Regeln konfiguriert werden.
1.2 Algorithmen, Stickiness und Gewichte
Jede Weiterleitungsregel wählt einen Algorithmus: Round Robin, Least connections, Random oder Source IP. Unabhängig vom Algorithmus hält der NLB aktive Sesssionen, die auf dieselben Ziele gemappt sind (sticky sessions durch Quell-IP-Affinität), so lange die TCP-Sessions aktiv bleiben.
Die Wahl ist für TLS im Backend relevant. Bei Least connections können aufeinanderfolgende Anfragen eines Clients unterschiedliche Backends erreichen. Wenn jedes Backend ein anderes Zertifikat für dieselbe Domain hält, beispielsweise aus separaten Let's Encrypt-Setups, können TLS-Handshakes fehlschlagen. Wählen Sie Source IP, um einen Client auf einem Server zu halten, oder verwenden Sie dasselbe Zertifikat auf allen Backend-Instanzen.
Gewichte verwandeln den NLB in ein Canary-Tool. Traffic wird proportional zum Gewicht jedes Ziels im Verhältnis zum Gesamtgewicht aller Ziele verteilt; der Standardwert ist 1 und das Maximum 256. Ein neuer Build, der mit Gewicht 1 neben zwei vorhandenen Zielen mit Gewicht 19 registriert wird, erhält etwa 1 von 39 neuen Verbindungen. Erhöhen Sie sein Gewicht schrittweise, solange die Flow-Logs und die eigenen Metriken des Dienstes sauber bleiben.
1.3 Health Checks und Timeouts
Health Checks gelten pro Weiterleitungsregel und sind TCP-basiert. Die folgenden Standardwerte gelten:
| Einstellung | Standard | Bedeutung |
|---|---|---|
| Client-Timeout | 50000 ms | Inaktivitätszeit, bevor der NLB eine etablierte Client-Verbindung trennt |
| Verbindungs-Timeout | 5000 ms | Maximale Wartezeit auf eine Server-Antwort, bevor der Server als nicht gesund betrachtet wird |
| Ziel-Timeout | 50000 ms | Maximale Wartezeit auf eine Antwort während eines Health Checks |
| Wiederholungen | 3 | Versuche, bevor ein Ziel als nicht gesund markiert wird |
Wie oben gezeigt, eignen sich die Standardwerte für langlebige Verbindungen. Für eine Zahlungs-Schaltstelle mit kurzen Transaktionen verkürzen engere Verbindungs- und Ziel-Timeouts die Erkennung, auf Kosten mehrerer falsch-positiver Meldungen unter Last. Ein TCP-Check belegt, dass der Port Verbindungen akzeptiert, nicht dass der Dienst korrekt ist; kombinieren Sie ihn mit Anwendungsmessung (Einheit 7.2).
1.4 Zusammensetzung und deren Steuerung
Der ALB und der NLB können für sequenzielle Lastverteilung gestapelt werden. Der Pfad von FinCorp ist ein öffentlicher ALB auf fc-edge, der Kunden-TLS terminiert und nach Pfad routet, stateless Portal-Server auf fc-app, und ein privater NLB, dessen Listener auf fc-app sitzt und dessen Backend auf fc-data. Das Daten-LAN behält kein Element mit Internetzugang.
Network Security Groups werden VMs und NICs zugewiesen, nicht den Balancern. Der NLB kommt mit grundlegenden Firewall-Regeln, die automatisch aus seinen Weiterleitungsregeln abgeleitet werden und nicht geändert werden können; zusätzliche Firewall-Regeln gehören auf die NICs der Ziele. Die NSG der Datenschicht erlaubt daher den Dienst-Port nur von der Backend-Adresse des NLB (Einheit 3.2). Als Nachweis dokumentieren Flow-Logs auf den Ziel-NICs, was die Datenschicht erreicht; Flow-Logs auf dem NLB selbst decken seine öffentlichen Schnittstellen ab, und Access-Logging ist für neu erstellte NLBs in Nicht-US-Rechenzentren verfügbar, sobald zentrales Logging aktiviert ist.
| Option | Vorteile | Nachteile | Am besten für |
|---|---|---|---|
| Privater NLB | TCP-Pass-through, Zertifikate bleiben auf Zielen, geringer Overhead | Kein URL-Routing, nur TCP-Health-Checks | Datenbanken, Broker, eigene TCP-Protokolle, End-to-End-TLS |
| Privater ALB | HTTP-Routing und HTTP-Health-Checks Ost-West | Terminiert TLS; Abrechnung pro Weiterleitungsregel | Interne HTTP-APIs, die Pfad-Routing benötigen |
| Direkter LAN-Zugang | Keine Balancer-Kosten | Kein Health-basierter Failover; Clients verfolgen Server-Adressen | Ein einzelnes Ziel oder ein Cluster mit eigenem Failover |
Die Preisgestaltung folgt demselben Modell wie der ALB: 0,02 € pro Stunde pro Regel für die ersten fünf Weiterleitungsregeln, 0,01 € für jede zusätzliche Regel, und keine Bearbeitungsgebühr. Ein Vertrag enthält standardmäßig fünf NLBs, anpassbar über IONOS CLOUD Support. Der NLB wird jeden Montag zwischen 02:00 und 04:00 Uhr Ortszeit gewartet, mit einer Unterbrechung von bis zu 5 Sekunden.
Implementierungsanleitung für den DCD
Sie fügen einen privaten NLB zwischen fc-app und fc-data in fc-prod-fra-core ein, um das Payment Switching auf fc-data-01 und fc-data-02 zu balancieren. Die Ziele des NLB müssen bereits provisioniert sein.
Voraussetzungen: Die Server und LANs aus Einheit 3.1, provisioniert; fc-nsg-data aus Einheit 3.2; eine freie Adresse zwischen .2 und .9 auf fc-app für den Listener.
Bauziel: Erstellen eines privaten Layer-4-Balancers vor der Datenstufe.
Schritte (im Data Center Designer):
- Öffnen Sie
fc-prod-fra-coreund ziehen Sie das NLB-Element in den Arbeitsbereich. - Verbinden Sie die nördliche Schnittstelle (den Listener) mit dem
fc-app-LAN und die südliche Schnittstelle (das Backend) mit demfc-data-LAN. - Geben Sie im Tab Einstellungen den Namen
fc-nlb-dataein. Geben Sie unter Primäre IPv4 die geplante private Listener-Adresse zwischen .2 und .9 direkt ein oder lassen Sie Automatisch ausgewählt, um bei der Provisionierung eine private Adresse zu erhalten. - Wählen Sie im Tab Weiterleitungsregeln + Weiterleitungsregeln hinzufügen aus. Geben Sie einen Namen ein, wählen Sie Algorithmus Quell-IP, lassen Sie das Protokoll
TCPunverändert, wählen Sie die Listener-IP und den Listener-Port des Dienstes aus und wählen Sie Erstellen. - Wählen Sie Ziel hinzufügen aus. Wählen Sie die Ziel-IP von
fc-data-01, den Ziel-Port, das Gewicht1und das Proxy-Protokollnoneaus und wählen Sie Ziel hinzufügen. Wiederholen Sie dies fürfc-data-02. - Wählen Sie Einstellungen neben Health Check aus und setzen Sie Client-Timeout, Verbindungs-Timeout, Ziel-Timeout und Wiederholungen für den Dienst.
- Öffnen Sie den Tab Private IPs. Lassen Sie die Standard-Backend-Adresse
.225auffc-dataunverändert, es sei denn, es besteht ein Konflikt. Um sie zu ändern, entfernen Sie die Adresse zuerst und fügen Sie die neue Adresse in CIDR-Notation hinzu, die der Maske des Zielnetzwerks entspricht. - Provisionieren Sie die Änderungen. Bestätigen Sie anschließend, dass die Quelle in
fc-nsg-datadie in Private IPs angezeigte Backend-Adresse ist.
Häufige Fehler:
- Die Erwartung, dass der NLB TLS terminiert oder nach URL routet. Er leitet TCP weiter; verwenden Sie den ALB für HTTP-Logik.
- Die Auswahl von Wenigste Verbindungen vor Servern mit unterschiedlichen Zertifikaten für denselben Namen. Verwenden Sie Quell-IP oder ein einzelnes Zertifikat.
- Das Zulassen von Client-Adressen in der NSG der Datenstufe. Die Ziele sehen die Backend-Adresse des NLB.
- Das Platzieren eines Servers auf
.225des Ziel-LANs. - Die Erwartung, dass Daten-Server das Internet über den NLB erreichen. Er unterstützt kein SNAT; verwenden Sie das NAT Gateway (Einheit 3.6).
Zusammenfassung
Der NLB ist der Layer-4-Anteil des geschichteten Designs. Er leitet TCP-Verbindungen mit Sticky Sessions, Gewichten und vier Algorithmen an gesunde Ziele weiter und belässt die Nutzlast sowie deren Zertifikate auf dem Backend. FinCorp setzt einen öffentlichen ALB vor einen privaten NLB, hält das Daten-LAN ohne Internetzugang und filtert die Ziele anhand der Backend-Adresse des Load Balancers.
Wichtige Punkte:
- Der NLB ist ein TCP-Proxy mit DNAT zu den Zielen und ohne SNAT; Regeln und Health Checks sind ausschließlich TCP.
- Verwenden Sie den NLB für nicht-HTTP-Protokolle und End-to-End-TLS; das Backend behält das Zertifikat.
- Gewichte von 1 bis 256 setzen proportionale Anteile, wodurch Canary-Releases zu einer Gewichtsänderung werden.
- Die Ziele sehen die Backend-Adresse, standardmäßig
.225; NSGs auf den Zielen erlauben diese Adresse.
Wichtige Begriffe:
- Zweiarmige Lastverteilung: ein Proxy-Design mit einer Schnittstelle für Clients und einer für Ziele, wobei jede Verbindung 1:1 zugeordnet wird.
- Quell-IP-Affinität: die Beibehaltung der aktiven TCP-Verbindungen eines Clients auf demselben Ziel.