9 Min. Lesezeit

Lernziele

Am Ende dieses Moduls werden Sie in der Lage sein:

  • Die Stellen entlang des geschichteten Pfads, von der Edge bis zum Storage Fabric, identifizieren, an denen Latenz und Durchsatz gewonnen oder verloren werden
  • Balanced- und Performance-Volumes für ein IOPS-Ziel dimensionieren, indem Sie deren Skalierung pro GB, Mindest- und Höchstwerte nutzen
  • Connection Pooling und Caching als Hebel für den Durchsatz vor einer Single-Writer-Datenbank einsetzen
  • Grenzen einzelner Knoten, wie die Limits pro NIC und pro Knoten, erkennen und durch horizontale Skalierung (Scale-out) um sie herum gestalten
  • Zwischen Right-Sizing und Over-Provisioning anhand der Skalierungsregeln und Preise der Plattform entscheiden

Einheit 7.3: Performance Engineering

Einführung

Das Portal von FinCorp bestand seine Funktionstests und scheiterte am ersten Lasttest: Der Monatsabschluss-Batch verlangsamte jede Kundenanfrage. Die Ursache war nicht eine einzelne langsame Komponente. Ein Datenbankvolumen war auf seine Daten, nicht auf seine I/O-Anforderungen dimensioniert, und jede Portalreplikateinstanz öffnete eigene Datenbankverbindungen. Jede dieser Entscheidungen war eine Leistungsentscheidung, die per Voreinstellung getroffen wurde.

Diese Designeinheit führt durch die geschichtete Architektur von Einheit 1.2, vom Edge bis zur Festplatte, und benennt in jeder Schicht die Grenze, die die Leistung bestimmt, sowie den Hebel, der sie verändert.

1. Wo Latenz gewonnen oder verloren wird

1.1 Der Pfad und seine Grenzen

Eine Anfrage durchläuft jede Schicht einmal, und die langsamste Schicht bestimmt das Tempo:

Schicht Zu beachtende Grenze Hebel
Edge ALB-Verarbeitung auf Layer 7; NLB auf Layer 4 Routing-Logik bei kritischer Routing-Performance auf Layer 4 halten (Einheiten 3.3, 3.4)
Servernetzwerk Bis zu 6 Gbps intern und bis zu 6 Gbps extern pro Netzwerkkarte, bei MTU 1.500 NIC Multi-Queue; mehr Server hinter dem Balancer
Kubernetes-Ingress Ein LoadBalancer-Service ist die statische IP eines Nodes, mit 2 Gbit/s öffentlichem Durchsatz pro Node Ingress-IPs auf mehrere Nodes verteilen
Hybridverbindung 1 Gbps pro VPN Gateway Tunnel (Einheit 3.6) Mehrere Tunnels oder eine dedizierte Leitung
Datenbank Eine Primärinstanz bedient alle Lese- und Schreibvorgänge; Verbindungen folgen dem RAM Pooler und Cache (Abschnitt 3)
Speicher IOPS pro Volume, die mit der Größe skalieren, bis zu einem Höchstwert Volume-Klasse und Größe (Abschnitt 2)

Die externe Angabe hat eine Einschränkung: Der maximale externe Durchsatz kann nur mit einer entsprechenden Upstream-Verbindung des Providers am anderen Ende erreicht werden. Mehrere dieser Zeilen sind Grenzen einzelner Nodes, die durch Tuning nicht entfernt werden können, nur durch horizontale Skalierung. Für nahezu 5 Gbit/s Kubernetes-Ingress werden beispielsweise drei Nodes benötigt, jeweils mit eigener LoadBalancer-IP-Adresse, zugewiesen an dedizierte Ingress-Nodes per Node-Label. Das Muster ist immer dasselbe: Dem einzelnen Node ein gemessenes Budget zuweisen und auf der darüberliegenden Schicht horizontal skalieren, bevor das Budget aufgebraucht ist.

1.2 Das Gerüst unter den Servern

Unterhalb der virtuellen Schicht verbindet IONOS CLOUD die zentralen Speichersysteme und die internen Datenverbindungen zwischen Kundenservern mit Hochgeschwindigkeitsnetzen auf Basis von InfiniBand- oder Ethernet-Technologie und betreibt an jedem Standort redundante Netze mit Verbindungen bis zu 100 Gbps. Sie wählen das Gerüst nicht aus. Sie wählen den Treiber aus: IONOS CLOUD empfiehlt, immer VirtIO zu verwenden, um von der vollen Leistungsfähigkeit von InfiniBand zu profitieren. IDE ist für die Fehlerdiagnose vorgesehen, beispielsweise wenn ein Betriebssystem noch keine VirtIO-Treiber hat. Eine migrierte VM, die auf IDE belassen wird (Einheit 7.4), verliert bei jeder Anfrage Speicherleistung.

1.3 NIC Multi-Queue

Standardmäßig verarbeitet eine Netzwerkkarte den Verkehr über eine Warteschlange. NIC Multi-Queue ordnet einer VM mehrere Warteschlangen zu, basierend auf ihrer Kernanzahl, sodass mehrere CPU-Kerne Netzwerkdatensätze parallel verarbeiten. Die Funktion ist standardmäßig deaktiviert und wird pro VM in der DCD oder der API aktiviert. Die Aktivierung führt zu einem Neustart der VM. Die Anzahl der Warteschlangen folgt den CPU-Threads. Nach dem Hinzufügen von Kernen benötigt die VM daher einen Neustart über die DCD oder die API. Ein Neustart des Betriebssystems aktualisiert die Warteschlangen nicht. Es werden mindestens zwei Threads benötigt, und die Funktion ist für Cubes nicht verfügbar. FinCorp aktiviert sie für die Datenserver und das netzwerkintensive Partner-Gateway-Paar, in einem Wartungsfenster.

2. Speicherleistungsuntergrenzen und Stufen

2.1 Größe kauft Leistung

Der Speicher in der Essential-Klasse ist statisch: 1.100 IOPS regulär und 2.500 IOPS im Burst-Modus bei 4 KB, unabhängig von der Größe. Die Klassen Balanced und Performance skalieren mit der Volumengröße, wodurch Kapazität zu einer I/O-Entscheidung wird:

Volumengröße Balanced Lese- / Schreib-IOPS Performance Lese- / Schreib-IOPS
100 GB 4.000 / 3.000 7.500 / 5.000
300 GB 12.000 / 9.000 22.500 / 15.000
600 GB und mehr 24.000 / 18.000 (Obergrenze) 45.000 / 30.000 (Obergrenze)

Die Werte ergeben sich aus 40 Lese- und 30 Schreib-IOPS pro GB für die Balanced-Klasse sowie 75 Lese- und 50 Schreib-IOPS pro GB für die Performance-Klasse bei einer Blockgröße von 4 KB. Drei Regeln umrahmen die Tabelle. IONOS CLOUD empfiehlt mindestens 100 GB für Balanced- und Performance-Volumes, um den vollen Nutzen der SSDs zu erzielen. Volumes größer als 600 GB erreichen die maximale erwartete Leistung, sodass ein weiteres Vergrößern des Volumes nur Kapazität, aber keine zusätzlichen IOPS liefert. Und die Obergrenzen erfordern ein Mindestserverprofil pro Volume: 2 Kerne und 2 GB RAM für die Balanced-Klasse, 4 Kerne und 4 GB RAM für die Performance-Klasse. Ein kleiner Server vor einem großen Volume erreicht die Obergrenze des Volumes nie.

2.2 Auswahl der Stufe nach Preis pro IOPS

Die Balanced-Klasse kostet 0,07 € und die Performance-Klasse 0,15 € pro GB pro 30 Tage (Einheit 2.4). Bis zur Obergrenze der Balanced-Klasse kauft ein überdimensioniertes Balanced-Volume oft dieselben IOPS für weniger Geld. Die selbst verwaltete Berichtsdatenbank auf einem der Datenserver von FinCorp benötigt 20.000 Lese-IOPS:

  • Balanced: 500 GB liefern 20.000 Lese-IOPS für 35,00 € pro 30 Tage.
  • Performance: etwa 267 GB liefern dieselbe Leistung für etwa 40,05 € pro 30 Tage.

Die Performance-Klasse gewinnt, wenn der Bedarf über den Obergrenzen der Balanced-Klasse liegt oder wenn die Kapazität klein bleiben muss. Für ein Volume mit mehr als 45.000 Lese-IOPS reicht kein einzelnes Volume aus: Verteilen Sie die Daten auf mehrere Volumes, von denen jedes seine eigene Obergrenze hat. Denken Sie an die Asymmetrie aus Einheit 4.2: Ein Volume kann wachsen, aber nie schrumpfen, daher ist eine überdimensionierte Speicherbereitstellung am Anfang günstig, aber dauerhaft.

Die verwalteten Datenbanken folgen denselben physikalischen Gesetzen. DBaaS für PostgreSQL empfiehlt eine Speichergröße von 100 GB für optimale Leistung (Einheit 5.3), sodass eine kleine Datenbank immer noch ein 100-GB-Volume erhält.

3. Durchsatzhebel vor der Datenbank

Die Datenschicht verfügt über einen Writer pro Cluster, und Standbys erhöhen die Verfügbarkeit, nicht die Leseleistung (Einheiten 5.3 und 5.5). Zwei Hebel erhöhen den Durchsatz, ohne einen zweiten Writer einzusetzen.

Verbindungspooling. max_connections in DBaaS for PostgreSQL folgt dem Arbeitsspeicher und erreicht oberhalb von 8 GB ein Maximum von 1.000, wobei 11 für interne Zwecke reserviert sind. Jede Portal-Replik, die einen eigenen Pool öffnet, vervielfacht die Anzahl: Zwanzig Repliken mit je fünfzig Verbindungen erreichen die Obergrenze. Der verwaltete Pooler im Transaction-Modus ermöglicht es vielen Client-Verbindungen, eine geringere Anzahl an Datenbankverbindungen zu teilen, was der richtige Modus für zustandslose Anfrageverarbeitung ist.

Caching. DBaaS for In-Memory DB vor der Datenbank bedient wiederholte Lesezugriffe aus dem Arbeitsspeicher und entlastet die Primärinstanz. Ihre Leseleistung ergibt sich aus den Kernen und dem Arbeitsspeicher ihrer Primärinstanz, da Sekundärinstanzen passiv sind. Cachen Sie Daten, die häufig gelesen und selten geändert werden, und setzen Sie eine Ablaufzeit fest, damit veraltete Daten eine begrenzte Lebensdauer haben.

Zusammen erhöht der Pooler, wie viele Clients eine Primärinstanz bedienen kann, und der Cache verringert, wie viele Abfragen sie erreichen. Messen Sie beide im PostgreSQL-Dashboard von Einheit 7.2: Sitzungen und Transaktionsdurchsatz zeigen, ob der Pooler oder die Primärinstanz die Grenze darstellt.

4. Right-Sizing im Vergleich zu Over-Provisioning

Right-Sizing bedeutet, sich nah am gemessenen Bedarf zu bewegen und zu wachsen, wenn die Überwachung dies anzeigt. Auf dieser Plattform ist Wachstum günstig und schnell: Live Vertical Scaling fügt einem laufenden Dedicated Core Server oder vCPU Server CPU, RAM, NICs und Speicher hinzu. Schrumpfen ist das nicht: Weniger Kerne oder weniger RAM erfordern einen Neustart, und Speicher kann überhaupt nicht reduziert werden (Einheit 4.3). Über 240 GB RAM ist Hotplugging deaktiviert, und jede RAM-Erhöhung startet die VM neu.

Der Kompromiss ergibt sich aus dieser Asymmetrie:

Ressource Right-Sizing, wenn Over-Provisioning, wenn
CPU und RAM Die Workload kann einen geplanten Neustart zum Schrumpfen verkraften, und Alarme werden ausgelöst, bevor Sättigung eintritt Die VM liegt über 240 GB RAM, wo jede Erhöhung sie neu startet
Speicher Kapazität ist der einzige Bedarf IOPS erfordern die Größe: Kaufen Sie die Größe, die die IOPS liefert (Abschnitt 2)
Compute-Klasse Stabile, gemessene Last Latenzempfindliche Workloads benötigen exklusive Kerne: Dedicated Core statt geteilter vCPU (Einheit 4.1)
Replikate VM Auto Scaling folgt der Last (Einheit 4.3) Die Reaktionszeit für Scale-out ist länger als der Lastspitzenverlauf

FinCorp wendet die Tabelle an. Die Portalserver bleiben right-sized und skalieren aus; die Datenbank des Payment Switch behält Dedicated Cores und ein Performance-Volumen, das für I/O dimensioniert ist; die Reporting-Datenbank erhält ein 500 GB großes Balanced-Volumen; und der Ingress von fc-k8s-portal bleibt hinter fc-alb-edge, dessen Zielgruppe fc-tg-k8s ihn auf die beschrifteten Nodes beider Pools verteilt.

Zusammenfassung der Entscheidung

Symptom oder Anforderung Hebel Harte Einschränkung
Datenbank-I/O ist der Engpass Balanced- oder Performance-Volumen bis zur Obergrenze vergrößern; dem zugehörigen Server die Mindestgröße zuweisen 100 GB empfohlen; IOPS wachsen über 600 GB hinaus nicht weiter
Mehr als die Obergrenze eines Volumens erforderlich Mehrere Volumen, Daten auf diese verteilt 24.000 Lese-IOPS Balanced, 45.000 Performance pro Volumen
Zu viele Datenbankverbindungen Transaktions-Pooler max_connections höchstens 1.000, 11 reserviert
Primärinstanz durch Lesezugriffe gesättigt In-Memory DB-Cache Standbys bedienen keine Lesezugriffe
Netzwerkgebundene VM NIC Multi-Queue, dann weitere Server Bis zu 6 Gbps pro NIC; Neustart zur Aktivierung erforderlich
Kubernetes-Ingress gesättigt Ingress-IPs auf mehreren beschrifteten Nodes 2 Gbit/s pro Node
Importierte VM langsam bei Speicherzugriffen Umstellung auf VirtIO IDE ist nur zur Fehlerdiagnose vorgesehen

Zusammenfassung

Die Leistung in IONOS CLOUD wird durch eine kurze Liste bekannter Obergrenzen bestimmt: Durchsatz pro NIC, Kubernetes-Eingang pro Knoten, VPN-Durchsatz pro Tunnel, eine einzelne Datenbank-Primärinstanz und IOPS pro Volume, die mit der Größe bis zu einem Höchstwert skalieren. Die Stellschrauben sind ebenso konkret: Volumes für die E/A dimensionieren und ihnen einen ausreichend großen Server zuweisen, Verbindungen poolen und Lesezugriffe vor der Primärinstanz cachen, VirtIO und NIC Multi-Queue verwenden und horizontal skalieren, bevor das Budget eines einzelnen Knotens aufgebraucht ist. Live wachsen lassen und in einem Wartungsfenster verkleinern.

Wichtige Punkte:

  • Balanced bietet 40 Lese- und 30 Schreib-IOPS pro GB, Performance 75 und 50; beide erreichen ihre Obergrenzen bei 600 GB und benötigen mindestens 100 GB, um leistungsfähig zu sein.
  • Balanced ist bis zu seiner Obergrenze oft günstiger pro IOPS; Performance ist darüber oder bei kleinerem Kapazitätsbedarf vorteilhaft.
  • Eine NIC überträgt bis zu 6 Gbps, ein Kubernetes-Eingangsknoten 2 Gbit/s, ein VPN-Tunnel 1 Gbps.
  • Pooler und Cache erhöhen den Durchsatz vor einer einzelnen schreibenden Primärinstanz; Standby-Instanzen tun dies nicht.
  • VirtIO verwenden, nicht IDE, und NIC Multi-Queue für netzwerkintensive VMs aktivieren.