10 Min. Lesezeit

Lernziele

Am Ende dieses Moduls werden Sie in der Lage sein:

  • zwischen vertikaler und horizontaler Skalierung pro Ebene wählen und dabei die Live-Resize-Grenzen der Plattform nutzen
  • eine VM Auto Scaling-Gruppe entwerfen: Replikatkonfiguration, eine Metrikrichtlinie, Schwellenwertabstand, Bereich, Abklingzeit und Schrittlänge
  • erklären, warum Änderungen an der Replikatkonfiguration nur neue Replikate betreffen, und die Beendigungsrichtlinie planen, die diese Änderungen ausrollt
  • den Sitzungszustand externalisieren, damit eine Ebene für die horizontale Skalierung qualifiziert ist
  • ein Live-Resize und eine Auto-Scaling-Gruppe mit einer Metrikrichtlinie im Data Center Designer (DCD) konfigurieren

Einheit 4.3: Elastizität und VM Auto Scaling

Einführung

Das Portal von FinCorp weist eine gleichmäßige Last unter der Woche, einen Spitzenwert am Monatsende und gelegentliche Kampagnenspitzen auf. Zwei Hebel können dieser Kurve folgen. Vertikales Scaling vergrößert einen laufenden Server, horizontales Scaling fügt Server hinter dem Balancer hinzu und entfernt sie. IONOS CLOUD bietet beide Varianten mit unterschiedlichen Grenzen: Live Resize vergrößert einen Server, verkleinert ihn jedoch nur bei einem Neustart, und VM Auto Scaling skaliert ausschließlich horizontal, ausgehend von einer Replikatkonfiguration, deren Änderungen nur neue Replikate betreffen.

In dieser Einheit wird entschieden, welchen Hebel jede Ebene verwendet, eine Auto Scaling Group entworfen, die nicht flattert, und am Ende werden beide Hebel im DCD eingerichtet.

1. Vertikales Skalieren: Live Resize und seine Grenzen

1.1 Was sich ohne Neustart ändert

Live Vertical Scaling (LVS) ändert die Ressourcen eines laufenden Dedicated Core Server oder vCPU Server. Die folgende Tabelle zeigt, was sich ohne Neustart ändert.

Richtung Ohne Neustart Benötigt einen Neustart oder ist nicht möglich
Hochskalierung CPU, RAM, NICs, Speicherdatenträger RAM über 240 GB: Hotplugging ist deaktiviert, daher wird die VM bei jeder RAM-Erhöhung neu gestartet
Herabskalierung NICs, Speicherdatenträger (Entfernen) Weniger Kerne oder weniger RAM: Neustart erforderlich. Speichergröße: kann überhaupt nicht verkleinert werden

Wie oben gezeigt, ist Live Resize ein einseitiges Hebelwerkzeug: Man skaliert live hoch und skaliert in einem Wartungsfenster herunter. Zwei Bedingungen liegen dem zugrunde. Das Betriebssystem muss dies unterstützen: Linux unterstützt den vollständigen Umfang, während Windows das Skalieren der CPU, aber nicht das Skalieren des RAM unterstützt, und Windows einen Neustart erfordert, um über acht Kerne hinaus zu skalieren. Und das Image muss dies deklarieren: Die Eigenschaften Scale CPU, Scale RAM, Hotplug NICs und Hotplug VirtIO eines Images müssen vom Image unterstützt werden, sind für IONOS CLOUD Images voreingestellt, und deren Änderung auf einem provisionierten Speichergerät erfordert einen Neustart.

1.2 Wann Vertikales Skalieren der richtige Hebel ist

Vertikales Skalieren eignet sich für zustandsbehaftete Ebenen, die nicht geklont werden können, wie die Server der Datenebene von FinCorp, und für Ebenen mit einer Obergrenze, die man vor dem Klassengrenzwert von 62 Kernen (Einheit 4.1) erreichen kann. Es beseitigt keine einzelne Fehlerquelle, und das Herabskalieren erfordert einen Neustart, daher eignet es sich für einen planbaren Spitzenwert, nicht für einen unvorhersehbaren Anstieg. Cubes und Confidential VM liegen außerhalb dieses Hebels: Ihre CPU und ihr RAM können nach der Provisionierung nicht geändert werden.

2. Horizontales Skalieren mit VM Auto Scaling

2.1 Status und Geltungsbereich

VM Auto Scaling befindet sich in der Early Access (EA)-Phase, und IONOS CLOUD empfiehlt, die Nutzung und Tests auf Anwendungen ohne produktionskritische Bedeutung zu beschränken. Es erfolgt ausschließlich horizontales Skalieren: Es werden VMs derselben Größe hinzugefügt, während Kerne oder Speicher nicht an einzelnen VMs erweitert werden. Eine Gruppe ist nur innerhalb des VDC gültig, dem sie zugeordnet ist, verwaltet ausschließlich ihre eigenen Replikatinstanzen, und das Löschen einer Gruppe führt zum Löschen aller damit verbundenen VMs. Für den Dienst selbst fällt keine Gebühr an; Sie zahlen nur für die Ressourcen, die die Replikatinstanzen nutzen, innerhalb der Ressourcenlimits Ihres Vertrags.

2.2 Die Replikatkonfiguration ist eine Designentscheidung

Die Replikatkonfiguration definiert jede neue VM: CPU-Architektur, Kerne und RAM, NICs und deren LANs sowie Volumes mit einem Image oder einer Image-Alias. Ein Passwort für das Image ist obligatorisch, und IONOS CLOUD empfiehlt cloud-init zur Konfiguration der Replikatinstanzen (Einheit 4.2). Sie können die CPU-Architektur, Kerne und RAM von einer bestehenden VM im VDC klonen.

Änderungen an der Replikatkonfiguration gelten nur für neue Replikatinstanzen, niemals für bereits laufende Instanzen. Um eine Änderung in der Gruppe durchzuführen, setzen Sie die Beendigungsrichtlinie für das Skalieren nach innen so, dass zuerst die ältesten Replikatinstanzen gelöscht werden, sodass jede Skalierung nach innen ein Replikat entfernt, das aus der alten Konfiguration erstellt wurde. Das Erhöhen von Kernen oder RAM in der Replikatkonfiguration ist die Form des vertikalen Skalierens für die Gruppe, und sie erreicht den Bestand auf dieselbe Weise.

2.3 Eine Metrikrichtlinie, gestaltet gegen Flapping

Jede Gruppe hat genau eine Metrikrichtlinie. Die Metrik ist entweder der Durchschnitt der CPU-Auslastung oder die Anzahl der empfangenen oder gesendeten Netzwerkbytes oder -pakete. Die Parameter der Richtlinie sind der Ort, an dem Flapping verhindert wird:

Parameter Plattformregel Verwendung im Design
Schwellenwerte für Skalieren nach innen und außen Müssen sich um 40 Prozentpunkte unterscheiden Gewährleistet eine Totzone zwischen Hinzufügen und Entfernen
Bereich Der Messzeitraum; mindestens 120 Sekunden Glättet kurze Spitzen vor einer Entscheidung
Abklingzeit 2 Minuten bis 24 Stunden; 5 Minuten, wenn nicht angegeben Distanziert Aktionen; nur eine Skalierungsaktion läuft gleichzeitig, und die Metrik wird nach deren Abschluss neu bewertet
Menge pro Aktion Absoluter Wert oder Prozentsatz, mindestens 1; maximal fünf VMs empfohlen Hält Skalierungsaufträge innerhalb ihrer Leistungsgrenzen
Mindest- und Höchstanzahl Mindestens ein Replikat; ein Höchstwert von 100 oder weniger empfohlen Die Untergrenze beträgt immer mindestens eine laufende VM

Wie oben gezeigt, baut die Plattform Hysterese in die Richtlinie ein. Ihr Anteil besteht darin, Werte auszuwählen, die zur Startzeit eines Replikats passen. Eine Abklingzeit, die kürzer ist als die Zeit, die ein neues Replikat zum Starten, Ausführen von cloud-init und Bestehen des ALB-Health-Checks benötigt, misst die Gruppe, bevor die neue Kapazität gezählt wird.

Das Design ist für einen graduellen Anstieg der Nachfrage geeignet. Abklingzeitgeber skalieren graduell statt abrupt, daher sollten Sie bei einem plötzlichen, vorhersehbaren Anstieg des Verkehrs VMs im Voraus manuell hinzufügen.

2.4 Integration mit dem Application Load Balancer

Eine Replikatkonfiguration kann einer ALB-Zielgruppe zugeordnet werden, sodass neue Replikatinstanzen der Gruppe beitreten und Verkehr erhalten. Das Netzwerk muss zuerst definiert werden, da der ALB die IP-Adressen der Replikat-NICs verwendet; eine Gruppe, die mit der Standardreplikatkonfiguration erstellt wird, hat kein Netzwerk, und der ALB bleibt ohne Ziele. Zielgewichte reichen von 1 bis 256, und mittlere Werte lassen Raum für spätere Anpassungen. Während der EA-Phase entfernt das manuelle Löschen eines Replikats dessen IP-Adresse nicht von der Zielliste der Zielgruppe; entfernen Sie sie dort zuerst.

3. Die zustandslose Voraussetzung

Horizontales Skalieren setzt voraus, dass jede Replik jede Anfrage bedienen kann und dass jede Replik gelöscht werden kann. Beendigungsrichtlinien löschen ganze VMs und, bei der Volumeneinstellung „Delete“, auch deren angehängte Volumes. Eine Schicht, die Sitzungen, Uploads oder Caches auf der Instanz hält, verliert diese bei jeder Skalierung nach unten.

Exteralisieren Sie den Zustand, bevor Sie eine Gruppe aktivieren. DBaaS for In-Memory DB, ein verwalteter In-Memory-Schlüssel-Wert-Speicher, der mit der Redis OSS API kompatibel ist, hält Sitzungen und gemeinsame Cache-Einträge außerhalb der Replikate; Dateien werden in IONOS Cloud Object Storage abgelegt, Datensätze in der Datenschicht. In-Memory DB erfordert ein Wartungsfenster, in dem kurze Ausfallzeiten auftreten können, daher muss die Schicht für Sitzungen sauber neu verbinden. Einheit 5.5 gestaltet diese Schicht.

FinCorp wendet beide Hebel je nach Schicht und Risiko an. Da VM Auto Scaling im Early Access ist, behält das Produktionsportal in fc-prod-fra-core ein festes Paar bei, das für den Monatsendepunkt dimensioniert ist und bei Bedarf live vergrößert wird. Das Staging-Portal im Nichtproduktionsvertrag läuft als Auto-Scaling-Gruppe hinter einem eigenen ALB, mit Sitzungen in In-Memory DB, damit das Team das Replikaten-Image, die Richtliniennennwerte und den Rollout durch Beendigung der ältesten Instanzen zuerst vor der Berücksichtigung des Musters für die Produktion nachweist.

DCD-Implementierungsanleitung

Sie führen eine Live-CPU-Vergrößerung auf einem Produktionsportalserver durch und erstellen anschließend die Staging-Autoskalierungsgruppe. Damit werden beide Hebel aus dem oben genannten Design umgesetzt.

Voraussetzungen: fc-app-01 mit dem Boot-Volume aus Einheit 4.2; ein Staging-VDC im Nichtproduktionsvertrag mit einem privaten LAN und einem ALB mit einer Zielgruppe, erstellt wie in Einheit 3.3; ein Linux-Image und ein cloud-config-Dokument für die Replikate.

Ziel der Erstellung: Konfigurieren einer Autoskalierungsgruppe mit einer Metrikrichtlinie und einer Live-Vergrößerung.

Schritte (im Data Center Designer):

  1. Live-Vergrößerung. Wählen Sie in fc-prod-fra-core fc-app-01 aus und erhöhen Sie Cores im Inspector-Fenster. Wählen Sie PROVISION CHANGES aus und bestätigen Sie. Der Server läuft weiter; dokumentieren Sie die Änderung im Kapazitätsprotokoll, da eine spätere Verkleinerung einen Neustart erfordert.
  2. Manager öffnen. Gehen Sie zu Menü > Netzwerkdienste > Auto Scaling und wählen Sie Erstellen aus.
  3. Gruppe. Geben Sie im Tab Autoscaling Setup einen Namen ein, wählen Sie das Staging-VDC als Rechenzentrum aus, setzen Sie Minimum Count auf 2 und einen Maximum Count innerhalb Ihrer Vertragsgrenzen.
  4. Schwellenwerte. Wählen Sie den Durchschnittswert der CPU-Auslastung als Metrik. Setzen Sie Scale In Threshold und Scale Out Threshold mindestens 40 Punkte auseinander, beispielsweise 25 und 70, sowie einen Bereich von mindestens 120 Sekunden.
  5. Skalierungseingangsrichtlinie. Wählen Sie Amount Type Absolute und einen Amount von 1. Setzen Sie eine Cooldown Period, die länger ist als die Boot- und Health-Check-Zeit eines Replikats. Setzen Sie Termination Policy so, dass zuerst das älteste Replikat beendet wird, und Delete attached volumes auf Delete für zustandslose Replikate.
  6. Skalierungsausgangsrichtlinie. Wählen Sie einen Amount von höchstens fünf und die gleiche Cooldown-Disziplin.
  7. Replikateinstellungen. Verwenden Sie im Tab Replica Configuration Clone Settings and Volumes, um die CPU-Architektur, Kerne und RAM von einer Staging-VM zu kopieren, oder setzen Sie diese mit den Reglern.
  8. Replikatnetzwerk. Wählen Sie unter Network +Add aus, benennen Sie die NIC, wählen Sie DHCP aus und verknüpfen Sie das private LAN.
  9. Replikatvolumes und ALB. Fügen Sie ein Volume mit einem Speichertyp und einer Größe hinzu, wählen Sie das Image aus, setzen Sie das obligatorische Password, wählen Sie den SSH-Schlüssel aus und fügen Sie die Cloud-Init User Data hinzu. Wählen Sie dann die Target Group des ALB, den Port und ein mittleres Weight aus.
  10. Wählen Sie Erstellen aus. Prüfen Sie im Tab Servers die Mindestanzahl der Replikate und im Tab Jobs die Skalierungsaktionen.

Häufige Fehler:

  • Betrieb einer produktionskritischen Ebene auf VM Auto Scaling, während sich diese im Early Access befindet.
  • Erstellen der Gruppe mit der Standardreplikateinstellung. Diese hat kein Netzwerk, sodass das ALB keine Ziele hat.
  • Bearbeiten der Replikateinstellungen und Erwartung, dass laufende Replikate sich ändern. Nur neue Replikate verwenden diese.
  • Setzen einer Cooldown-Zeit, die kürzer ist als die Boot- und Health-Check-Zeit des Replikats, was Kapazität schneller hinzufügt, als sie gezählt werden kann.
  • Löschen von Replikaten von Hand, ohne deren IP-Adressen vorher aus der Zielgruppe zu entfernen.
  • Beibehalten von Sitzungen auf den Replikaten, die bei jeder Skalierungseingangsaktion verworfen werden.

Zusammenfassung

Vertikales und horizontales Skalieren decken unterschiedliche Anforderungen ab. Live resize vergrößert einen laufenden Server in Bezug auf CPU, RAM, NICs und Speicher, doch das Reduzieren von Kernen oder RAM erfordert einen Neustart. Daher eignet sich dieses Verfahren für zustandsbehaftete Ebenen und geplante Lastspitzen. VM Auto Scaling fügt ganze Replikate hinzu und entfernt sie aus einer Konfiguration, die zum Designzeitpunkt festgelegt wurde, unter einer einzigen Metrikrichtlinie, deren 40-Punkte-Abstand, Bereich und Cooldown Flapping verhindern. Die Funktion befindet sich im Early Access, erfordert zustandslose Replikate, und ihre Änderungen wirken sich nur über neue Replikate auf die Flotte aus.

Wichtige Punkte:

  • Live resize vergrößert CPU, RAM, NICs und Speicher ohne Neustart; weniger Kerne oder weniger RAM erfordern einen Neustart, und Speicher wird nie verkleinert.
  • RAM-Hotplugging ist ab 240 GB deaktiviert, und Windows unterstützt kein RAM-Skalieren.
  • VM Auto Scaling ist ausschließlich horizontal, befindet sich im Early Access und wird für nicht produktionskritische Anwendungen empfohlen.
  • Eine Metrikrichtlinie pro Gruppe, Schwellenwerte mit 40 Punkten Abstand, ein Bereich von mindestens 120 Sekunden und ein Cooldown von 2 Minuten bis 24 Stunden.
  • Änderungen an der Replikatenkonfiguration gelten nur für neue Replikate; beenden Sie zuerst die ältesten, um sie einzuführen.

Wichtige Begriffe:

  • Replikatenkonfiguration: die Vorlage, aus der VM Auto Scaling jede neue VM einer Gruppe erstellt.
  • Cooldown-Zeitraum: das Intervall zwischen Skalierungsaktionen einer Gruppe, das Entscheidungen zeitlich voneinander trennt und Flapping verhindert.