Wissensprüfung - Container und KI-Plattform
FinCorp verlagert seine Portal- und Partner-API-Dienste in den öffentlichen Managed Kubernetes-Cluster fc-k8s-portal. Die Dienste benötigen Host- und Pfad-Routing, TLS-Terminierung sowie Health Checks an einem einzigen Internet-Einstiegspunkt, demselben, der bereits die Portal-VMs bedient. Ein Entwickler schlägt vor, für jeden Microservice einen Service vom Typ LoadBalancer einzurichten. Was sollte der Architekt empfehlen?
Ein LoadBalancer-Service stellt keinen externen Load Balancer bereit; er weist einem Worker-Knoten eine statische IP zu, mit bis zu 2 Gbit/s pro Knoten. Daher führt ein Service pro Microservice zu einer Vervielfachung von Einstiegspunkten auf Einzelknotenbasis ohne Layer-7-Routing. Manifeste erstellen keine verwalteten Load Balancer, weshalb der ALB separat erstellt wird und an einen Ingress-Controller im Cluster routet. Private Node Pools unterstützen LoadBalancer-Services überhaupt nicht.
Ein nächtlicher Batch-Job in fc-k8s-ai benötigt zwei Stunden lang acht Knoten. Das Finanzteam fragt nach den geringsten Kosten außerhalb dieses Zeitfensters und schlägt einen automatisch skalierten Knotenpool mit einem Minimum von null Knoten vor. Wie sollte der Architekt die Batch-Kapazität gestalten?
Der Cluster-Autoscaler kann einen Knotenpool nicht auf null reduzieren, sodass jeder automatisch skalierte Pool mindestens einen abrechenbaren Knoten beibehält. Ein gemeinsamer Batch-Pool hält die Kosten für Leerlauf auf einen einzelnen warmen Knoten, während ein Pool pro Job diese Untergrenze vervielfacht. Die Steuerungsebene ist kostenlos, setzt die Knotenpools jedoch nicht aus, da es sich um abrechenbare Compute Engine-Server handelt.
Der Sicherheitsbeauftragte von FinCorp verlangt, dass die Worker-Knoten der KI-Instanzen keine Verbindungen aus dem Internet annehmen und dass nur das Administrationsnetzwerk die Kubernetes API nutzen kann. Das Team plant einen Cluster mit privaten Node Pools und geht davon aus, dass die API dann ebenfalls privat ist. Was vervollständigt das Design?
Private Node Pools isolieren die Datenebene: Die Knoten verfügen nur über interne Adressen und erreichen das Internet ausgehend über das NAT-Gateway, das der Dienst auf der reservierten Adresse bereitstellt. Die Steuerungsebene bleibt dem Internet ausgesetzt und wird durch die Einschränkung des IP-Zugriffs geschützt. Knoten in Node Pools können nicht zu Network Security Groups hinzugefügt werden, und öffentliche Pools würden die Knoten aussetzen, was dem ersten Anforderungspunkt widerspricht.
Drei CI/CD-Pipelines schieben Images in die Private Container Registry von FinCorp, und zwei Cluster ziehen sie ab. Das Audit-Team möchte, dass ein geleaktes Credential so wenig wie möglich erreicht und sofort gestoppt werden kann. Welches Zugriffsdesign sollte der Architekt wählen?
Der Registry-Zugriff wird durch Token-Bereiche definiert, daher bedeutet geringste Berechtigung ein eng begrenztes Token pro Verbraucher, wobei Push nur dort erfolgt, wo eine Pipeline veröffentlicht. Der Zustand eines Tokens kann sofort deaktiviert werden, während das Ablaufdatum es löscht, daher ist die Rotation vor dem Ablaufdatum geplant. Ein Wildcard-Admin-Token gewährt jedem Leak volle Reichweite, und Repositories können nicht öffentlich gemacht werden, da Authentifizierung immer erforderlich ist.
Eine Geschäftseinheit von FinCorp möchte Red Hat OpenShift statt Managed Kubernetes. Das Compliance-Büro fragt, wer die Steuerungsebene betreibt und wer die Nachweise für deren Betrieb erbringt. Was sollte der Architekt antworten?
IONOS CLOUD bietet keinen verwalteten OpenShift: Red Hat CCSP-Partner installieren und verwalten die Cluster nach einer Validierung durch Red Hat, und Rancher Prime wird vom Kunden selbst verwaltet. Die Infrastruktur ist dieselbe, aber der Betrieb einer vom Kunden installierten Steuerungsebene ist eine Arbeitslast, deren Nachweise der Partner oder der Kunde erbringen muss. Managed Kubernetes ist die Option, bei der IONOS CLOUD die Steuerungsebene betreibt.
FinCorp entwickelt einen Beraterassistenten, der Fragen auf Basis interner Richtliniendokumente beantwortet, und später eine Kreditvorprüfung auf demselben Stack. Kundendaten müssen in Deutschland verbleiben und dürfen kein Modell trainieren. Welches Design erfüllt die Anforderungen?
AI Model Hub verarbeitet Inferenz in Deutschland und verwendet Kundendaten nicht zum Training, und RAG bringt die Dokumente zum Modell, ohne es zu trainieren. Als Bereitsteller pseudonymisiert FinCorp den Anfrageinhalt und baut für eine Hochrisikoanwendung wie Kredit eigenes Logging und menschliche Aufsicht auf, da keine vorkonfigurierte KI-Verordnung-Logging-Vorlage bereitgestellt wird. Der SLA gilt nicht für Cloud GPU VMs, und die Feinabstimmung auf Kundendatensätzen würde dem Erfordernis widersprechen, dass Kundendaten kein Modell trainieren.