13 Min. Lesezeit

Lernziele

Am Ende dieses Moduls werden Sie in der Lage sein:

  • Erkennen, wann AI Model Hub verwendet werden soll, um auf vortrainierte Basismodelle über REST-APIs zuzugreifen
  • Managed Kubernetes, Red Hat OpenShift und SUSE Rancher Prime vergleichen, um zu verstehen, wann jede Container-Plattform verwendet werden soll
  • Verstehen, wann Private Container Registry verwendet werden soll

Einheit 2.7: KI- und Container-Dienste

Einführung

Da Cloud-Plattformen an Reife gewinnen, benötigen Organisationen mehr als nur grundlegende Rechenleistung und Speicher. Sie benötigen intelligente Dienste, die Daten analysieren und Inhalte generieren können, sowie Container-Plattformen, die moderne Microservices im großen Maßstab ausführen können. IONOS CLOUD bietet beides: KI-Dienste, die Machine-Learning-Fähigkeiten in Ihre Anwendungen integrieren, ohne dass Sie GPU-Infrastruktur verwalten müssen, sowie Container-Orchestrierungsdienste, die die Komplexität des Bereitstellens und Skalierens von containerisierten Workloads bewältigen.

In dieser Einheit werden Sie zwei wesentliche Dienstkategorien erkunden, die auf der in früheren Einheiten behandelten Kerninfrastruktur aufbauen. Wir behandeln KI-Dienste für Inferenz und Dokumenten-Intelligenz, gefolgt von Container-Diensten für den Betrieb von produktiven Kubernetes-Workloads mit verwalteten Registries und Enterprise-Plattformoptionen.

1. Künstliche Intelligenz Dienste

IONOS CLOUD bietet einen verwalteten KI-Inferenzdienst, der Machine-Learning-Fähigkeiten in Ihre Anwendungen einbringt, ohne dass Sie GPU-Infrastruktur verwalten oder zum Machine-Learning-Experten werden müssen.

1.1 AI Model Hub

AI Model Hub ist der Inferenzdienst von IONOS CLOUD, der einen Katalog von vortrainierten Basismodellen bereitstellt, die direkt über REST-APIs genutzt werden können. Diese Modelle wurden bereits von ihren ursprünglichen Entwicklern auf großen öffentlichen Datensätzen trainiert, und Sie können sie sofort für Inferenzzwecke verwenden, ohne sie zu trainieren oder feinjustieren zu müssen.

Verfügbare Arten von vortrainierten Modellen:

Kategorie Beispielmodelle Haupteinsatzzweck
Große Sprachmodelle (Text zu Text) Mistral Small 24B, Llama 3.1 8B, Mistral Nemo, Llama 3.3 70B, GPT-OSS 120B, Llama 3.1 405B Textgenerierung, Chat, mehrsprachige Abdeckung und visionsgestützter Chat mit bildfähigen Modellen wie Mistral Small 24B
Coding-Modelle (Text zu Code) Qwen3 Coder Next 80B Codegenerierung und -unterstützung
Text-zu-Bild-Modelle (Text zu Bild) FLUX.1-schnell, FLUX.2-Klein-4B Bilderstellung aus Prompts
OCR-Modelle (Bild zu Text) LightOnOCR-2-1B Textextraktion und Digitalisierung von Dokumenten
Embedding-Modelle (Text zu Vektor) BGE Large v1.5, BGE m3, Paraphrase Multilingual MPNet v2 Semantische Suche, Ähnlichkeitsmessung, Clustering
Reranking-Modelle (Abfrage und Dokumente zu sortierten Dokumenten) Siehe die Modellliste im DCD Neuordnung abgerufener Ergebnisse nach Relevanz, typischerweise in einer RAG-Pipeline

Wann AI Model Hub verwenden:

Sie sollten AI Model Hub immer dann verwenden, wenn Sie fortgeschrittene KI-Fähigkeiten (Textgenerierung, Bilderstellung, Embeddings, semantische Suche) benötigen, ohne den operativen Aufwand für Hardware, Modelltraining oder Compliance-Arbeit. Der Dienst ist besonders wertvoll für Textgenerierung und Chatbots, Bildgenerierung für Marketing oder Design, semantische Suche und Retrieval-Augmented Generation (RAG), bei der die Antworten von LLMs auf Ihren eigenen Dokumenten basieren.

Wichtige Vorteile:

  • Verwalteter Hosting-Service ohne Server oder GPU-Cluster, die gewartet werden müssen
  • Sicherheit und Compliance, bei der die Daten in Deutschland verbleiben und DSGVO-konform sind
  • Skalierbarkeit, die sich automatisch an das Anfragevolumen anpasst
  • Einheitliche, OpenAI-kompatible API für eine einfache Integration
  • Tokenbasierte Abrechnung, die transparente, nutzungsbasierte Preise bietet

Alle Modelle werden über eine einzige, OpenAI-kompatible API bereitgestellt, und Sie können Modelle auf dem Laufenden wechseln, ohne die Infrastruktur neu zu deployen. Tool-Calling-Fähigkeiten ermöglichen es unterstützten LLMs, externe APIs und Funktionen während eines Gesprächs aufzurufen, was reale Aktionen wie Datenbanksuchen oder Bestellungen ermöglicht. Für Retrieval-Augmented Generation kombinieren Sie Hub-Embedding- und Sprachmodelle mit einer Vektordatenbank. Der empfohlene Weg für neue Implementierungen ist IONOS CLOUD Managed PostgreSQL mit der pgvector-Erweiterung als Vektorspeicher, wobei AI Model Hub die Embedding- und Textgenerierungsmodelle bereitstellt. Die ältere native Funktion Document Collections (ein verwalteter Vektorspeicher) ist veraltet und für neue Deployments geschlossen; sie wird am 2026-08-31 eingestellt. Bestehende Sammlungen funktionieren bis dahin weiter, neue RAG-Projekte sollten jedoch den selbstverwalteten pgvector-Weg verwenden. Mehrere der verfügbaren Modelle sind mehrsprachig und unterstützen Szenarien der europäischen Datensouveränität, in denen eine breite Sprachabdeckung in einer DSGVO-konformen Umgebung entscheidend ist.

2. Container-Dienste

Die Container-Technologie ist zum Standard für das Verpacken und Ausführen moderner Anwendungen geworden. IONOS CLOUD bietet gemanagte Container-Dienste, die die Komplexität des Betriebs von Container-Workloads im großen Maßstab übernehmen.

2.1 Managed Kubernetes

Managed Kubernetes ist der vollautomatisierte Dienst von IONOS CLOUD für den Betrieb produktionsreifer Kubernetes-Cluster, ohne dass Sie die Steuerungsebene und die zugrunde liegende Infrastruktur selbst verwalten müssen.

Wichtige Vorteile von Managed Kubernetes:

Vorteil Bedeutung Nutzen für Sie
Vollautomatisierte Cluster-Vorstellung Der Dienst erstellt die Steuerungsebene und Worker-Node automatisch Kein manuelles Einrichten von VMs oder Netzwerken erforderlich
Automatische Updates und Sicherheitspatches IONOS CLOUD wendet Kubernetes-Versionserweiterungen und Sicherheitskorrekturen an Keine Eingriffe erforderlich, um auf dem neuesten Stand und sicher zu sein
Hochverfügbare Steuerungsebene Die Steuerungsebene läuft auf mehreren VMs in einer Region Integrierte Fehlertoleranz und kontinuierlicher Betrieb
Vollständiger Administratorzugriff Vollständige Kontrolle über die Kubernetes API Beibehaltung der Kontrolle über Workloads, während IONOS CLOUD die Infrastruktur verwaltet
Pay-as-you-go-Compute Worker-Node werden nur für die genutzten Ressourcen abgerechnet Kosteneffizient, ohne versteckte Verwaltungskosten
Node-Pool-Abstraktion Ressourcen werden in Node-Pools gruppiert Einfache, konsistente Skalierung und Ressourcenverteilung
Basiert auf Vanilla Kubernetes Standard Open-Source Kubernetes Maximale Kompatibilität mit Ökosystem-Tools
Integriertes Monitoring Kubernetes Manager zeigt den Status an und stellt kubeconfig bereit Einfache Einblicke in die Cluster-Gesundheit

Cluster-Bereitstellungsmodelle:

Managed Kubernetes unterstützt zwei Bereitstellungsmodelle, die beeinflussen, wie Ihr Cluster mit dem Netzwerk verbunden ist. In einem öffentlichen Cluster erhalten Worker-Node internetroutierbare IP-Adressen, wodurch sie direkt von außerhalb Ihres virtuellen Rechenzentrums erreichbar sind. In einem privaten Cluster befinden sich Worker-Node auf privaten LANs hinter einem NAT Gateway, ohne direkte Internet-Exposition. Sie können den Zugriff auf den Kubernetes API Server durch die Konfiguration einer IP-Allowlist weiter einschränken, um sicherzustellen, dass nur vertrauenswürdige Netzwerke den Cluster verwalten können. Die Wahl zwischen öffentlich und privat ist eine der wichtigsten architektonischen Entscheidungen bei der Erstellung eines Clusters, da sie Ihre Sicherheitslage und den Weg bestimmt, über den externer Verkehr Ihre Workloads erreicht.

Node-Pools unterstützen Autoscaling, bei dem Sie minimale und maximale Node-Anzahlen definieren und der Cluster Worker-Node automatisch basierend auf der Workload-Nachfrage hinzufügt oder entfernt. Die Netzwerkverbindung zwischen Pods wird von Calico behandelt, einem integrierten Container Network Interface (CNI)-Plugin, das die Durchsetzung von Netzwerkrichtlinien und die Kommunikation von Pod zu Pod bereitstellt. Cluster laufen mit Standard, Vanilla Kubernetes Releases, und IONOS CLOUD verwaltet Versionserweiterungen, damit Ihr Cluster auf einem unterstützten Release-Track bleibt.

Managed vs. Self-Managed Kubernetes:

Der Hauptunterschied zwischen gemanagtem und selbstverwaltetem Kubernetes liegt darin, wer für die Steuerungsebene, Updates und das Infrastrukturmanagement verantwortlich ist. Bei Managed Kubernetes übernimmt IONOS CLOUD die Cluster-Vorstellung, das Management der Steuerungsebene (einschließlich geo-redundanter Hochverfügbarkeit), Sicherheitspatches, Skalierung und den Node-Lebenszyklus. Sie konzentrieren sich auf Container-Workloads, CI/CD-Pipelines und das Skalieren von Anwendungen.

Bei selbstverwaltetem Kubernetes müssen Sie die Komponenten der Steuerungsebene installieren, die HA-Architektur handhaben, Sicherheitspatches anwenden, den VM-Lebenszyklus verwalten und Sicherungsstrategien entwerfen. Während selbstverwaltetes Kubernetes Ihnen die volle Kontrolle über jede Komponente gibt, erfordert es erhebliches Fachwissen und Ressourcen für eine ordnungsgemäße Wartung.

Wann Managed Kubernetes verwenden:

Wählen Sie Managed Kubernetes, wenn Ihre Priorität eine schnelle Zeit bis zum Wert, reduzierter Verwaltungsaufwand und eine zuverlässige, automatisch aktualisierte Steuerungsebene ist. Es ist ideal für Entwicklungsteams, die sich auf den Bau von Anwendungen konzentrieren möchten, anstatt Infrastruktur zu verwalten, Organisationen, die produktionsreifes Kubernetes ohne dedizierte Plattform-Engineering-Teams benötigen, und Szenarien, in denen Sie Container-Workloads schnell skalieren müssen, ohne sich um Infrastruktur zu kümmern.

Self-Managed Kubernetes kann nur dann gerechtfertigt sein, wenn Sie eine tiefe Anpassung der Steuerungsebene benötigen oder Kubernetes auf Infrastruktur ausführen müssen, die Sie selbst kontrollieren, wobei Sie das Fachwissen und die Ressourcen benötigen, um es zu warten.

2.2 Private Container Registry

Container Registry ist der gemanagte, private Docker/OCI-Artefakt-Speicher von IONOS CLOUD. Er bietet ein authentifiziertes Registry, in dem OCI-konforme Artefakte (Docker-Images, Helm-Charts und andere Container-Artefakte) über das öffentliche Internet hochgeladen, gespeichert und abgerufen werden können, jedoch erst nach Vorlage gültiger Zugangsdaten.

Was Container Registry bereitstellt:

  • Ein Repository für Docker-Images und andere OCI-Artefakte
  • Speicher für mehrere Repositories innerhalb jedes Registry
  • Zugriffskontrolle über Registry-Zugriffstokens mit bereichsspezifischen Berechtigungen und optionaler Ablaufzeit
  • Vollständig gemanagte Infrastruktur mit kontinuierlichen Patches und Updates
  • Verschlüsselung im Ruhezustand für alle gespeicherten Images
  • Integration in CI/CD-Pipelines und Kubernetes-Workloads

Warum Private Container Registry verwenden:

Anstatt sich auf externe Anbieter wie Docker Hub zu verlassen oder Ihre eigene Registry-Infrastruktur zu verwalten, bietet IONOS CLOUD Container Registry ein sicheres, hochverfügbares Registry, das in derselben Cloud-Umgebung wie Ihre anderen Ressourcen existiert. Dies eliminiert die Notwendigkeit, Images über das öffentliche Internet von externen Anbietern abzurufen, bietet bessere Kontrolle darüber, wer auf Ihre Container-Images zugreifen kann, und stellt sicher, dass proprietärer Anwendungscode und Images privat bleiben.

Wann Container Registry verwenden:

Sie sollten Container Registry immer dann verwenden, wenn Sie Container-Anwendungen auf IONOS CLOUD bereitstellen, insbesondere mit Managed Kubernetes. Es ist unerlässlich für Organisationen, die proprietäre Container-Images sicher speichern müssen, Teams, die Container-Builds in CI/CD-Pipelines integrieren möchten, und Umgebungen, in denen Sie eine feingranulare Zugriffskontrolle darüber benötigen, wer Images hochladen und abrufen kann.

Das Registry integriert sich nahtlos in Managed Kubernetes Cluster, sodass Ihre Anwendungen Images direkt aus dem Registry unter Verwendung der von Ihnen konfigurierten Zugangsdaten abrufen können. Dies erstellt eine vollständige Container-Plattform, auf der Sie Container-Anwendungen vollständig innerhalb der IONOS CLOUD Umgebung bauen, speichern und bereitstellen können.

2.3 Red Hat OpenShift

Red Hat OpenShift ist eine Enterprise-Kubernetes-Plattform, die von Red Hat Certified Cloud Service Provider (CCSP) Partnern selbst auf IONOS CLOUD Infrastruktur bereitgestellt und verwaltet wird (IONOS CLOUD bietet keine gemanagte OpenShift-Steuerungsebene, und der Zugriff erfolgt über einen genehmigten CCSP-Partner, nicht über direkte Selbstbedienung), die Standard-Kubernetes mit integrierten Entwickler-Tools, CI/CD-Pipelines und erweiterten Sicherheitsfunktionen erweitert. OpenShift bietet eine vollständige Anwendungsplattform mit eingebaunter Unterstützung für den Bau, die Testung und die Bereitstellung von Containern, zusammen mit zentralisiertem Logging, Monitoring und rollenbasierter Zugriffskontrolle.

Wann Red Hat OpenShift vs. Managed Kubernetes verwenden:

Wählen Sie Red Hat OpenShift, wenn Ihre Organisation eine Enterprise-Kubernetes-Plattform mit integriertem Entwickler-Tooling, eingebaute CI/CD-Pipelines und Red Hat Enterprise-Support benötigt. OpenShift ist besonders geeignet für regulierte Branchen, die erweiterte Sicherheitskontrollen und Compliance-Funktionen ab Werk benötigen. Wählen Sie Managed Kubernetes, wenn Sie Standard, Open-Source Kubernetes ohne zusätzliche Enterprise-Tools benötigen, eine einfachere Einrichtung bevorzugen oder Kosten für die grundlegenden Container-Orchestrierung minimieren möchten.

2.4 SUSE Rancher Prime

SUSE Rancher Prime ist eine souveräne Kubernetes-Management-Plattform, die Kunden selbst auf IONOS CLOUD Infrastruktur bereitstellen und verwalten (IONOS CLOUD betreibt sie nicht als gemanagten Dienst), die zentralisierte Verwaltung mehrerer Kubernetes-Cluster über Cloud, On-Premises- und Edge-Umgebungen hinweg bereitstellt. Rancher Prime bietet eine einheitliche Management-Konsole, richtlinienbasierte Governance und integrierte Sicherheitsfunktionen, während die volle Datensouveränität innerhalb europäischer Infrastruktur aufrechterhalten wird.

Wann SUSE Rancher Prime vs. Managed Kubernetes verwenden:

Wählen Sie SUSE Rancher Prime, wenn Ihre Organisation mehrere Kubernetes-Cluster in verschiedenen Umgebungen betreibt und zentralisierte Verwaltung, konsistente Richtliniendurchsetzung und Multi-Cluster-Sichtbarkeit von einer einzelnen Steuerungsebene benötigt. Rancher Prime ist besonders wertvoll für Organisationen mit europäischen Datensouveränitätsanforderungen und Hybrid- oder Multi-Cloud-Kubernetes-Strategien. Wählen Sie Managed Kubernetes, wenn Sie einen einzelnen, geraden Kubernetes-Cluster ohne Multi-Cluster-Verwaltungsaufwand benötigen.

Häufige Anwendungsfälle

Praxisnahe Szenarien, in denen diese KI- und Container-Dienste eingesetzt werden:

  1. KI-gestützter Kundenservice mit RAG: Ein Unternehmen der Finanzdienstleistungen möchte einen intelligenten Support-Chatbot entwickeln, der Fragen auf Basis ihrer internen Wissensdatenbank aus Richtlinien, Verfahrensanweisungen und FAQs beantwortet. Mit Hilfe von AI Model Hub (Abschnitt 1.1) erzeugen sie Embeddings für ihre Dokumente mit einem Embedding-Modell aus dem Hub und speichern diese in einer Vektordatenbank, die auf IONOS CLOUD Managed PostgreSQL mit der pgvector-Erweiterung basiert. Sie erstellen eine RAG-Pipeline, die die Dokumentabfrage mit einem Large Language Model kombiniert. Wenn Kunden Fragen stellen, durchsucht das System die gespeicherten Dokumente nach relevanten Richtlinien und erzeugt präzise, kontextbewusste Antworten mit Hilfe des LLM. Das tokenbasierte Abrechnungsmodell und die DSGVO-konformen deutschen Rechenzentren (in Abschnitt 1.1 erwähnt) gewährleisten einen kosteneffizienten Betrieb und erfüllen gleichzeitig die regulatorischen Anforderungen für Finanzdaten.
  2. Microservices-Plattform mit Managed Kubernetes und Container Registry: Ein wachsendes E-Commerce-Startup deployt seine Anwendung als Microservices mit Managed Kubernetes (Abschnitt 2.1). Sie speichern alle ihre Container-Images in der Private Container Registry (Abschnitt 2.2), einschließlich der Images für ihren Produktkatalog-Dienst, ihren Zahlungsabwicklungsdienst und ihren Bestellmanagementdienst. Ihre CI/CD-Pipeline baut automatisch neue Images, wenn Entwickler Code committen, schiebt diese mit den entsprechenden Zugriffstokens in die Container Registry und löst rollierende Updates im Kubernetes-Cluster aus. Da IONOS CLOUD die Steuerungsebene von Kubernetes verwaltet (automatische Updates und Patches, wie in Abschnitt 2.1 beschrieben), kann das kleine DevOps-Team des Startups sich auf Anwendungsfunktionen konzentrieren, statt auf die Clusterwartung. Während der Hochsaison im Weihnachtsgeschäft skalieren sie die Node-Pools über den Kubernetes Manager hoch und skalieren sie nach dem Ansturm wieder herunter, wobei sie nur für die tatsächlich genutzten Ressourcen zahlen.
  3. Regulierte Unternehmen bei der Wahl einer Container-Plattform: Ein Gesundheitsunternehmen muss sein Patientenmanagementsystem containerisieren und gleichzeitig strenge Compliance-Anforderungen erfüllen. Sie bewerten die Container-Angebote von IONOS CLOUD: Managed Kubernetes (Abschnitt 2.1) bietet eine kosteneffiziente, unveränderte Kubernetes-Umgebung, doch ihr Compliance-Team verlangt eingebaute Sicherheits-Scans und Audit-Logging. Sie wählen Red Hat OpenShift (Abschnitt 2.3) wegen seiner unternehmensweiten Sicherheitskontrollen, der integrierten CI/CD-Pipeline und des Red Hat Supports für regulierte Workloads. Für ihren sekundären Analytics-Cluster, der in einer separaten Region läuft, fügen sie SUSE Rancher Prime (Abschnitt 2.4) hinzu, um beide Cluster von einer einzigen Steuerungsebene aus zu verwalten und eine konsistente Policy-Durchsetzung sicherzustellen.

Zusammenfassung

Diese Einheit hat zwei wesentliche Servicekategorien untersucht, die IONOS CLOUD über die Grundinfrastruktur hinaus erweitern. KI-Dienste bringen Machine-Learning-Fähigkeiten durch vortrainierte Basismodelle, die als verwaltete Inferenz-API bereitgestellt werden. Container-Dienste ermöglichen die moderne Anwendungsbereitstellung mit Managed Kubernetes und privaten Image-Registern.

AI Model Hub bietet sofortigen Zugriff auf vortrainierte Basismodelle in sechs Kategorien: große Sprachmodelle, Coding, Text-zu-Bild, OCR, Embedding und Reranking, für Inferenz ohne Infrastrukturverwaltung. RAG-Unterstützung und Tool-Calling-Fähigkeiten machen es zu einer vollständigen KI-Plattform, wobei neue RAG-Builds auf Hub-Embeddings plus IONOS Cloud Managed PostgreSQL und der pgvector-Erweiterung als Vektor-Speicher empfohlen werden. Der Service hält Daten in deutschen Rechenzentren für DSGVO-Compliance.

Managed Kubernetes bietet produktionsreife Container-Orchestrierung mit vollständig automatisierter Cluster-Bereitstellung, öffentlichen oder privaten Cluster-Deploymentmodellen, Node-Pool-Autoscaling und automatischen Updates. Red Hat OpenShift erweitert Kubernetes um Enterprise-Entwicklertools, CI/CD-Pipelines und erweiterte Sicherheit für regulierte Umgebungen. SUSE Rancher Prime bietet zentralisiertes Multi-Cluster-Kubernetes-Management mit policygesteuerter Governance und europäischer Datensouveränität. Private Container Registry bietet sichere Speicherung für Docker-Images und Helm-Charts mit Zugriffskontrolle und Verschlüsselung. Zusammen schaffen diese Dienste eine vollständige Plattform für moderne Microservices-Architekturen.

Wichtige Punkte:

  • AI Model Hub bietet vortrainierte Basismodelle in sechs Kategorien (LLMs, Coding, Embedding, Text-zu-Bild, OCR, Reranking) mit RAG-Unterstützung (empfohlen auf IONOS Cloud Managed PostgreSQL und pgvector) und Tool-Calling
  • Managed Kubernetes übernimmt das Management der Steuerungsebene, Updates und Hochverfügbarkeit mit öffentlichen oder privaten Cluster-Deploymentmodellen und Node-Pool-Autoscaling
  • Red Hat OpenShift bietet Enterprise-Kubernetes mit integrierten Entwicklerwerkzeugen, CI/CD und erweiterter Sicherheit
  • SUSE Rancher Prime ermöglicht zentralisiertes Multi-Cluster-Kubernetes-Management mit Policy-Governance und Datensouveränität
  • Private Container Registry bietet sichere, verschlüsselte Speicherung für Container-Images mit granularer Zugriffskontrolle

Wichtige Begriffe:

  • AI Model Hub: Inferenzdienst, der REST-API-Zugriff auf vortrainierte Basismodelle (LLMs, Coding, Embeddings, Text-zu-Bild, OCR, Reranking) mit Tool-Calling- und RAG-Fähigkeiten bietet
  • Managed Kubernetes: Vollautomatisierter Container-Orchestrierungsdienst mit verwalteter Steuerungsebene, öffentlichem oder privatem Cluster-Deployment, automatischen Updates und Hochverfügbarkeit
  • Red Hat OpenShift: Enterprise-Kubernetes-Plattform mit integrierten Entwicklerwerkzeugen, CI/CD-Pipelines und erweiterten Sicherheitsfunktionen
  • SUSE Rancher Prime: Souveräne Kubernetes-Managementplattform für zentralisierte Multi-Cluster-Operationen mit policygesteuerter Governance
  • Container Registry: Privater, verwalteter Docker/OCI-Artefakt-Speicher mit Authentifizierung, Zugriffskontrolle und Verschlüsselung bei Ruhe

Nächste Schritte

Weiter lernen: Einheit 2.8: Wissensprüfung - Architektur und Dienste

Verwandte Themen: