Projekt 3
KI-Hosting As A Service – Modulare, betreute KI-Infrastruktur im RZMD für vielfältige Anwendungsfälle
Wie war die Ausgangssituation?
Unternehmen, insbesondere kleine und mittelständische Unternehmen (KMU), stehen im Zuge der digitalen Transformation unter erheblichem Handlungsdruck und sind auf eine performante, leistungsstarke und „State of the Art“-IT-Infrastruktur angewiesen, um wettbewerbsfähig zu bleiben. Die Implementierung und der Betrieb komplexer KI-Anwendungen oder das Training großer KI-Modelle erfordert spezialisierte und hochperformante Hardware (wie GPUs), umfangreiches Fachwissen für die Einrichtung und Wartung sowie hohe Investitionen. Viele Unternehmen verfügen intern nicht über die notwendigen Ressourcen, das technische Know-how oder die Skalierbarkeit, um solche KI-Infrastrukturen selbst aufzubauen und effizient zu betreiben. Gleichzeitig bestehen oft Bedenken hinsichtlich der Datensicherheit und des Datenschutzes, insbesondere bei der Auslagerung in Clouds außerhalb der EU.
Welche Zielsetzungen wurden vorgegeben?
Das Rechenzentrum Mitteldeutschland (RZMD), als integraler Bestandteil der NT.AG, hat sich zum Ziel gesetzt, diesen Herausforderungen zu begegnen, indem es eine zugängliche, flexible und sichere KI-Infrastruktur als Dienstleistung anbietet. Die Hauptziele des KI-Hosting As A Service waren:
- Bereitstellung einer modularen KI-Infrastruktur: Schaffung eines Angebots, das unterschiedlichen KI-Anwendungsfällen und skalierbaren Leistungsanforderungen gerecht wird.
- Hohe Performance und Skalierbarkeit: Gewährleistung, dass die Infrastruktur sowohl für „Inference-Anfragen“ als auch für anspruchsvolles „KI Training/Learning“ geeignet ist und bei Bedarf flexibel erweitert werden kann.
- Betreuung durch Experten: Sicherstellung eines professionellen Betriebs, Monitorings und Supports durch erfahrene Administratoren und Fachexperten.
- Individuelle Anpassbarkeit: Die Möglichkeit, die KI-Infrastruktur individuell an die spezifischen Anforderungen jedes Kunden und Anwendungsfalls anzupassen.
- Maximale Sicherheit und Datenschutz: Gewährleistung eines DSGVO-konformen und sicheren Betriebs im eigenen Rechenzentrum in Mitteldeutschland.
- Kostenoptimierung: Ermöglichung des Zugangs zu modernster KI-Technologie ohne hohe Anfangsinvestitionen und mit planbaren Betriebskosten.
Wie wurde das Problem gelöst?
Das Rechenzentrum Mitteldeutschland bietet „KI-Hosting As A Service“ an, eine umfassende Lösung, die Unternehmen den Zugang zu hochmoderner KI-Infrastruktur ermöglicht, ohne dass diese selbst investieren oder betreiben müssen. Dies wird durch folgende Maßnahmen und Leistungsmerkmale realisiert:
- Modulare und skalierbare Infrastruktur: Es stehen verschiedene Konfigurationen zur Verfügung, die auf unterschiedliche Leistungsanforderungen zugeschnitten sind:
- KI Hosting mit CPU Power _ Entry: Ideal für „Inference-Anfragen“ und andere CPU-intensive KI-Anwendungen, basierend auf Hochleistungs-Enterprise-CPUs von Markenherstellern im Einzel- oder Clusterbetrieb.
- KI Hosting mit GPU Power _ Standard: Geeignet für „erweiterte Inference-Anfragen“ und „KI Training/Learning Standardanwendungen“ mit NVIDIA RTX 4090 GPUs, Intel Core i9-13900KS CPUs und 2 TB NVMe Speicher.
- KI Hosting mit GPU Power _ Advanced: Konzipiert für „KI Training/Learning mit erweitertem Performancebedarf“, inklusive 4x Nodes mit OKD oder Open-Shift Orchestrierung, 6 x NVIDIA Quadro 4000 GPUs im Clusterbetrieb, 128 GB RAM je Node, 25 Gbit/s Verbundnetz und 50 TB NVMe S3 Ceph / MinIO Speicher.
- KI Hosting mit GPU Power _ Professionell: Für „erweiterte high-power KI-Training/Learning Anwendungen“, ausgestattet mit NVIDIA H200 NVL GPUs (bis zu 4x pro Server, je 141 GB VRAM und 4,8 TB/s Speicherbandbreite), AMD Epyc CPUs mit 128 logischen Kernen, 1,2 TB RAM und 10 TB PCIe NVMe Speicher. Dieses Setup wurde bereits erfolgreich für ein KI-Training zur Dokumentenausrichtung eingesetzt, bei dem 7,8 Millionen synthetisch angepasste Dokumentenbilder verarbeitet wurden.
- Individuelle Anpassung: Die Module sind nach Bedarf individuell anpassbar, und die Preise werden je nach „Used-Case“, Nutzungsdauer und konkretem Anwendungsfall ermittelt.
- Umfassender Managed Service: Das Angebot umfasst „KI-Managed-Hosting“ mit NVIDIA GPU-Infrastruktur. Dies beinhaltet eine 24/7/365 Betriebsführung und Monitoring, eine eigene Hotline mit User Helpdesk (1st und 2nd Level Support) sowie „Helping-Hands Adminsupport“. Das RZMD bietet zudem professionelle Administrationsservices und Unterstützung beim Betrieb individueller IT-Infrastrukturen. Die NT.AG, zu der das RZMD gehört, kann auf über 20 Jahre Erfahrung in der Digitalisierung von Geschäftsprozessen zurückgreifen.
- Hohe Sicherheits- und Qualitätsstandards: Der Betrieb erfolgt in einem hochverfügbaren Rechenzentrum in Erfurt/Thüringen mit einem georedundanten Standort in Chemnitz. Das Rechenzentrum ist vom TÜV Saarland als hochverfügbar Stufe 3 tekPlus (unter Berücksichtigung der EN50600 und TIA-942) zertifiziert. Ein vom BSI zertifiziertes Informationssicherheitsmanagement-system (ISMS) nach ISO 27001 auf der Basis von IT-Grundschutz ergänzt das Sicherheitskonzept. Anwendungen und Daten können in diesem Rechenzentrum DSGVO-konform betrieben werden.
Sonstige Informationen:
Das KI-Hosting As A Service des Rechenzentrum Mitteldeutschland bietet leistungsfähige Angebote für Förderung von Künstlicher Intelligenz im deutschen Mittelstand aus Thüringen. Durch die Bereitstellung einer flexiblen, hochperformanten und umfassend betreuten KI-Infrastruktur ermöglicht es Unternehmen, innovative KI-Lösungen zu entwickeln und zu betreiben, ohne sich um die Komplexität der IT-Infrastruktur kümmern zu müssen. Die Kombination aus modernster Hardware, erfahrenem Support und höchsten Sicherheitsstandards im souveränen Rechenzentrum in Thüringen ermöglicht eine vertrauenswürdige und zukunftssichere Basis für die digitale Transformation. Dies unterstreicht die Rolle von KInet42 als „Schaufenster für praxisnahe, datenschutzkonforme KI-Lösungen aus Thüringen“.
