Frankfurt am Main · Wolfsburg · Ettlingen · Berlin · Rosenheim · München · Köln · Erfurt · Stuttgart · Hamburg
Lead Private AI Architect (w/m/x) - GenAI, LLM & Enterprise AI Platforms
externe stelle · zuletzt geprüft 1.11.2026
Fakten zur Stelle
- Erfahrung
- ab 5 Jahren
- Seniorität
- Lead
- Sprachen
- Deutsch · C1
- Arbeitsmodell
- Hybrid
- Orte
- Frankfurt am Main, Wolfsburg, Ettlingen, Berlin, Rosenheim, München, Köln, Erfurt, Stuttgart, Hamburg
der job in 20 sekunden
Lead Private AI Architect (GenAI, LLM, Enterprise AI Platforms)
Selbst betriebene KI-Plattformen für On-Premises-, Private-Cloud-, Hybrid- und Sovereign-AI-Umgebungen sind dein Feld: Du entwirfst LLM-, RAG- und Agentic-AI-Architekturen auf Open-Source-Basis und bringst sie mit Kubernetes und MLOps/LLMOps in Produktion. Verlangt werden 15+ Jahre IT-Erfahrung, davon mindestens fünf in AI/ML-Architektur, sowie Deutsch ab C1.
Wen sucht NTT DATA Deutschland SE wirklich?
Gesucht wird eine Person, die Enterprise-GenAI-Lösungen in Private-Cloud-, On-Premises- oder Hybrid-Umgebungen umgesetzt hat, Model Serving mit vLLM oder KServe sowie GPU-Infrastruktur mit CUDA beherrscht und Kunden zu Zero Trust und Datenhoheit berät.
Kernaufgaben
- 01Private-AI- und GenAI-Plattformen konzipieren, HLD/LLD, Blueprints und Referenzarchitekturen erstellen
- 02LLM-, RAG- und Agentic-AI-Architekturen auf Open-Source- und Self-hosted-Basis samt Inference-Architektur entwerfen
- 03AI-Plattformen mit Kubernetes und MLOps/LLMOps produktiv setzen, inkl. Evaluation, Monitoring und Governance
- 04Kunden als Trusted Advisor zu AI-Strategie und Plattformmodernisierung beraten, POCs und MVPs vorantreiben
- 05RFPs, Angebote und Aufwandsschätzungen verantworten, wiederverwendbare Private-AI-Accelerators aufbauen
Was du mitbringen solltest
Gefordert
- Machine Learning
- LLM
- Vector Databases
- Kubernetes
- Docker
- MLOps
- CUDA
- Kryptografie
- DevOps
- Agentic AI
- KServe
- vLLM
Arbeitsbedingungen & Benefits
- Vergütung & Vorsorge
- Altersvorsorge über den Arbeitgeber
- Mitarbeiterrabatte bei Corporate Benefits
- Arbeitszeit & Urlaub
- Gleitzeit; Reisezeit wird als Arbeitszeit gerechnet
- 30 Urlaubstage, dazu Heiligabend und Silvester frei
- Bis zu zwölf Monate Auszeit per Sabbatical
- Arbeitsort
- Remote arbeiten, auch aus anderen EU-Ländern
- Gesundheit
- Längere Lohnfortzahlung, wenn du krank bist
- Weltweiter Unfallschutz, auch bei Freizeitunfällen
- Weiterbildung
- Trainings und Zertifizierungen in der NTT DATA Academy, dazu Udemy
- Mobilität
- Dienstrad über JobRad und ein Jobticket
- Familie
- Unterstützung durch einen Familienservice
- Ausstattung
- Homeoffice-Vereinbarung mit Zuschuss, Arbeitsplatzausstattung inklusive
Rollenprofil
Solution-Architektur · Architektur
aus den Aufgaben erkannt, Beleg geprüft
- Umgebung
- hybrid
- Kundenkontakt
- regelmäßig Kundenkontakt
Worauf es bei der Erfahrung ankommt
- Wunsch: mindestens 5 Jahre Architekturerfahrung mit KI-Produkte & ML-Plattformen, Identity & Access Management oder Cloud, Hosting & InfrastrukturGenau diese Spezialisierung
„davon mindestens 5 Jahre in AI/ML-Architektur“
- Wunsch: mindestens 15 Jahre Architekturerfahrung aus der IT- oder SoftwarebrancheAllgemeine IT-/Softwareerfahrung reicht
„Du verfügst über 15+ Jahre IT-Erfahrung“
Softwaredomänen
- KI-Produkte & ML-Plattformenbestätigt
- Identity & Access Managementbestätigt
- Cloud, Hosting & Infrastrukturbestätigt
- Cybersecurity & Threat Detectionaus Firmenkontext abgeleitet
- Datenplattformen, BI & Analyticsaus Firmenkontext abgeleitet
- Telekommunikation & Netzwerkeaus Firmenkontext abgeleitet
Auch interessant für
- · ML-Plattform-Engineers mit Kubernetes-Erfahrung, die in eine Architektenrolle wollen
- · Infrastruktur-Architekt:innen mit GPU- und HPC-Hintergrund
- · GenAI-Lead-Engineers aus Produktfirmen, die Kunden beraten möchten
belege aus der stellenanzeige anzeigen
- Private-AI- und GenAI-Plattformen konzipieren, HLD/LLD, Blueprints und Referenzarchitekturen erstellen
„Du konzipierst Enterprise Private AI- und GenAI-Plattformen und entwickelst High-Level- und Low-Level-Designs, Blueprints sowie Referenzarchitekturen“
- LLM-, RAG- und Agentic-AI-Architekturen auf Open-Source- und Self-hosted-Basis samt Inference-Architektur entwerfen
„Du entwirfst leistungsfähige LLM-, RAG- und Agentic-AI-Architekturen auf Basis von Open-Source- und Self-hosted-Technologien“
- AI-Plattformen mit Kubernetes und MLOps/LLMOps produktiv setzen, inkl. Evaluation, Monitoring und Governance
„Du bringst AI-Plattformen mit Kubernetes, Containerisierung und MLOps/LLMOps in die Produktion“
- Kunden als Trusted Advisor zu AI-Strategie und Plattformmodernisierung beraten, POCs und MVPs vorantreiben
„Du begleitest unsere Kunden als Trusted Advisor bei AI-Strategie, Plattformmodernisierung, Infrastructure Readiness und AI Operating Models“
- RFPs, Angebote und Aufwandsschätzungen verantworten, wiederverwendbare Private-AI-Accelerators aufbauen
„übernimmst Verantwortung für RFPs, Angebote und Aufwandsschätzungen sowie wiederverwendbare Private-AI-Frameworks und Accelerators“
- Pflicht: Machine Learning
„Du verfügst über 15+ Jahre IT-Erfahrung, davon mindestens 5 Jahre in AI/ML-Architektur, und hast Enterprise-AI-/GenAI-Lösungen in Private-Cloud-, On-Premises- oder Hybrid-Umgebungen erfolgreich umgesetzt“
- Pflicht: LLM
„Du verfügst über 15+ Jahre IT-Erfahrung, davon mindestens 5 Jahre in AI/ML-Architektur, und hast Enterprise-AI-/GenAI-Lösungen in Private-Cloud-, On-Premises- oder Hybrid-Umgebungen erfolgreich umgesetzt“
- Pflicht: Vector Databases
„Du besitzt tiefgehende Expertise in LLMs, RAG, Vector Databases, Prompt Engineering und Agentic AI und kennst Frameworks wie LangChain, LlamaIndex, Haystack oder Semantic Kernel sowie Open-Source-Modelle wie Llama, Mistral, DeepSeek oder Qwen“
- Pflicht: Kubernetes
„Du beherrschst Kubernetes, Docker/OpenShift sowie MLOps/LLMOps und kennst Technologien wie MLflow, Kubeflow, KServe, Ray, vLLM oder Ollama sowie die Anforderungen an Evaluation, Tracing, Monitoring, Drift Detection und produktiven AI-Betrieb“
- Pflicht: Docker
„Du beherrschst Kubernetes, Docker/OpenShift sowie MLOps/LLMOps und kennst Technologien wie MLflow, Kubeflow, KServe, Ray, vLLM oder Ollama sowie die Anforderungen an Evaluation, Tracing, Monitoring, Drift Detection und produktiven AI-Betrieb“
- Pflicht: MLOps
„Du beherrschst Kubernetes, Docker/OpenShift sowie MLOps/LLMOps und kennst Technologien wie MLflow, Kubeflow, KServe, Ray, vLLM oder Ollama sowie die Anforderungen an Evaluation, Tracing, Monitoring, Drift Detection und produktiven AI-Betrieb“
- Pflicht: CUDA
„Du verstehst GPU- und AI-Infrastrukturen einschließlich NVIDIA Stack, CUDA, MIG, Model Serving, Quantisierung, Batching, Autoscaling, Distributed Inference/Training sowie Capacity Planning und kannst Performance, Latenz und Verfügbarkeit gezielt optimieren“
- Pflicht: Kryptografie
„Du verbindest Architekturkompetenz mit einem ausgeprägten Verständnis für Security, Privacy und Sovereign AI - von Zero Trust, IAM/RBAC und Verschlüsselung bis zu Data Residency und Regulatory Compliance - und überzeugst durch starke Stakeholder- und Beratungskompetenz sowie Deutschkenntnisse auf mi“
- Pflicht: DevOps
„Schlagworte: Technical Consulting, frontend, Frontend, DevOps, service-management, Servicemanagement, Netzwerkmanagement, Datenbank, Designer, designer, AI, network, KI, Datensicherheit, Grafiker, Datenschutz, Software-Design, Wireless, webdesigner, Webdesigner, Empfehlungsbund“
- Gleitzeit; Reisezeit wird als Arbeitszeit gerechnet
„Flexible Arbeitszeiten mit Gleitzeitregelung und Reisezeit ist Arbeitszeit“
- 30 Urlaubstage, dazu Heiligabend und Silvester frei
„30 Tage Urlaub, zusätzlich sind der 24.12. und 31.12. arbeitsfreie Tage“
- Bis zu zwölf Monate Auszeit per Sabbatical
„Sabbatical bis zu einem Jahr möglich“
- Remote arbeiten, auch aus anderen EU-Ländern
„Remote Work sowie mobiles Arbeiten im EU-Ausland möglich“
- Homeoffice-Vereinbarung mit Zuschuss, Arbeitsplatzausstattung inklusive
„Home-Office Möglichkeit sowie Vereinbarung mit Vergütungszuschuss inkl. Arbeitsplatzausstattung möglich“
- Altersvorsorge über den Arbeitgeber
„Entgeltoptimierungsprogramme: betriebliche Altersvorsorge“
- Dienstrad über JobRad und ein Jobticket
„JobRad, Jobticket“
- Mitarbeiterrabatte bei Corporate Benefits
„exklusive Rabatte über Corporate Benefits“
- Längere Lohnfortzahlung, wenn du krank bist
„verlängerte Entgeltfortzahlung im Krankheitsfall“
- Weltweiter Unfallschutz, auch bei Freizeitunfällen
„Unfallversicherung auch für Freizeitunfälle weltweit“
- Unterstützung durch einen Familienservice
„Familienservice“
- Trainings und Zertifizierungen in der NTT DATA Academy, dazu Udemy
„Weiterbildungsmöglichkeiten in der NTT DATA Academy mit fachlichen Trainings, Zertifizierungsangeboten, Soft-Skill-Schulungen, Udemy Zugang“
aufgaben
Berufsfelder
- Softwareentwicklung
anforderungen
Fähigkeiten
- Machine Learning
- LLM
- Vector Databases
- Kubernetes
- Docker
- MLOps
- CUDA
- Kryptografie
- DevOps
- Agentic AI
- KServe
- vLLM
originalanzeige
Die vollständige Beschreibung findest du in der Originalanzeige. Oben siehst du unsere eigene Analyse der Stelle.
Über NTT DATA Deutschland SE
NTT DATA Deutschland SE ist die DACH-Gesellschaft des globalen IT-Dienstleisters NTT DATA mit Sitz in München. Das Unternehmen bietet Beratung, Application Services, Cloud, Cybersecurity, Daten und Analytics, KI-Transformation sowie Business Process Services für Großunternehmen aus Branchen wie Automobil, Versicherungen, Banken, Gesundheitswesen und Fertigung.
Mehr über NTT DATA Deutschland SE