Erfurt · Ettlingen · Stuttgart · Wolfsburg · Frankfurt am Main · Hamburg · Rosenheim · Köln · München · Berlin
Forward Deployed Engineer (w/m/x) - AI & Enterprise Solutions 1 1
externe stelle · zuletzt geprüft 1.11.2026
Fakten zur Stelle
- Erfahrung
- ab 5 Jahren
- Sprachen
- Deutsch · C1
- Arbeitsmodell
- Hybrid
- Orte
- Erfurt, Ettlingen, Stuttgart, Wolfsburg, Frankfurt am Main, Hamburg, Rosenheim, Köln, München, Berlin
der job in 20 sekunden
Forward Deployed Engineer (Private AI Architect)
Trotz des Titels beschreibt die Anzeige einen Private AI Architect: Du baust selbst gehostete GenAI-Plattformen für On-Premises-, Private-Cloud- und Sovereign-Umgebungen und bringst LLM-, RAG- und Agenten-Lösungen mit Kubernetes, LLMOps und GPU-Tuning in Produktion. Verlangt sind 10 bis 13 Jahre IT-Erfahrung, davon mindestens 5 in AI/ML-Architektur, sowie Deutsch auf C1-Niveau.
Wen sucht NTT DATA Deutschland SE wirklich?
Gesucht wird eine Person, die Enterprise-GenAI-Lösungen bereits in Private-Cloud-, On-Premises- oder Hybrid-Umgebungen umgesetzt hat und Frameworks wie LangChain oder LlamaIndex, Model Serving mit vLLM oder KServe sowie den NVIDIA-Stack praktisch beherrscht.
Kernaufgaben
- 01Private-AI- und GenAI-Plattformen auf Open-Source-Basis designen und implementieren, inkl. Referenzarchitekturen
- 02LLM-, RAG- und Agentic-AI-Lösungen von Ingestion bis Evaluation entwickeln
- 03AI-Plattformen mit Kubernetes und MLOps/LLMOps betreiben: Deployment, Monitoring, Troubleshooting
- 04Self-hosted Foundation Models optimieren (GPU-Auslastung, Quantisierung, Batching, Latenz)
- 05Kunden zu AI-Strategie beraten, POCs/MVPs treiben, RFPs und Aufwandsschätzungen unterstützen
Was du mitbringen solltest
Gefordert
- Machine Learning
- LLM
- Vector Databases
- Kubernetes
- Docker
- MLOps
- CUDA
- Distributed Systems
- DevOps
- Agentic AI
- vLLM
Arbeitsbedingungen & Benefits
- Vergütung & Vorsorge
- Firmenrente (betriebliche Altersvorsorge)
- Vergünstigungen über die Rabattplattform Corporate Benefits
- Arbeitszeit & Urlaub
- Gleitzeit; Dienstreisezeit zählt als Arbeitszeit
- 30 Urlaubstage, Heiligabend und Silvester zusätzlich frei
- Auszeit (Sabbatical) von bis zu zwölf Monaten
- Arbeitsort
- Remote und mobil arbeiten, auch aus anderen EU-Staaten
- Gesundheit
- Längere Lohnfortzahlung bei Krankheit
- Betriebsarzt und Unfallschutz auch in der Freizeit, weltweit
- Weiterbildung
- Kurse in der NTT DATA Academy, Zertifizierungen und Udemy-Lizenz
- Mobilität
- Dienstrad über JobRad sowie ein Jobticket
- Familie
- Familienservice des Arbeitgebers
- Ausstattung
- Homeoffice-Vereinbarung mit Zuschuss und Ausstattung für den Arbeitsplatz
Rollenprofil
Backend-Entwicklung · Softwareentwicklung
aus dem Stellentitel
- Arbeitsumfeld
- Kundenprojekte (IT-Dienstleister, Beratung)
- Kundenkontakt
- regelmäßig Kundenkontakt
Worauf es bei der Erfahrung ankommt
- Wunsch: mindestens 5 Jahre Erfahrung mit Daten mit KI-Produkte & ML-Plattformen oder Cloud, Hosting & InfrastrukturGenau diese Spezialisierung
„Du verfügst über 10-13 Jahre IT-Erfahrung, davon mindestens 5 Jahre in AI/ML-Architektur“
- Wunsch: mindestens 10 Jahre Erfahrung mit Daten aus der IT- oder SoftwarebrancheAllgemeine IT-/Softwareerfahrung reicht
„Du verfügst über 10-13 Jahre IT-Erfahrung“
- Wunsch: Erfahrung mit Daten mit KI-Produkte & ML-PlattformenGenau diese Spezialisierung
„Du bist sicher im Umgang mit Kubernetes, Docker/OpenShift und MLOps/LLMOps“
Softwaredomänen
- KI-Produkte & ML-Plattformenbestätigt
- Cloud, Hosting & Infrastrukturbestätigt
- Cybersecurity & Threat Detectionaus Firmenkontext abgeleitet
- Datenplattformen, BI & Analyticsaus Firmenkontext abgeleitet
- Telekommunikation & Netzwerkeaus Firmenkontext abgeleitet
- Mobility & Automotive-Softwareaus Firmenkontext abgeleitet
Auch interessant für
- · MLOps- oder Platform Engineers mit Erfahrung im LLM-Serving
- · Cloud-Architekt:innen mit Spezialisierung auf souveräne KI-Infrastruktur
- · ML Engineers aus Produktfirmen mit GPU- und Inference-Erfahrung
belege aus der stellenanzeige anzeigen
- Private-AI- und GenAI-Plattformen auf Open-Source-Basis designen und implementieren, inkl. Referenzarchitekturen
„Du designst, entwickelst, konfigurierst und implementierst Private-AI- und GenAI-Plattformen auf Basis von Open-Source- und Self-hosted-Technologien“
- LLM-, RAG- und Agentic-AI-Lösungen von Ingestion bis Evaluation entwickeln
„Du entwickelst und implementierst LLM-, RAG- und Agentic-AI-Lösungen - von Ingestion Pipelines und Vector Databases über Tool Integrations und Orchestrierung bis hin zu Evaluation Components.“
- AI-Plattformen mit Kubernetes und MLOps/LLMOps betreiben: Deployment, Monitoring, Troubleshooting
„Du bringst AI-Plattformen mit Kubernetes, Containerisierung und MLOps/LLMOps zuverlässig in den produktiven Betrieb“
- Self-hosted Foundation Models optimieren (GPU-Auslastung, Quantisierung, Batching, Latenz)
„Du deployest und optimierst Self-hosted Foundation Models und Enterprise-AI-Workloads und verbesserst GPU Utilization, Quantization, Batching, Autoscaling und Latenz“
- Kunden zu AI-Strategie beraten, POCs/MVPs treiben, RFPs und Aufwandsschätzungen unterstützen
„treibst POCs und MVPs voran und bringst deine Expertise in RFPs, Angebote und Aufwandsschätzungen ein.“
- Pflicht: Machine Learning
„Du verfügst über 10-13 Jahre IT-Erfahrung, davon mindestens 5 Jahre in AI/ML-Architektur, und hast Enterprise-AI-/GenAI-Lösungen in Private-Cloud-, On-Premises- oder Hybrid-Umgebungen erfolgreich umgesetzt“
- Pflicht: LLM
„Du verfügst über 10-13 Jahre IT-Erfahrung, davon mindestens 5 Jahre in AI/ML-Architektur, und hast Enterprise-AI-/GenAI-Lösungen in Private-Cloud-, On-Premises- oder Hybrid-Umgebungen erfolgreich umgesetzt“
- Pflicht: Vector Databases
„Du bringst ausgeprägte Hands-on-Erfahrung mit Private AI und GenAI mit und beherrschst LLMs, RAG, Vector Databases, Prompt Engineering und Agentic AI sowie Frameworks wie LangChain, LlamaIndex, Haystack oder Semantic Kernel und Open-Source-Modelle wie Llama, Mistral, DeepSeek oder Qwen“
- Pflicht: Kubernetes
„Du bist sicher im Umgang mit Kubernetes, Docker/OpenShift und MLOps/LLMOps und kennst Technologien wie MLflow, Kubeflow, KServe, Ray, vLLM oder Ollama sowie Evaluation, Tracing, Monitoring, Drift Detection und Production Support“
- Pflicht: Docker
„Du bist sicher im Umgang mit Kubernetes, Docker/OpenShift und MLOps/LLMOps und kennst Technologien wie MLflow, Kubeflow, KServe, Ray, vLLM oder Ollama sowie Evaluation, Tracing, Monitoring, Drift Detection und Production Support“
- Pflicht: MLOps
„Du bist sicher im Umgang mit Kubernetes, Docker/OpenShift und MLOps/LLMOps und kennst Technologien wie MLflow, Kubeflow, KServe, Ray, vLLM oder Ollama sowie Evaluation, Tracing, Monitoring, Drift Detection und Production Support“
- Pflicht: CUDA
„Du kennst dich mit GPU- und AI-Infrastrukturen aus - einschließlich NVIDIA Stack, CUDA, MIG, Model Serving, Quantization, Distributed Inference/Training, Storage und Networking - und kannst AI-Workloads hinsichtlich Performance, Skalierbarkeit und Verfügbarkeit optimieren“
- Pflicht: Distributed Systems
„Du kennst dich mit GPU- und AI-Infrastrukturen aus - einschließlich NVIDIA Stack, CUDA, MIG, Model Serving, Quantization, Distributed Inference/Training, Storage und Networking - und kannst AI-Workloads hinsichtlich Performance, Skalierbarkeit und Verfügbarkeit optimieren“
- Pflicht: DevOps
„Schlagworte: Technical Consulting, frontend, Frontend, DevOps, service-management, Servicemanagement, Netzwerkmanagement, Datenbank, Designer, designer, AI, network, KI, Grafiker, Software-Design, Wireless, webdesigner, Webdesigner, Webdesign, webdesign, Empfehlungsbund“
- Gleitzeit; Dienstreisezeit zählt als Arbeitszeit
„Flexible Arbeitszeiten mit Gleitzeitregelung und Reisezeit ist Arbeitszeit“
- 30 Urlaubstage, Heiligabend und Silvester zusätzlich frei
„30 Tage Urlaub, zusätzlich sind der 24.12. und 31.12. arbeitsfreie Tage“
- Auszeit (Sabbatical) von bis zu zwölf Monaten
„Sabbatical bis zu einem Jahr möglich“
- Remote und mobil arbeiten, auch aus anderen EU-Staaten
„Remote Work sowie mobiles Arbeiten im EU-Ausland möglich“
- Homeoffice-Vereinbarung mit Zuschuss und Ausstattung für den Arbeitsplatz
„Home-Office Möglichkeit sowie Vereinbarung mit Vergütungszuschuss inkl. Arbeitsplatzausstattung möglich“
- Firmenrente (betriebliche Altersvorsorge)
„betriebliche Altersvorsorge, JobRad, Jobticket“
- Dienstrad über JobRad sowie ein Jobticket
„JobRad, Jobticket“
- Vergünstigungen über die Rabattplattform Corporate Benefits
„exklusive Rabatte über Corporate Benefits“
- Längere Lohnfortzahlung bei Krankheit
„verlängerte Entgeltfortzahlung im Krankheitsfall“
- Betriebsarzt und Unfallschutz auch in der Freizeit, weltweit
„Betriebsärztliche Betreuung, Unfallversicherung auch für Freizeitunfälle weltweit“
- Familienservice des Arbeitgebers
„Familienservice“
- Kurse in der NTT DATA Academy, Zertifizierungen und Udemy-Lizenz
„Interne und externe Weiterbildungsmöglichkeiten in der NTT DATA Academy mit fachlichen Trainings, Zertifizierungsangeboten, Soft-Skill-Schulungen, Udemy Zugang“
aufgaben
Berufsfelder
- Softwareentwicklung
anforderungen
Fähigkeiten
- Machine Learning
- LLM
- Vector Databases
- Kubernetes
- Docker
- MLOps
- CUDA
- Distributed Systems
- DevOps
- Agentic AI
- vLLM
originalanzeige
Die vollständige Beschreibung findest du in der Originalanzeige. Oben siehst du unsere eigene Analyse der Stelle.
Über NTT DATA Deutschland SE
NTT DATA Deutschland SE ist die DACH-Gesellschaft des globalen IT-Dienstleisters NTT DATA mit Sitz in München. Das Unternehmen bietet Beratung, Application Services, Cloud, Cybersecurity, Daten und Analytics, KI-Transformation sowie Business Process Services für Großunternehmen aus Branchen wie Automobil, Versicherungen, Banken, Gesundheitswesen und Fertigung.
Mehr über NTT DATA Deutschland SE