Back to search

AI Solution Architect

Design and implement AI/ML solutions from concept to production, build MLOps pipelines, optimize models, ensure compliance and security, coach and mentor engineers.

  • Köln, Nordrhein-Westfalen, Germany
  • Posted Sep 23, 2026
INDUSTRYSoftware & InternetSaaS & Enterprise SoftwareAI & Machine LearningCloud & DevOps

Responsibilities

  • Konzeption, Entwicklung und Skalierung von Enterprise AI-/ML-Lösungen
  • Aufbau und Optimierung von MLOps-Pipelines (CI/CD, Deployment, Monitoring, Retraining)
  • Performance-Optimierung und Orchestrierung von Modellen in produktiven Umgebungen
  • Sicherstellung von Robustheit, Fairness, Compliance und Security in AI-Anwendungen
  • Enge Zusammenarbeit mit Data Scientists & Engineers bei Datenpipelines, Feature Stores und Modellvalidierung
  • Auswahl und Integration moderner Tools, Frameworks und Architekturen
  • Mitgestaltung von Standards, Best Practices und strategischer Roadmap im Bereich AI/ML
  • Coaching und Mentoring von Junior- und Mid-Level-Engineers

Requirements

  • Abgeschlossenes Studium in Informatik, Mathematik, Data Science oder vergleichbarer Fachrichtung
  • Experience in a SaaS & Enterprise Software
  • Experience in a AI & Machine Learning
  • Experience in a Cloud & DevOps

Nice to have: Clean Code, Design Patterns, Testing, Scrum, CRISP-DM, Llama.cpp, Ollama, vLLM, Unsloth, PyTorch, scikit-learn, OpenCV, Datenanalyse, Zertifizierungen in AI, ML, Cloud oder Software-Engineering

Skills

GenAILLMsMLMsRAGLangChainLangGraphHaystackPythonCI/CD-PipelinesAzureAWSGCPDatabricksDockerKubernetesTerraformMLflowDeploymentObservabilityGovernanceDSGVOISO/IEC 27001/27701TISAXEnterprise SearchTestautomatisierungCoding AgentsStatistikTableauRLangChainLangGraphHaystackPythonCI/CDAzureAWSGCPDatabricksDockerKubernetesTerraformMLflowTableau

Benefits

  • Gleitzeit
  • Onboarding
  • Home-Office-Möglichkeiten
  • Mitarbeiter-Benefits
  • Weiterbildungsmöglichkeiten

Full description

Übersicht Als AI Solution Architect gestaltest du innovative ML-/AI-Lösungen von der Konzeption bis zur Produktion. Du baust moderne MLOps-Pipelines, optimierst Modelle für Performance und Skalierbarkeit und stellst Compliance sowie Security sicher. Gemeinsam mit Data Scientists, Engineers und Stakeholdern treibst du AI-Innovationen voran und unterstützt das Team durch Coaching und Mentoring. Verantwortlichkeiten Konzeption, Entwicklung und Skalierung von Enterprise AI-/ML-Lösungen Aufbau und Optimierung von MLOps-Pipelines (CI/CD, Deployment, Monitoring, Retraining) Performance-Optimierung und Orchestrierung von Modellen in produktiven Umgebungen Sicherstellung von Robustheit, Fairness, Compliance und Security in AI-Anwendungen Enge Zusammenarbeit mit Data Scientists & Engineers bei Datenpipelines, Feature Stores und Modellvalidierung Auswahl und Integration moderner Tools, Frameworks und Architekturen Mitgestaltung von Standards, Best Practices und strategischer Roadmap im Bereich AI/ML Coaching und Mentoring von Junior- und Mid-Level-Engineers Qualifikationen Mehrjährige Erfahrung in Architektur, Implementierung und Betrieb von AI-/ML-Lösungen Fundierte Kenntnisse in GenAI, LLMs, MLMs und RAG (Architektur, Prompt Engineering, Fine-Tuning, Agent-Orchestrierung) Erfahrung mit gängigen Frameworks wie LangChain, LangGraph oder Haystack Sehr gute Programmierkenntnisse in Python sowie Praxis mit CI/CD-Pipelines Know-how in Cloud-Umgebungen (z. B. Azure, AWS, GCP, Databricks), Container-Technologien (Docker, Kubernetes) und IaC (Terraform) Vertrautheit mit MLOps (MLflow, Deployment, Observability, Governance) Kenntnisse in Compliance & Security (z. B. DSGVO, ISO/IEC 27001/27701, TISAX) Erfahrung in der Konzeption digitaler Lösungen und in der Präsentation vor Kunde Erforderliche Fähigkeiten Abgeschlossenes Studium in Informatik, Mathematik, Data Science oder vergleichbarer Fachrichtung Fließende Deutschkenntnisse (mindestens C1-Niveau) sowie gute Englischkenntnisse sind erforderlich Gewünschte Fähigkeiten Kenntnisse in Software-Engineering (Clean Code, Design Patterns, Testing) Erfahrung in Projekt- oder Team-Management (Scrum, CRISP-DM) Praxis mit lokalen LLMs (Llama.cpp, Ollama, vLLM, Unsloth) und gängigen ML-Bibliotheken (PyTorch, scikit-learn, OpenCV) Erfahrung im Aufbau von AI-Plattformen (Enterprise Search, Testautomatisierung, Coding Agents) Know-how in Datenanalyse (Statistik, Tableau, R) Zertifizierungen in AI, ML, Cloud oder Software-Engineering Leistungen Bei Expleo setzen wir auf Teamwork, Offenheit, Transparenz und Wertschätzung. Wir gehen unsere Aufgaben gemeinsam an Bei uns erwartet dich ein internationales und multikulturelles Team Bei uns sind alle gleich und wir tragen alle die gleiche Farbe: LILA! Wir bieten dir Gleitzeit, ein ausführliches Onboarding, Home-Office-Möglichkeiten und unzählige Mitarbeiter-Benefits. Wir bieten einen Arbeitsplatz, der deine persönlichen Lebensumstände berücksichtigt und dich absichert Man lernt nie aus: Deine Weiterentwicklung liegt uns sehr am Herzen. Wir bieten interne Aus- und Weiterbildungsmöglichkeiten und unterstützen dich und deine perspektivischen Ziele Wir haben Lust etwas zu bewegen, uns gegenseitig zu motivieren und freuen uns, wenn auch du deinen Teil zum großen Ganzen beitragen: Deine Erfahrung, deine Ideen und dein Engagement finden bei uns Gehör und werden honoriert Unsere Kunden können sich nicht nur sehen lassen; sie gehören zu den Top-Playern ihrer Branchen, in den Bereichen Banken und Versicherungen, Automotive, Luftfahrt, Transport, Life Science und viele mehr Das soziale Miteinander ist uns wichtig. Wir setzen auf Teambuilding und Identifikation Du willst mehr über uns wissen? Besuche einfach unseren Youtube-Kanal und schau Dir unsere Videos an. Wir freuen uns über Deine Bewerbung und darauf, Dich persönlich kennenzulernen.

AI Solution Architect at Expleo | Referso Jobs