About this role
Du möchtest die Entwicklung innovativer KI-Lösungen aktiv mitgestalten? Als Senior DevOps Engineer berätst du beim Aufbau einer modernen GenAI-Plattform und bringst deine technische Expertise in deren Konzeption und Umsetzung ein. In einem interdisziplinären DevOps-Team aus Data Scientists, Business Engineers und DevOps Engineers entwickelst du gemeinsam zukunftsorientierte Lösungen und treibst den Aufbau der Plattform voran. Hauptaufgaben: Konfiguration und Verwaltung von Azure Cloud-Ressourcen insbesondere API Management, Foundry, OpenAI, AI Search, Document Intelligence sowie Kubernetes-basierten Applikationen wie Langfuse als "Infrastructure-as-Code" mit Terraform, HelmChart und Gitlab Automatisierung von Build-, Test- und Release-Prozessen für GenAI-Anwendungen (LLMOps), um häufige und zuverlässige Releases in Entwicklungs-, Test- und Produktionsumgebungen sicherzustellen Mitarbeit bei der Ausarbeitung von technischen Konzepten für die Umsetzung neuer Anforderungen an die GenAI Plattform, sowie derer laufenden Weiterentwicklung und Optimierung.
Dabei sind alle Komponenten (Datenbanken, LLM-Modelle und andere AI-Services, Anwendungen), Aufwände, der laufende Betrieb mit diversen Client Applikationen und insbesondere die unternehmensweiten und regulatorischen Vorgaben zu berücksichtigen und abzustimmen. Implementierung von Mechanismen für das Monitoring und die Alarmierung (z. B. Grafana und Azure Dashboard), um die Stabilität und Effizienz der Plattform zu gewährleisten Support der Client Applikation bei konzeptionellen Fragen, Integrationen (Onboarding) sowie bei Problemen im Betrieb Überwachung der Systemleistung, Betriebszeit und Protokolle, um Probleme frühzeitig zu erkennen und zu beheben Neu- und Weiterentwicklung von code-basierten Umsetzungen für beispielweise Autorisierungsprüfung, Logging/Monitoring, Routinglogiken, Guardrails-Validierungen mit Java, Python, XML, C# (APIM Policies)