AI Platform Engineer

🕒 July 11

Apply Now

Find Similar Remote Jobs

Set Up Email Alert For New Jobs

📊 Check your resume score for this job

Improve your chances of getting an interview by checking your resume score before you apply.

Upload Resume

DATAGROUP

WebsiteLinkedInAll Job Openings

1001 - 5000 employees

Founded 1983

💼 Consulting

📣 Marketing

☁️ SaaS

Consulting • Marketing • SaaS

DATAGROUP is a leading provider of IT outsourcing and consulting services, offering a comprehensive range of solutions including cloud services, application management, and IT security. With a strong focus on customer satisfaction and standardized services, DATAGROUP ensures a seamless IT operation for companies by providing modular and customizable solutions such as the CORBOX. Based in Germany, the company's operations are certified for security and quality, making it a reliable partner for diverse industries, including finance and public sector.

📋 Description

• Du entwickelst und betreibst unsere souveräne LLM-Plattform inklusive OpenAI-kompatiblem Gateway, Modell-Serving und GPU-Infrastruktur • Du implementierst kundenspezifische Wissensanbindungen (RAG) mit Vector-Datenbanken, Embeddings und Reranking • Du stellst Kostenkontrolle, Mandantentrennung, Datenschutz und Guardrails sicher • Du etablierst Monitoring und Observability für Performance, Qualität und Nutzung der KI-Dienste • Du betreibst und entwickelst unsere containerbasierte Plattform auf Basis von Docker, Coolify und Kubernetes weiter • Du automatisierst Deployments und verantwortest CI/CD-Prozesse für unsere Eigenentwicklungen • Du betreust unsere Linux-, Cloud- und Datenbank-Infrastruktur und sorgst für Stabilität, Sicherheit und Verfügbarkeit • Du baust Monitoring-, Logging- und Alerting-Lösungen auf und entwickelst diese weiter • Du gestaltest die Architektur unserer Plattform- und KI-Services aktiv mit • Du etablierst Infrastructure as Code und standardisierte Deployment-Prozesse • Du sorgst für datenschutzkonforme und mandantensichere Betriebsmodelle • Du dokumentierst Lösungen, teilst Wissen im Team und evaluierst neue Technologien im Bereich Platform Engineering und KI

🎯 Requirements

• Abgeschlossenes Studium der (Wirtschafts-) Informatik oder eine vergleichbare Qualifikation • Mehrjährige Erfahrung im DevOps-, Plattform-Engineering- oder Cloud-/Infrastruktur-Umfeld • Fundierte Praxiserfahrung im Betrieb containerbasierter Anwendungen und moderner Plattformen • Erfahrung im Aufbau und produktiven Betrieb von LLM- und KI-Diensten, idealerweise in selbst gehosteten Umgebungen • Sehr gute Kenntnisse in Kubernetes, Docker und Linux • Erfahrung mit CI/CD-Pipelines, Cloud-Plattformen (insbesondere Azure) sowie PostgreSQL • Praktische Erfahrung mit LLM-Gateways, RAG-Architekturen, Vector-Datenbanken und Modell-Serving-Lösungen • Solide Python-Kenntnisse für Automatisierung und Integrationen • Eigenständige und strukturierte Arbeitsweise mit hoher Eigenverantwortung sowie Sicherheits- und Datenschutzbewusstsein • Ausgeprägtes Architektur- und Platformverständnis

🏖️ Benefits

• Offene und kooperative Unternehmenskultur • Vertrauensvolle Arbeitsatmosphäre • Umfassende Einarbeitung mit Unterstützung des gesamten AIS Teams • Flache Hierarchien und kurze Entscheidungswege • Strategische Gestaltungsrolle mit großem Einfluss auf die zukünftige Plattformlandschaft • Mitarbeit an einem der spannendsten Technologiefelder der IT: souveränes LLM-Hosting und KI-Infrastrukturen • Moderne Infrastruktur mit Kubernetes, Docker, CI/CD und Cloud-Technologien • Möglichkeit, Standards, Prozesse und Architekturentscheidungen aktiv mitzugestalten • Individuelles Weiterbildungsbudget für Konferenzen, Zertifizierungen und Fachtrainings • Klare Karriere- und Entwicklungspfade • Möglichkeit zur Spezialisierung als AI Platform Engineer bzw. LLMOps-Experte • Kleines, fokussiertes und agiles Team mit kurzen Entscheidungswegen • Offene Feedback-Kultur mit regelmäßigen 1:1-Gesprächen und Retrospektiven