AI Platform Engineer

Job not on LinkedIn

🔥 0 minutes ago

🗣️🇩🇪 German Required

Apply Now
Find Similar Remote Jobs

📊 Check your resume score for this job

Improve your chances of getting an interview by checking your resume score before you apply.

Logo of DATAGROUP

DATAGROUP

1001 - 5000 employees

Founded 1983

🤝 B2B

☁️ SaaS

🔒 Cybersecurity

B2B • SaaS • Cybersecurity

DATAGROUP is a leading provider of IT outsourcing and consulting services, offering a comprehensive range of solutions including cloud services, application management, and IT security. With a strong focus on customer satisfaction and standardized services, DATAGROUP ensures a seamless IT operation for companies by providing modular and customizable solutions such as the CORBOX. Based in Germany, the company's operations are certified for security and quality, making it a reliable partner for diverse industries, including finance and public sector.

📋 Description

• Du entwickelst und betreibst unsere souveräne LLM-Plattform inklusive OpenAI-kompatiblem Gateway, Modell-Serving und GPU-Infrastruktur • Du implementierst kundenspezifische Wissensanbindungen (RAG) mit Vector-Datenbanken, Embeddings und Reranking • Du stellst Kostenkontrolle, Mandantentrennung, Datenschutz und Guardrails sicher • Du etablierst Monitoring und Observability für Performance, Qualität und Nutzung der KI-Dienste • Du betreibst und entwickelst unsere containerbasierte Plattform auf Basis von Docker, Coolify und Kubernetes weiter • Du automatisierst Deployments und verantwortest CI/CD-Prozesse für unsere Eigenentwicklungen • Du betreust unsere Linux-, Cloud- und Datenbank-Infrastruktur und sorgst für Stabilität, Sicherheit und Verfügbarkeit • Du baust Monitoring-, Logging- und Alerting-Lösungen auf und entwickelst diese weiter • Du gestaltest die Architektur unserer Plattform- und KI-Services aktiv mit • Du etablierst Infrastructure as Code und standardisierte Deployment-Prozesse • Du sorgst für datenschutzkonforme und mandantensichere Betriebsmodelle • Du dokumentierst Lösungen, teilst Wissen im Team und evaluierst neue Technologien im Bereich Platform Engineering und KI

🎯 Requirements

• Abgeschlossenes Studium der (Wirtschafts-) Informatik oder eine vergleichbare Qualifikation • Mehrjährige Erfahrung im DevOps-, Plattform-Engineering- oder Cloud-/Infrastruktur-Umfeld • Fundierte Praxiserfahrung im Betrieb containerbasierter Anwendungen und moderner Plattformen • Erfahrung im Aufbau und produktiven Betrieb von LLM- und KI-Diensten, idealerweise in selbst gehosteten Umgebungen • Sehr gute Kenntnisse in Kubernetes, Docker und Linux • Erfahrung mit CI/CD-Pipelines, Cloud-Plattformen (insbesondere Azure) sowie PostgreSQL • Praktische Erfahrung mit LLM-Gateways, RAG-Architekturen, Vector-Datenbanken und Modell-Serving-Lösungen • Solide Python-Kenntnisse für Automatisierung und Integrationen • Eigenständige und strukturierte Arbeitsweise mit hoher Eigenverantwortung sowie Sicherheits- und Datenschutzbewusstsein • Ausgeprägtes Architektur- und Platformverständnis

🏖️ Benefits

• Offene und kooperative Unternehmenskultur • Vertrauensvolle Arbeitsatmosphäre • Umfassende Einarbeitung mit Unterstützung des gesamten AIS Teams • Flache Hierarchien und kurze Entscheidungswege • Strategische Gestaltungsrolle mit großem Einfluss auf die zukünftige Plattformlandschaft • Mitarbeit an einem der spannendsten Technologiefelder der IT: souveränes LLM-Hosting und KI-Infrastrukturen • Moderne Infrastruktur mit Kubernetes, Docker, CI/CD und Cloud-Technologien • Möglichkeit, Standards, Prozesse und Architekturentscheidungen aktiv mitzugestalten • Individuelles Weiterbildungsbudget für Konferenzen, Zertifizierungen und Fachtrainings • Klare Karriere- und Entwicklungspfade • Möglichkeit zur Spezialisierung als AI Platform Engineer bzw. LLMOps-Experte • Kleines, fokussiertes und agiles Team mit kurzen Entscheidungswegen • Offene Feedback-Kultur mit regelmäßigen 1:1-Gesprächen und Retrospektiven

Apply Now

Similar Jobs

🔥 1 hour ago

Defense Unicorns

51 - 200

🔒 Cybersecurity

Senior Platform Engineer tasked with designing and operating effective environments for Army software development. Role supports mission-focused software capabilities at Defense Unicorns.

🇺🇸 United States – Remote

💵 $148.8k - $201.3k / year

💰 Seed Round on 2022-10

⏰ Full Time

🟠 Senior

🏗️ Platform Engineer

🔥 1 hour ago

Huron

5001 - 10000

🤝 B2B

🏢 Enterprise

💸 Finance

Platform Engineer managing CI/CD pipelines and AI systems at Huron Consulting Group. Overseeing deployment, monitoring, and reusable development components for efficient pod development.

🔥 1 hour ago

National Geographic Society

501 - 1000

🤝 Non-profit

📚 Education

🔬 Science

Sr. Platform Engineer responsible for media technology at National Geographic. Managing digital asset management platform development and support for media activities.

🔥 2 hours ago

Leidos

10,000+ employees

🔒 Cybersecurity

🔬 Science

Power Platform Developer supporting a high-visibility federal healthcare program. Developing model-driven apps and collaborating with teams in a fast-paced environment.

🔥 2 hours ago

Pindrop

201 - 500

🔒 Cybersecurity

📡 Telecommunications

💸 Finance

Senior Software Engineer responsible for backend services at Pindrop. Designing and improving high-scale systems for customer interactions.