Softwareentwickler/in für Inferenz

🔥 vor 12 Stunden

🇪🇺 Europa – Remote

⏰ Vollzeit

🟡 Mittelstufe

🟠 Senior

🧑‍💻 Full-Stack-Entwickler

👻 Geisterscore 12%

Was es bedeutet: wie wahrscheinlich diese Stelle offen bleibt, ohne dass aktiv eingestellt wird.So liest du es: 60 % oder höher heißt, wir halten das für einen Geisterjob. Niedrigere Werte sind weniger bedenklich.Wie wir werten: Dauer offen, Neuveröffentlichungen, offene Stellen vs Teamgröße, wie schnell Stellen geschlossen werden, und ob ein Gehalt angegeben ist.Hinweis: eine Schätzung aus öffentlichen Daten, kein Urteil über das Unternehmen. Echte Stellen können hoch punkten, nutze es also als Hinweis, nicht als Fakt.

Jetzt Bewerben

Ähnliche Remote-Jobs finden

E-Mail-Benachrichtigung für neue Jobs einrichten

📊 Überprüfen Sie Ihre Lebenslauf-Bewertung für diese Stelle

Verbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.

Lebenslauf hochladen

Luma AI

WebsiteLinkedInAlle Stellen

2 - 10 Mitarbeiter

🤖 Künstliche Intelligenz

☁️ SaaS

📱 Medien

💰 €90.000.000 Series B im 2025-01

Artificial Intelligence • SaaS • Media

Luma AI ist ein in Palo Alto ansässiges Unternehmen, das multimodale generative KI-Modelle und kreative Workflow-Tools entwickelt, die sich auf die Produktion von Video, Bild, Audio und Text konzentrieren. Luma bietet Modelle und Produkte wie Ray (Videogenerierung), UNI-1/Uni-1. 1 (Markenintelligenzmodelle) und eine API/Unternehmenslösungen, die es kreativen Teams ermöglichen, cineastische Qualitätsassets mit Markenanpassung zu erzeugen, zu bearbeiten und zu steuern. Sie legen Wert auf Pionierforschung (Open Physical AI Lab), interne Modellentwicklung und Produkte für kreative Teams, Agenturen und Produktionsservices. Luma bietet zudem APIs, Unternehmenspläne, ein kreatives Partnerprogramm und Lernressourcen an.

Beschreibung

• Verantworten, wie die Modelle von Luma über die Integration in die Inference Engine, die Skalierung von Deployments und die Auslastung der GPU-Flotte bereitgestellt werden • Neue Modellarchitekturen in die Inference Engine integrieren • Mit den Bereichen Forschung, Engineering und Infrastruktur zusammenarbeiten, um Modelleffizienz und Deployments zu optimieren • Interne Tools zur Messung, Profilierung und Nachverfolgung von Inference-Jobs und Workflows entwickeln • Inference-Services für Verfügbarkeit und Zuverlässigkeit automatisieren, testen und warten • Inference-Workloads über Cluster und Hardwareanbieter hinweg verwalten und optimieren • Deployments über Tausende von Maschinen skalieren • Scheduling-Systeme entwickeln, die GPU-Ressourcen unter Einhaltung der SLOs optimal nutzen • CI/CD für Model-Checkpoints und SDKs betreiben und pflegen • In den ersten 30 Tagen den Inference-Stack kennenlernen und Zuverlässigkeits- oder Auslastungsprobleme diagnostizieren • Zwischen Tag 30 und 60 ein Modell integrieren oder Verbesserungen an Tools bzw. Scheduling umsetzen • Zwischen Tag 60 und 90 Deployment-Pipelines und Scheduling über Cluster und Anbieter hinweg stabilisieren und absichern

🎯 Anforderungen

• Sehr gute Kenntnisse in Python und Systemarchitektur • Erfahrung mit dem Deployment von Modellen mit PyTorch, Hugging Face, vLLM, SGLang, TensorRT-LLM oder vergleichbaren Technologien • Erfahrung mit Queues, Scheduling, Traffic-Steuerung und Flottenmanagement im großen Maßstab • Erfahrung mit Linux, Docker und Kubernetes • Erfahrung mit Orchestrierung, Deployment und Scheduling • Vertrautheit mit Redis und S3-kompatiblem Storage • Von Vorteil: moderne Netzwerk-Stacks einschließlich RDMA (RoCE, InfiniBand, NVLink) • Von Vorteil: hochperformante ML-Systeme im großen Maßstab (100+ GPUs) • Von Vorteil: CUDA sowie FFmpeg oder Multimedia-Verarbeitung

🏖️ Vorteile

• Arbeitgeber der Chancengleichheit • Die Teilnahme an einer freiwilligen Umfrage zu Vielfalt und Inklusion ist möglich; eine Nichtteilnahme hat keinen Einfluss auf die Bewerbung • Möglichkeit zur Remote-Arbeit