Senior / Lead Machine Learning Engineer, Inference

🕒 il y a 12 jours

🇩🇪 Allemagne – Télétravail

⏰ Temps Plein

🟠 Senior

🤖 Ingénieur Machine Learning

👻 Score fantôme 23%

Ce que ça veut dire : la probabilité que cette offre reste ouverte sans recrutement actif.Comment le lire : 60 % ou plus, on pense que c'est une offre fantôme. Un score plus bas est moins inquiétant.Comment on la calcule : ancienneté, republications, postes ouverts vs taille de l'équipe, rapidité de clôture, et si le salaire est indiqué.À noter : une estimation à partir de données publiques, pas un jugement sur l'entreprise. De vraies offres peuvent avoir un score élevé, alors prenez-le comme un indice, pas comme un fait.

Postuler Maintenant

Trouver des Emplois à Distance Similaires

Configurer une alerte email pour les nouveaux emplois

📊 Vérifiez votre score de CV pour ce poste

Améliorez vos chances d'obtenir un entretien en vérifiant votre score de CV avant de postuler.

Télécharger le CV

Inworld AI

Site WebLinkedInTous les Emplois

51 - 200 employés

Fondée en 2021

💼 Conseil

🤖 Intelligence artificielle

🔌 API

💰 €50 000 000 Series A en 2022-08

Consulting • Artificial Intelligence • API

Inworld AI est une plateforme d'IA conversationnelle axée sur les développeurs qui offre une infrastructure adaptable en temps réel, indépendante du fournisseur, ainsi qu'une synthèse vocale de haute qualité pour créer des agents vocaux expressifs et des personnages virtuels. Elle propose une voix en streaming multilingue à faible latence, des clones instantanés, des contrôles émotionnels et non verbaux, et une couche d'intégration via API avec des modèles et des pipelines optimisés pour l'échelle et le coût. La plateforme est utilisée dans les jeux, les médias, les centres de contact et d'autres expériences interactives pour accroître l'engagement et réduire les coûts d'infrastructure.

Description

• Build and optimize realtime inference systems for consumer-facing AI applications • Work with first-party speech models, LLM serving, and modular high-volume realtime APIs • Optimize model serving and inference performance using modern serving frameworks and acceleration techniques • Profile and optimize code and NVIDIA GPU workloads for latency and throughput • Scale inference across Kubernetes, Ray, multi-GPU, and multi-node environments • Handle thousands of concurrent connections reliably • Take models from research through containerization, serving optimization, and production deployment • Collaborate daily with US-based leadership and engineering teams • Design benchmarks or prototypes to resolve unclear performance and reliability problems • Contribute to impactful engineering work and, where appropriate, open-source projects and technical write-ups

🎯 Exigences

• Deep understanding of modern serving frameworks and techniques such as vLLM or TRT-LLM • Hands-on experience with quantization, distillation, caching strategies, continuous batching, paged attention, and speculative decoding • Proficiency in C++, CUDA, Rust, or highly optimized Python • Ability to profile code and optimize NVIDIA GPU performance • Experience with Kubernetes, Ray, custom load balancing, multi-GPU/multi-node inference, and handling thousands of concurrent connections • Non-trivial systems programming projects, open-source contributions to major inference engines, or deep-dive technical write-ups • Ability to take a model from the research team through containerization, serving optimization, and reliable production deployment • PhD in CS, Physics, Math, or equivalent practical experience building backend or ML systems • Professional fluency in English, written and spoken, is required • Ability to work legally in Germany, as indicated by the required legal-right-to-work application question

🏖️ Avantages

• Full U.S. visa and relocation support may be available for candidates interested in relocating to the San Francisco Bay Area in the future, subject to business needs and applicable legal and work authorization requirements