Membre de l’équipe technique – Inférence

🔥 il y a quelques secondes

🌏 N'importe où dans le monde

⏰ Temps Plein

🔴 Expert

🖥 Ingénieur Logiciel

👻 Score fantôme 13%

Ce que ça veut dire : la probabilité que cette offre reste ouverte sans recrutement actif.Comment le lire : 60 % ou plus, on pense que c'est une offre fantôme. Un score plus bas est moins inquiétant.Comment on la calcule : ancienneté, republications, postes ouverts vs taille de l'équipe, rapidité de clôture, et si le salaire est indiqué.À noter : une estimation à partir de données publiques, pas un jugement sur l'entreprise. De vraies offres peuvent avoir un score élevé, alors prenez-le comme un indice, pas comme un fait.

Postuler Maintenant

Trouver des Emplois à Distance Similaires

Configurer une alerte email pour les nouveaux emplois

📊 Vérifiez votre score de CV pour ce poste

Améliorez vos chances d'obtenir un entretien en vérifiant votre score de CV avant de postuler.

Télécharger le CV

Inferact

Site WebLinkedInTous les Emplois

11 - 50 employés

Fondée en 2025

🤖 Intelligence artificielle

🤝 B2B

🏢 Entreprise

Artificial Intelligence • B2B • Enterprise

Inferact est une startup fondée par les créateurs et principaux mainteneurs de vLLM, le moteur d'inférence LLM open-source le plus avancé. L'entreprise vise à accélérer le progrès de l'IA en rendant l'inférence des modèles moins coûteuse et plus rapide, en augmentant les performances de vLLM et en soutenant les nouvelles architectures et les matériels accélérateurs. Inferact combine une expertise approfondie à l'intersection des modèles et du matériel pour fournir une infrastructure d'inférence utilisée par des laboratoires de recherche, des hyperscalers et des startups, tout en continuant à développer et à contribuer des optimisations à la communauté open-source.

Description

• Repousser les limites du serving des LLM et des modèles de diffusion • Travailler au cœur de vLLM afin d’optimiser l’exécution des modèles sur des matériels et des architectures variés • Développer des innovations liées aux runtimes d’inférence pour les architectures mixture-of-experts, multimodales et agentiques • Implémenter des techniques d’inférence et des architectures de modèles issues d’articles de recherche • Contribuer à un code performant et maintenable • Déboguer des codebases complexes de machine learning • Améliorer directement l’exécution de l’inférence des modèles d’IA en la rendant moins coûteuse et plus rapide

🎯 Exigences

• Diplôme de niveau licence (Bac+3) ou expérience équivalente en informatique, ingénierie ou domaine similaire • Compréhension approfondie des architectures Transformer et de leurs variantes • Solides compétences en programmation Python et expérience des composants internes de PyTorch • Expérience des systèmes d’inférence de LLM tels que vLLM, TensorRT-LLM, SGLang ou TGI • Capacité à lire et à implémenter des architectures de modèles et des techniques d’inférence présentées dans des articles de recherche • Capacité à contribuer à un code performant et maintenable et à déboguer des codebases ML complexes • Atout : compréhension approfondie de la gestion mémoire du KV-cache, du prefix caching et du serving hybride des modèles • Atout : connaissance des frameworks et algorithmes de RL pour les LLM • Atout : expérience de l’inférence multimodale couvrant l’audio, l’image, la vidéo et le texte • Les contributions à des projets open source de ML ou d’infrastructure système sont appréciées • Bonus : implémentation de fonctionnalités essentielles dans vLLM ou d’autres projets de moteurs d’inférence • Bonus : contributions à des intégrations de vLLM telles que verl, OpenRLHF, Unsloth ou LlamaFactory • Bonus : blogs techniques largement partagés ou projets personnels consacrés à vLLM ou à l’inférence des LLM • Éléments requis pour candidater : CV, identifiant GitHub et lien vers un projet personnel pertinent, une contribution open source ou un article de blog technique

🏖️ Avantages

• Package d’avantages compétitif, adapté à votre lieu de résidence, incluant une couverture santé lorsque celle-ci est applicable • Participation au capital • Prise en charge des démarches de visa au cas par cas • Poste entièrement en télétravail • Horaires flexibles selon le fuseau horaire, avec des plages de chevauchement régulières avec l’heure du Pacifique pour les réunions de synchronisation essentielles