Chercheur en IA — Optimisation de l'entraînement

Emploi pas sur LinkedIn

🕒 il y a 6 mois

Postuler Maintenant

Trouver des Emplois à Distance Similaires

Configurer une alerte email pour les nouveaux emplois

📊 Vérifiez votre score de CV pour ce poste

Améliorez vos chances d'obtenir un entretien en vérifiant votre score de CV avant de postuler.

Télécharger le CV

Featherless AI

Site WebLinkedInTous les Emplois

1 - 10 employés

Fondée en 2023

🤖 Intelligence artificielle

☁️ SaaS

🔌 API

Artificial Intelligence • SaaS • API

Featherless AI est un fournisseur de services d'inférence AI sans serveur et d'hébergement de modèles qui offre un accès API à un vaste catalogue de modèles à poids ouvert (plus de 12 200), permettant aux développeurs et aux entreprises de déployer, ajuster et exécuter des modèles à grande échelle sans gérer de serveurs. La société propose un tarif d'abonnement forfaitaire avec des jetons illimités, l'orchestration GPU, une utilisation privée/anonyme (sans journaux) et des options de self-hosting pour les entreprises ou des unités de mise à l'échelle pour une haute simultanéité. Featherless AI fonctionne également comme un laboratoire de recherche en intelligence artificielle axé sur la recherche open-source et post-transformateur, revendiquant des améliorations significatives en termes de coûts et de performance pour les grands modèles et agents IA.

Description

• Concevoir et évaluer des techniques d'optimisation de l'entraînement pour de grands modèles (par ex. algorithmes d'optimisation, ordonnanceurs, normalisation, stratégies de curriculum) • Améliorer l'efficacité et la stabilité de l'entraînement sur de longues runs et de grands jeux de données • Rechercher et implémenter des méthodes telles que : • Innovations d'optimizers et d'ordonnanceurs • Mixed-precision, low-precision et entraînement économe en mémoire • Réduction du bruit de gradient, lois d'échelle et analyse de la convergence • Techniques de régularisation et de robustesse en temps d'entraînement • Mener des expériences à grande échelle, analyser les résultats et traduire les conclusions en améliorations actionnables • Rédiger ou co-rédiger des articles de recherche, des rapports techniques ou des billets de blog • Collaborer étroitement avec les équipes infrastructure et inference pour s'assurer que les décisions d'entraînement se traduisent en performances réelles

🎯 Exigences

• Solide formation en recherche en machine learning, avec un accent sur la dynamique d'entraînement et l'optimisation • Expérience de l'entraînement de grands réseaux de neurones (LLMs, modèles multimodaux ou modèles de longues séquences) • Expérience de publication dans des conférences/venues ML (par ex. NeurIPS, ICML, ICLR, ACL, EMNLP, COLM, arXiv) ou recherche ouverte de qualité équivalente • Bonne compréhension de : • Théorie et pratique de l'optimisation • Rétropropagation, flux de gradient et stabilité d'entraînement • Entraînement distribué et par grands batchs • Maîtrise de Python et des frameworks ML modernes (préférence pour PyTorch) • Capacité à concevoir des expérimentations de façon autonome et à raisonner à partir des données • Atouts : • Expérience avec des architectures non standards (par ex. variantes de RNN, modèles à long contexte, systèmes hybrides) • Expérience d'optimisation de l'entraînement sur GPU à grande échelle (FSDP, ZeRO, kernels personnalisés) • Contributions à des projets open-source ML ou à des bases de code de recherche • Aisance à évoluer dans des environnements startup rapides et ambigus

🏖️ Avantages

• Liberté de mener et de publier des recherches innovantes • Influence réelle sur les décisions centrales d'entraînement des modèles • Accès direct à des expérimentations à grande échelle et aux contraintes de production réelles • Une petite équipe senior qui valorise la réflexion approfondie et la livraison soignée