Chercheur en IA — Distillation

Emploi pas sur LinkedIn

🕒 il y a 5 mois

Postuler Maintenant

Trouver des Emplois à Distance Similaires

Configurer une alerte email pour les nouveaux emplois

📊 Vérifiez votre score de CV pour ce poste

Améliorez vos chances d'obtenir un entretien en vérifiant votre score de CV avant de postuler.

Télécharger le CV

Featherless AI

Site WebLinkedInTous les Emplois

1 - 10 employés

Fondée en 2023

🤖 Intelligence artificielle

☁️ SaaS

🔌 API

Artificial Intelligence • SaaS • API

Featherless AI est un fournisseur de services d'inférence AI sans serveur et d'hébergement de modèles qui offre un accès API à un vaste catalogue de modèles à poids ouvert (plus de 12 200), permettant aux développeurs et aux entreprises de déployer, ajuster et exécuter des modèles à grande échelle sans gérer de serveurs. La société propose un tarif d'abonnement forfaitaire avec des jetons illimités, l'orchestration GPU, une utilisation privée/anonyme (sans journaux) et des options de self-hosting pour les entreprises ou des unités de mise à l'échelle pour une haute simultanéité. Featherless AI fonctionne également comme un laboratoire de recherche en intelligence artificielle axé sur la recherche open-source et post-transformateur, revendiquant des améliorations significatives en termes de coûts et de performance pour les grands modèles et agents IA.

Description

• Concevoir et évaluer des techniques de distillation de modèles (teacher–student training, self-distillation, distillation couche par couche, appariement de représentations, etc.) • Étudier les compromis entre taille du modèle, latence, mémoire et précision • Développer de nouvelles approches de distillation pour : • - les grands modèles de langage • - les architectures à long contexte ou spécialisées • - les environnements contraints pour l’inférence • Mener des expériences à grande échelle et des analyses d’ablation ; analyser rigoureusement les résultats • Collaborer avec les ingénieurs pour industrialiser les résultats de recherche • Rédiger et soumettre des articles de recherche dans des conférences de premier plan (NeurIPS, ICML, ICLR, COLM, etc.) • Contribuer aux notes de recherche internes, aux billets techniques et aux projets open source lorsque cela est approprié

🎯 Exigences

• Solide expérience en recherche en apprentissage automatique • Expérience pratique en distillation de modèles ou sur des sujets proches (compression, élagage, quantification, apprentissage de représentations) • Expérience de publication (articles en conférence ou revue, articles d’atelier ou prépublications sur arXiv) • Bonne maîtrise des fondamentaux de l’apprentissage profond (optimisation, dynamique d’entraînement, généralisation) • Maîtrise de PyTorch (ou équivalent) et des expérimentations de niveau recherche • Capacité à communiquer clairement les idées de recherche, les résultats et leurs limites • Expérience de distillation de grands modèles de langage (atout) • Travaux axés sur l’efficacité (latence, mémoire, débit) (atout) • Expérience des modèles à long contexte ou d’architectures non-Transformer (atout) • Contributions open source en ML ou en outils de recherche (atout) • Expérience préalable en startup ou en recherche appliquée (atout)

🏖️ Avantages

• Réelle autonomie sur l’orientation de la recherche au stade Series A • Fort soutien à la publication et à la recherche ouverte • Boucle de rétroaction étroite entre recherche et déploiement en production • Accès à des ressources de calcul significatives et à des problématiques à l’échelle production • Équipe restreinte et très technique, avec une expertise approfondie en ML et systèmes