Ingénieur·e LLM Ops senior

Emploi pas sur LinkedIn

🔥 il y a 24 minutes

🌏 N'importe où dans le monde

⏰ Temps Plein

🟠 Senior

⚙️ Opérations

👻 Score fantôme 12%

Ce que ça veut dire : la probabilité que cette offre reste ouverte sans recrutement actif.Comment le lire : 60 % ou plus, on pense que c'est une offre fantôme. Un score plus bas est moins inquiétant.Comment on la calcule : ancienneté, republications, postes ouverts vs taille de l'équipe, rapidité de clôture, et si le salaire est indiqué.À noter : une estimation à partir de données publiques, pas un jugement sur l'entreprise. De vraies offres peuvent avoir un score élevé, alors prenez-le comme un indice, pas comme un fait.

Postuler Maintenant

Trouver des Emplois à Distance Similaires

Configurer une alerte email pour les nouveaux emplois

📊 Vérifiez votre score de CV pour ce poste

Améliorez vos chances d'obtenir un entretien en vérifiant votre score de CV avant de postuler.

Télécharger le CV

CINC Systems

Site WebLinkedInTous les Emplois

201 - 500 employés

Fondée en 2005

☁️ SaaS

🏠 Immobilier

🤝 B2B

💰 Private Equity Round - CINC Systems en 2023-12

SaaS • Real Estate • B2B

CINC Systems est une plateforme logicielle tout-en-un basée sur le cloud pour la gestion des associations communautaires (syndicats de copropriétaires et associations de propriétaires) qui aide les sociétés de gestion, les conseils d'administration et les propriétaires à simplifier les opérations et améliorer l'expérience des résidents. La plateforme propose une gestion et une supervision financière (y compris les paiements en ligne et un portail de paiement sécurisé), des rapports et prévisions pilotés par l'IA (Cephai), des outils de communication et d'engagement des résidents, des votes et sondages en ligne, la coordination de la maintenance/ordres de travail, le suivi de la conformité, ainsi que des données et insights centralisés. CINC cible les entreprises de gestion professionnelle des associations et les conseils d'administration des propriétaires grâce à l'automatisation, la sécurité et l'évolutivité; l'entreprise rapporte plus de 1 000 clients sociétés de gestion d'associations, plus de 51 000 associations de propriétaires servies, plus de 6 millions de portes, et plus de 11 milliards de paiements traités annuellement.

Description

• Concevoir et exploiter des systèmes d’orchestration et d’exécution de LLM prenant en charge des workflows d’IA fiables et à faible latence • Développer et maintenir des pipelines d’évaluation mesurant la qualité, les régressions et l’impact métier des fonctionnalités reposant sur des LLM • Mettre en place l’observabilité des systèmes d’IA, notamment le tracing, les métriques et les boucles de feedback aux niveaux des prompts, des agents et des workflows • Définir des stratégies de maîtrise des coûts liés aux LLM, incluant la budgétisation, la limitation de débit, la mise en cache et l’optimisation • Collaborer avec les équipes d’ingénierie IA et produit afin de mettre en production les fonctionnalités d’IA de manière sûre et progressive • Définir et faire appliquer des garde-fous en matière de sécurité, de confidentialité et de traitement des données dans les workflows d’IA • Accompagner l’expérimentation de nouveaux modèles et outils tout en garantissant la stabilité de la production • Améliorer la préparation et la réponse aux incidents liés aux défaillances et aux dégradations des systèmes d’IA • Participer aux décisions « build or buy » concernant les outils et plateformes LLM • Accompagner les ingénieurs et établir les bonnes pratiques pour exploiter des systèmes d’IA à grande échelle

🎯 Exigences

• Au moins 8 ans d’expérience en software engineering, platform engineering ou DevOps • Expérience pratique de l’exploitation de systèmes reposant sur des LLM en production • Bonne connaissance des fournisseurs de LLM et des frameworks d’orchestration • Solide compréhension des systèmes distribués, des API et des architectures cloud-native • Expérience dans la conception de systèmes d’observabilité et d’évaluation pour des workflows complexes • Connaissances pratiques de l’optimisation des coûts et des performances dans les environnements cloud • Expérience des architectures event-driven et des workflows asynchrones • Capacité avérée à exercer un leadership par l’influence plutôt que par l’autorité hiérarchique • Esprit très structuré et solides aptitudes à résoudre les problèmes • Excellentes capacités de communication, permettant d’expliquer les arbitrages opérationnels liés à l’IA à des interlocuteurs techniques et non techniques • À l’aise dans un environnement en évolution rapide, avec une collaboration transverse entre équipes • Esprit builder, avec un souci constant de la fiabilité et des résultats • Conviction que l’IA renforce les fondamentaux de l’ingénierie au lieu de les remplacer • Attitude axée sur l’apprentissage et veille active sur l’évolution des outils et des pratiques liés à l’IA • Approche pragmatique et sang-froid, notamment lors des incidents • Sensibilité aux besoins des clients et compréhension de l’impact concret du comportement de l’IA