Ingénieur Red Team IA

Emploi pas sur LinkedIn

🔥 il y a 7 minutes

Postuler Maintenant

Trouver des Emplois à Distance Similaires

Recevoir des emails pour des emplois à distance

📊 Vérifiez votre score de CV pour ce poste

Améliorez vos chances d'obtenir un entretien en vérifiant votre score de CV avant de postuler.

Télécharger le CV

White Circle

Site WebLinkedInTous les Emplois

1 - 10 employés

🤖 Intelligence artificielle

🔌 API

🔐 Sécurité

Artificial Intelligence • API • Security

White Circle est une couche de contrôle unifiée pour les applications d'IA qui aide les équipes à tester, protéger, observer et optimiser les fonctionnalités pilotées par des modèles. La plateforme offre des tests automatisés "red-teaming", des garde-fous à faible latence, une protection des entrées/sorties (détection des PII, prévention des jailbreaks, détection d'hallucination, prévention des fuites de données), des analyses et des métriques personnalisées (notation des risques, regroupement des comportements utilisateurs), et des outils d'optimisation comme des invites dynamiques et le routage des modèles. Proposée via une API à haut débit avec une sécurité de niveau entreprise (SOC 2, HIPAA), White Circle cible les organisations déployant l'IA à grande échelle.

Description

• Tester en red team des systèmes pilotés par des LLM : chatbots, copilotes, pipelines RAG, agents IA, workflows d'appel d'outils et produits IA basés sur des API. • Tester les jailbreaks, les prompt injections, les fuites de system-prompt et d'outils, les fuites de données sensibles et de contexte, les sorties non sûres, le contournement de politiques, le mauvais usage d'outils, l'agentivité excessive, l'abus de ressources et de tokens, et l'abus de logique métier. • Écrire des scripts Python légers pour automatiser des attaques, exécuter des jeux de prompts, appeler des API de modèles, collecter et scorer les réponses, et générer des rapports reproductibles. • Construire et maintenir une bibliothèque d'attaques interne : prompts, scénarios, cas de test, tests de régression, grilles d'évaluation et cas de démonstration réutilisables. • Transformer les échecs de modèles en rapports clairs : ce qui s'est passé, pourquoi c'est important, comment le reproduire, quelle est la gravité et comment le corriger. • Convertir les attaques réussies en tests de régression et en exigences produit. • Suivre les nouvelles techniques de red team et de safety et intégrer les plus utiles dans nos tests. • Soutenir le GTM en produisant des preuves solides et crédibles pour les démonstrations clients, les revues de sécurité et les échanges commerciaux.

🎯 Exigences

• Aimer sincèrement casser des choses et raisonner de façon adversariale. • Avoir une expérience en QA automation, AppSec, tests d'API/sécurité/pentesting ou bug bounty. • Excellentes compétences en scripting Python. • Expérience dans le test d'API, d'applications web, de backends ou de produits SaaS. • Être opérationnel·le avec les LLM, les prompts, les instructions système, le RAG, les agents et les appels d'outils/fonctions. • Comprendre les vecteurs d'abus spécifiques aux LLM (prompt injection, jailbreaks, fuite de données, mauvais usage d'outils, agentivité excessive, épuisement des tokens). • Savoir trouver des bypass, des cas limites d'abus, des enchaînements de défaillances et évaluer l'impact réel. • Savoir distinguer les risques réels pour les clients des astuces de prompt à faible impact. • Rédiger des rapports de bug clairs et reproductibles en anglais clair. • Savoir avancer rapidement sans exigences parfaitement définies. • Respecter une ligne éthique stricte : vous faites de la red team pour rendre les systèmes plus sûrs, opérez dans le périmètre et la légalité, et ne produisez ni ne diffusez de matériel réellement nuisible.

🏖️ Avantages

• Congés payés conformes à la réglementation locale, où que vous travailliez. • Travailler depuis Paris (hybride) + prise en charge de la relocation. • Couverture santé (mutuelle) de premier plan en France. • Tout le matériel, outils et services dont vous avez besoin. • Abonnements aux agents IA pris en charge. • Off-sites d'équipe deux fois par an : nous sommes récemment allés dans les Alpes et à Saint-Tropez.