Senior Responsible AI Researcher

Emploi pas sur LinkedIn

🕒 il y a 16 jours

🏄 California – Distant

🏄 California – Remote

⏰ Temps Plein

🟠 Senior

🧠 Chercheur en IA

👻 Score fantôme 13%

Ce que ça veut dire : la probabilité que personne ne recrute vraiment pour cette offre.Comment le lire : 60 % ou plus, on pense que c'est une offre fantôme. Un score plus bas est moins inquiétant.Comment on la calcule : ancienneté, republications, postes ouverts vs taille de l'équipe, rapidité de clôture, et si le salaire est indiqué.À noter : une estimation à partir de données publiques, pas un jugement sur l'entreprise. De vraies offres peuvent avoir un score élevé, alors prenez-le comme un indice, pas comme un fait.

Postuler Maintenant

Trouver des Emplois à Distance Similaires

ActiveFence

Site WebLinkedInTous les Emplois

201 - 500 employés

🔒 Cybersecurity

🤖 Intelligence artificielle

💰 €400 000 000 Series B en 2021-07

Cybersecurity • Artificial Intelligence

ActiveFence est un fournisseur de solutions de confiance et sécurité pour les plateformes en ligne, protégeant ces dernières et leurs utilisateurs contre les comportements malveillants et les contenus nuisibles. Des équipes de Confiance et Sécurité de toutes tailles s'appuient sur ActiveFence pour protéger leurs utilisateurs face au spectre le plus large de dangers en ligne, de contenus indésirables et de comportements malveillants, incluant la sécurité et l'exploitation des enfants, la désinformation, les discours de haine, le terrorisme, la nudité, la fraude, et plus encore. Nous offrons une suite complète de capacités grâce à notre recherche approfondie en intelligence, notre détection de contenus nuisibles basée sur l'IA et notre plateforme de modération de contenu en ligne. En protégeant quotidiennement plus de trois milliards d'utilisateurs dans le monde dans plus de 100 langues, ActiveFence permet aux gens d'interagir et de prospérer en ligne.

Description

• Lead state-of-the-art research initiatives at the intersection of frontier models, Trust & Safety, model evaluation, and adversarial robustness • Drive self-initiated research and design evaluation methodologies for emerging risks including persuasion, manipulation, sycophancy, and agentic safety • Build safety benchmarks across Generative AI modalities: Text, Image, Multimodal, and Autonomous Agents • Serve as a key technical authority collaborating with AI labs, academic institutions, and enterprise partners • Design, build, and deploy evaluation frameworks, benchmarks, and Agentic Safety Gyms • Develop adversarial prompting methodologies, red-teaming strategies, and behavioral suites to stress-test LLMs, Multimodal systems, and AI Agents • Investigate emerging safety risks including bias and jailbreaking tactics across multimodal and autonomous architectures • Lead collaborative research projects with academic institutions and industry partners • Represent the organization at international conferences, AI safety summits, and industry events • Publish research findings in top AI and safety venues • Partner with Product, Engineering, Go-To-Market, Policy, and Delivery teams to translate research into safety products and client-facing offerings • Engage technical stakeholders and enterprise clients to translate safety and governance requirements into research questions, experiments, and evaluation suites • Provide technical leadership and mentorship to junior researchers, data scientists, and engineers • Integrate social science, policy, and technical perspectives into safety tooling and methodologies

🎯 Exigences

• PhD in Science, Technology and Society Studies (STS), Machine Learning, AI Ethics, Social Data Science, or a closely related research domain • Strong portfolio of peer-reviewed publications and conference presentations at top-tier venues (e.g., NeurIPS, ICML, ICLR, ACL, IEEE, CVPR, or dedicated AI Safety conferences) • Substantial experience in AI Safety, Responsible AI (RAI), Trust & Safety, or Model Evaluation • Strong hands-on capabilities in Python and modern ML/DL frameworks (e.g., PyTorch, Transformers) • Deep working knowledge of foundation models, including LLMs, Text-to-Image, Multimodal systems, agents, reasoning systems, and current safety mitigation techniques • Proven experience designing datasets, benchmark suites, red-teaming protocols, or synthetic simulation platforms • Proven track record of self-initiating research projects, establishing external partnerships, and shaping technical vision • Excellent verbal and written communication skills, including communicating complex technical concepts to non-technical stakeholders, executives, and research peers • Ability to work across technical data science, social science paradigms, and product execution • Prior employment, consulting, advisory, or formal research collaboration with frontier AI labs or leading safety research collectives (preferred/desirable) • Experience in domain-specific safety applications such as election integrity, psychological manipulation, or agentic behavioral safety suites (preferred/desirable)

📊 Vérifiez votre score de CV pour ce poste

Améliorez vos chances d'obtenir un entretien en vérifiant votre score de CV avant de postuler.

Télécharger le CV