AI Safety Expert – English, Swedish

🕒 il y a 1 mois

🇺🇸 États-Unis – Télétravail

💵 $48 - $62 / heure

⏳ Contrat

🟡 Intermédiaire

🟠 Senior

🤖 Intelligence Artificielle

👻 Score fantôme 17%

Ce que ça veut dire : la probabilité que cette offre reste ouverte sans recrutement actif.Comment le lire : 60 % ou plus, on pense que c'est une offre fantôme. Un score plus bas est moins inquiétant.Comment on la calcule : ancienneté, republications, postes ouverts vs taille de l'équipe, rapidité de clôture, et si le salaire est indiqué.À noter : une estimation à partir de données publiques, pas un jugement sur l'entreprise. De vraies offres peuvent avoir un score élevé, alors prenez-le comme un indice, pas comme un fait.

Postuler Maintenant

Trouver des Emplois à Distance Similaires

Configurer une alerte email pour les nouveaux emplois

📊 Vérifiez votre score de CV pour ce poste

Améliorez vos chances d'obtenir un entretien en vérifiant votre score de CV avant de postuler.

Télécharger le CV

Mercor

Site WebLinkedInTous les Emplois

51 - 200 employés

Fondée en 2023

🔥 Financement dans la dernière année

💰 €350 000 000 Series C - Mercor en 2025-10

Mercor est une entreprise pour laquelle aucune description n’a été fournie dans les éléments transmis. Des informations supplémentaires (produits, services, clients cibles ou secteurs d’activité) sont nécessaires pour rédiger un résumé précis et sélectionner les secteurs appropriés.

Description

• Red-team conversational AI models and agents through jailbreaks, prompt injections, misuse cases, bias exploitation, and multi-turn manipulation • Generate human data by annotating failures, classifying vulnerabilities, and flagging systemic risks • Apply taxonomies, benchmarks, and playbooks to maintain consistent testing • Produce reproducible reports, datasets, and attack cases for customers • Review AI outputs involving sensitive topics such as bias, misinformation, and harmful behaviors • Expand evaluation coverage and uncover vulnerabilities missed by automated tests • Work on projects training and enhancing frontier AI systems

🎯 Exigences

• Fluent/native fluency in English and Swedish • Prior red teaming experience in AI adversarial work, cybersecurity, or socio-technical probing • Ability to probe systems adversarially and push them to breaking points • Experience using frameworks or benchmarks for structured testing • Ability to explain risks clearly to technical and non-technical stakeholders • Adaptability across projects and customers • Adversarial ML experience, including jailbreak datasets, prompt injection, RLHF/DPO attacks, or model extraction (nice to have) • Cybersecurity specialties such as penetration testing, exploit development, or reverse engineering (nice to have) • Socio-technical risk experience, including harassment/disinformation probing, abuse analysis, or conversational AI testing (nice to have) • Creative probing experience in psychology, acting, or writing (nice to have) • Must not be an H-1B or STEM OPT candidate

🏖️ Avantages

• Fully remote role • Flexible schedule / work on your own schedule • Weekly payments via Stripe or Wise • Opportunity to build experience in human data-driven AI red teaming • Direct role in making AI systems more robust, safe, and trustworthy • Competitive pay • Collaboration with leading researchers • Reasonable accommodations upon request • Referral payments of up to $250 per successful referral (restrictions may apply)