AI Safety Expert – English, Swedish

🕒 Agosto 24

🇺🇸 Estados Unidos – Remoto (EUA)

💵 $48 - $62 / hora

⏳ Contrato/Temporário

🟡 Pleno

🟠 Sênior

🤖 Inteligência Artificial

👻 Score fantasma 22%

O que significa: quão provável esta vaga está aberta sem contratação ativa.Como ler: 60% ou mais significa que achamos que é uma vaga fantasma. Pontuações mais baixas preocupam menos.Como pontuamos: tempo em aberto, republicações, vagas abertas vs tamanho do time, rapidez para fechar vagas, e se o salário está divulgado.Observação: é uma estimativa de dados públicos, não um julgamento da empresa. Vagas reais podem ter pontuação alta, então use como uma dica, não como um fato.

Candidatar-se

Encontrar Vagas Remotas Similares

Configurar Alerta de Email para Novas Vagas

📊 Verifique sua pontuação de currículo para esta vaga

Melhore suas chances de conseguir uma entrevista verificando sua pontuação de currículo antes de se candidatar.

Enviar Currículo

Mercor

SiteLinkedInTodas as Vagas

51 - 200 funcionários

Fundada em 2023

🔥 Investimento no último ano

💰 $350.000.000 Series C - Mercor em 2025-10

A Mercor é uma empresa para a qual não foi fornecido nenhum texto descritivo no material de entrada. São necessárias informações adicionais (produtos, serviços, clientes-alvo ou especificidades do setor) para criar um resumo preciso e selecionar os setores adequados.

Descrição

• Red-team conversational AI models and agents through jailbreaks, prompt injections, misuse cases, bias exploitation, and multi-turn manipulation • Generate human data by annotating failures, classifying vulnerabilities, and flagging systemic risks • Apply taxonomies, benchmarks, and playbooks to maintain consistent testing • Produce reproducible reports, datasets, and attack cases for customers • Review AI outputs involving sensitive topics such as bias, misinformation, and harmful behaviors • Expand evaluation coverage and uncover vulnerabilities missed by automated tests • Work on projects training and enhancing frontier AI systems

🎯 Requisitos

• Fluent/native fluency in English and Swedish • Prior red teaming experience in AI adversarial work, cybersecurity, or socio-technical probing • Ability to probe systems adversarially and push them to breaking points • Experience using frameworks or benchmarks for structured testing • Ability to explain risks clearly to technical and non-technical stakeholders • Adaptability across projects and customers • Adversarial ML experience, including jailbreak datasets, prompt injection, RLHF/DPO attacks, or model extraction (nice to have) • Cybersecurity specialties such as penetration testing, exploit development, or reverse engineering (nice to have) • Socio-technical risk experience, including harassment/disinformation probing, abuse analysis, or conversational AI testing (nice to have) • Creative probing experience in psychology, acting, or writing (nice to have) • Must not be an H-1B or STEM OPT candidate

🏖️ Benefícios

• Fully remote role • Flexible schedule / work on your own schedule • Weekly payments via Stripe or Wise • Opportunity to build experience in human data-driven AI red teaming • Direct role in making AI systems more robust, safe, and trustworthy • Competitive pay • Collaboration with leading researchers • Reasonable accommodations upon request • Referral payments of up to $250 per successful referral (restrictions may apply)