GenAI Safety Team Lead

Vaga não está no LinkedIn

🕒 Julho 29

🇺🇸 Estados Unidos – Remoto (EUA)

💵 $127.000 - $140.000 / ano

⏰ Tempo Integral

🟠 Sênior

👻 Score fantasma 17%

O que significa: quão provável esta vaga está aberta sem contratação ativa.Como ler: 60% ou mais significa que achamos que é uma vaga fantasma. Pontuações mais baixas preocupam menos.Como pontuamos: tempo em aberto, republicações, vagas abertas vs tamanho do time, rapidez para fechar vagas, e se o salário está divulgado.Observação: é uma estimativa de dados públicos, não um julgamento da empresa. Vagas reais podem ter pontuação alta, então use como uma dica, não como um fato.

Candidatar-se

Encontrar Vagas Remotas Similares

Configurar Alerta de Email para Novas Vagas

📊 Verifique sua pontuação de currículo para esta vaga

Melhore suas chances de conseguir uma entrevista verificando sua pontuação de currículo antes de se candidatar.

Enviar Currículo

ActiveFence

SiteLinkedInTodas as Vagas

201 - 500 funcionários

🔒 Cibersegurança

🤖 Inteligência Artificial

💰 $400.000.000 Series B em 2021-07

Cybersecurity • Artificial Intelligence

A ActiveFence é um provedor de Confiança e Segurança para plataformas online, protegendo as plataformas e seus usuários de comportamentos e conteúdos maliciosos. Equipes de Confiança e Segurança de todos os tamanhos confiam na ActiveFence para manter seus usuários seguros contra o mais amplo espectro de danos online, conteúdos indesejados e comportamentos maliciosos, incluindo segurança infantil e exploração, desinformação, discurso de ódio, terrorismo, nudez, fraudes e mais. Oferecemos um conjunto completo de capacidades com nossa profunda pesquisa de inteligência, detecção de conteúdo prejudicial guiada por IA e plataforma de moderação de conteúdo online. Protegendo mais de três bilhões de usuários globalmente todos os dias em mais de 100 idiomas, a ActiveFence permite que as pessoas interajam e prosperem online.

Descrição

• Oversee the production of datasets, reports, and analyses related to AI safety and red teaming activities. • Review and approve deliverables to ensure they meet quality, methodological, and ethical standards. • Deliver final outputs to clients following approval and provide actionable insights that address key risks and vulnerabilities. • Offer ongoing structured feedback on the quality of deliverables and the efficiency of team workflows, driving continuous improvement. • Design and refine red teaming methodologies for new Responsible AI projects. • Guide the development of adversarial testing strategies that target potential weaknesses in models across text, image, and multimodal systems. • Support research initiatives aimed at identifying and mitigating emerging risks in Generative AI applications. • Attend client meetings to address broader methodological or operational questions. • Represent the red teaming function in cross-departmental collaboration with other ActiveFence teams.

🎯 Requisitos

• Proven background in red teaming, AI safety research, or Responsible AI operations. • Demonstrated experience managing complex projects and teams in a technical or analytical environment. • 5+ years of experience. • Strong understanding of adversarial testing methods and model evaluation. • Excellent communication skills in English, both written and verbal. • Exceptional organizational ability and attention to detail, with experience balancing multiple priorities. • Confidence in client-facing environments, including presenting deliverables and addressing high-level questions.