GenAI Safety Analyst

Vaga não está no LinkedIn

🕒 Julho 28

🇺🇸 Estados Unidos – Remoto (EUA)

💵 $80.000 - $87.000 / ano

⏰ Tempo Integral

🟡 Pleno

🟠 Sênior

🧐 Analista

👻 Score fantasma 0%

O que significa: quão provável esta vaga está aberta sem contratação ativa.Como ler: 60% ou mais significa que achamos que é uma vaga fantasma. Pontuações mais baixas preocupam menos.Como pontuamos: tempo em aberto, republicações, vagas abertas vs tamanho do time, rapidez para fechar vagas, e se o salário está divulgado.Observação: é uma estimativa de dados públicos, não um julgamento da empresa. Vagas reais podem ter pontuação alta, então use como uma dica, não como um fato.

Candidatar-se

Encontrar Vagas Remotas Similares

Configurar Alerta de Email para Novas Vagas

📊 Verifique sua pontuação de currículo para esta vaga

Melhore suas chances de conseguir uma entrevista verificando sua pontuação de currículo antes de se candidatar.

Enviar Currículo

ActiveFence

SiteLinkedInTodas as Vagas

201 - 500 funcionários

🔒 Cibersegurança

🤖 Inteligência Artificial

💰 $400.000.000 Series B em 2021-07

Cybersecurity • Artificial Intelligence

A ActiveFence é um provedor de Confiança e Segurança para plataformas online, protegendo as plataformas e seus usuários de comportamentos e conteúdos maliciosos. Equipes de Confiança e Segurança de todos os tamanhos confiam na ActiveFence para manter seus usuários seguros contra o mais amplo espectro de danos online, conteúdos indesejados e comportamentos maliciosos, incluindo segurança infantil e exploração, desinformação, discurso de ódio, terrorismo, nudez, fraudes e mais. Oferecemos um conjunto completo de capacidades com nossa profunda pesquisa de inteligência, detecção de conteúdo prejudicial guiada por IA e plataforma de moderação de conteúdo online. Protegendo mais de três bilhões de usuários globalmente todos os dias em mais de 100 idiomas, a ActiveFence permite que as pessoas interajam e prosperem online.

Descrição

• Analyzing various content infringements to secure Generative AI tools • Collaborating with experts in diverse fields such as Hate Speech, Misinformation, Intellectual Property and Copyright • Writing adversarial prompts to identify weaknesses in AI models • Overseeing data management to guarantee the highest quality of outputs • Managing projects end-to-end, from initial planning through quality assurance to final delivery • Handling extensive datasets across multiple languages and areas of abuse • Ongoing investigation into new tactics for circumventing foundational models' safety measures • Promoting a culture of knowledge exchange and continual learning within the team

🎯 Requisitos

• Background in AI Safety and/or Responsible AI and/or Trust and Safety • Familiarity with recent Generative AI models and agents is essential, though direct technical experience is not a prerequisite • Command of English at a near-native level • Attention to detail, organizational capabilities, and the capacity to juggle numerous tasks concurrently • Experience with various model types (Text-to-Text, Text-to-Image) is desirable • Prior experience with OSINT (Open Source Intelligence) will be considered an asset • A self-starter attitude, with the energy to excel in a fast-moving and variable environment