GenAI Safety Analyst

Vaga não está no LinkedIn

🕒 2 dias atrás

🇺🇸 Estados Unidos – Remoto (EUA)

💵 $80.000 - $87.000 / ano

⏰ Tempo Integral

🟡 Pleno

🟠 Sênior

🧐 Analista

👻 Score fantasma 0%

O que significa: quão provável esta vaga está aberta sem contratação ativa.Como ler: 60% ou mais significa que achamos que é uma vaga fantasma. Pontuações mais baixas preocupam menos.Como pontuamos: tempo em aberto, republicações, vagas abertas vs tamanho do time, rapidez para fechar vagas, e se o salário está divulgado.Observação: é uma estimativa de dados públicos, não um julgamento da empresa. Vagas reais podem ter pontuação alta, então use como uma dica, não como um fato.

Candidatar-se

Encontrar Vagas Remotas Similares

Configurar Alerta de Email para Novas Vagas

📊 Verifique sua pontuação de currículo para esta vaga

Melhore suas chances de conseguir uma entrevista verificando sua pontuação de currículo antes de se candidatar.

Enviar Currículo

ActiveFence

SiteLinkedInTodas as Vagas

201 - 500 funcionários

🔒 Cibersegurança

🤖 Inteligência Artificial

💰 $400.000.000 Series B em 2021-07

Cybersecurity • Artificial Intelligence

A ActiveFence é um provedor de Confiança e Segurança para plataformas online, protegendo as plataformas e seus usuários de comportamentos e conteúdos maliciosos. Equipes de Confiança e Segurança de todos os tamanhos confiam na ActiveFence para manter seus usuários seguros contra o mais amplo espectro de danos online, conteúdos indesejados e comportamentos maliciosos, incluindo segurança infantil e exploração, desinformação, discurso de ódio, terrorismo, nudez, fraudes e mais. Oferecemos um conjunto completo de capacidades com nossa profunda pesquisa de inteligência, detecção de conteúdo prejudicial guiada por IA e plataforma de moderação de conteúdo online. Protegendo mais de três bilhões de usuários globalmente todos os dias em mais de 100 idiomas, a ActiveFence permite que as pessoas interajam e prosperem online.

Descrição

• Analyze content infringements to help secure Generative AI tools • Collaborate with experts in Hate Speech, Misinformation, Intellectual Property, Copyright, and other abuse areas • Write adversarial prompts to identify weaknesses in LLMs, Text-to-Image, Text-to-Video, AI Agents, and other AI models • Oversee data management to ensure high-quality outputs • Develop adversarial and risky prompt strategies across abuse areas to expose model vulnerabilities • Manage projects end-to-end from planning and oversight through quality assurance to final delivery • Handle extensive datasets across multiple languages and abuse areas • Investigate new tactics for circumventing foundational models' safety measures • Work with engineering, product, and policy teams to address challenges and develop strategies and solutions • Promote knowledge exchange and continual learning within the team

🎯 Requisitos

• Background in AI Safety and/or Responsible AI and/or Trust and Safety • Familiarity with recent Generative AI models and agents is essential • Command of English at a near-native level • Attention to detail • Organizational capabilities • Capacity to juggle numerous tasks concurrently • Experience with various model types (Text-to-Text, Text-to-Image) is desirable • Prior experience with OSINT (Open Source Intelligence) will be considered an asset • Self-starter attitude and energy to excel in a fast-moving and variable environment