Head of Trust & Safety

🕒 5 dias atrás

🌐 Estados Unidos, Canadá – Remoto

🇺🇸 Estados Unidos – Remoto (EUA) 🇨🇦 Canadá – Remoto

💵 $200.000 - $260.000 / ano

⏰ Tempo Integral

🔴 Especialista

👻 Score fantasma 0%

O que significa: quão provável esta vaga está aberta sem contratação ativa.Como ler: 60% ou mais significa que achamos que é uma vaga fantasma. Pontuações mais baixas preocupam menos.Como pontuamos: tempo em aberto, republicações, vagas abertas vs tamanho do time, rapidez para fechar vagas, e se o salário está divulgado.Observação: é uma estimativa de dados públicos, não um julgamento da empresa. Vagas reais podem ter pontuação alta, então use como uma dica, não como um fato.

Candidatar-se

Encontrar Vagas Remotas Similares

Configurar Alerta de Email para Novas Vagas

📊 Verifique sua pontuação de currículo para esta vaga

Melhore suas chances de conseguir uma entrevista verificando sua pontuação de currículo antes de se candidatar.

Enviar Currículo

MagicSchool AI

SiteLinkedInTodas as Vagas

11 - 50 funcionários

Fundada em 2023

💼 Consultoria

🏥 Saúde

📣 Marketing

💰 $2.400.000 Pre Seed Round em 2023-08

Consulting • Healthcare • Marketing

MagicSchool AI é uma plataforma líder de inteligência artificial voltada para o setor educacional. Oferece mais de 70 ferramentas de IA que auxiliam educadores no planejamento de aulas, elaboração de avaliações e comunicação eficaz. A plataforma é adotada por mais de 4 milhões de educadores em todo o mundo e integra-se com sistemas de gerenciamento de aprendizagem como Google Classroom e Microsoft Word. O MagicSchool AI enfatiza o uso responsável de IA, apoiando educadores e estudantes na construção de alfabetização em IA, garantindo privacidade e conformidade com regulamentos. A plataforma oferece uma ampla gama de recursos para aprimorar experiências de aprendizado, economizar tempo dos educadores e promover a alfabetização em IA, tornando-se uma ferramenta valiosa para as necessidades modernas da educação.

Descrição

• Own the safety of AI output to teachers and students, including policy, model-level guardrails, evaluations, red-teaming, and incident response • Own the trust posture with school districts through safety documentation, RFP and school-board responses, and alignment with state AI-in-education guidance • Develop safety evaluations and monitoring as integral product-infrastructure components • Ensure each new tool includes safety acceptance criteria during scoping rather than at launch • Own student-facing safety, including age-appropriate content, self-harm and crisis handling, and escalation paths to educators • Run the safety incident process end to end and feed postmortems back into product and engineering • Partner with Legal on COPPA, FERPA, state privacy laws, and emerging AI regulation • Build and lead a small team of 1–3 initially, scaling the function through 2027 • Work with multi-provider LLM infrastructure, moderation APIs, custom classifiers, evaluation and red-team tooling, observability, and incident-management tools

🎯 Requisitos

• Has owned trust & safety or responsible AI for a consumer or youth-facing product at scale • Hands-on with LLM safety: evals, classifiers, prompt/system-level guardrails, and red-teaming • Has made safety a velocity enabler by building guardrails as infrastructure • Makes judgment calls under ambiguity and owns them publicly • Strong writer for safety documents, district-facing explainers, and incident communications • Operates hypothesis-first and escalates one-way doors quickly • Experience handling live incidents involving minors or vulnerable users • Track record of building safety as product infrastructure, not a gate • Ability to communicate safety tradeoffs clearly to executive and district-level audiences • Familiarity with state AI-in-education frameworks and district procurement questionnaires • Data/ML fluency to partner with engineering on classifiers and evaluation pipelines • Comfortable being the external face of safety at conferences, with press, and before district boards • No educational credential specified

🏖️ Benefícios

• Flexibility of working from home • Unlimited time off • Employer-paid health insurance plans • Dental and vision offered at very low premiums • Generous stock options, vested over 4 years • 401k match • Monthly wellness stipend