Head of AI Safety

🕒 vor 1 Monat

⛰️ Colorado, District of Columbia, +10 weitere Bundesländer – Remote

⛰️ Colorado – Remote 🏛️ District of Columbia – Remote 🏖️ New Jersey – Remote 🗽 New York – Remote 🌲 Oregon – Remote 🦀 Maryland – Remote 🍂 Massachusetts – Remote 🔔 Pennsylvania – Remote 🎸 Tennessee – Remote ⚔️ Virginia – Remote ☕ Washington – Remote 🧀 Wisconsin – Remote

💵 $110.000 - $145.000 / Jahr

⏰ Vollzeit

🔴 Experte

🤖 Künstliche Intelligenz

🦅 H1B-Visum-Sponsor

Dieses Unternehmen hat in der Vergangenheit H1B-Visa gesponsert.

👻 Geisterscore 9%

Was es bedeutet: wie wahrscheinlich diese Stelle offen bleibt, ohne dass aktiv eingestellt wird.So liest du es: 60 % oder höher heißt, wir halten das für einen Geisterjob. Niedrigere Werte sind weniger bedenklich.Wie wir werten: Dauer offen, Neuveröffentlichungen, offene Stellen vs Teamgröße, wie schnell Stellen geschlossen werden, und ob ein Gehalt angegeben ist.Hinweis: eine Schätzung aus öffentlichen Daten, kein Urteil über das Unternehmen. Echte Stellen können hoch punkten, nutze es also als Hinweis, nicht als Fakt.

Jetzt Bewerben

Ähnliche Remote-Jobs finden

E-Mail-Benachrichtigung für neue Jobs einrichten

📊 Überprüfen Sie Ihre Lebenslauf-Bewertung für diese Stelle

Verbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.

Lebenslauf hochladen

Moonshot

WebsiteLinkedInAlle Stellen

11 - 50 Mitarbeiter

🎖️ Verteidigung

💼 Beratung

🔒 Cybersecurity

Defense • Consulting • Cybersecurity

Moonshot ist ein Unternehmen, das die Kraft des Internets nutzt, um globale Online-Schäden zu adressieren und zu lösen. Mit einem Fokus auf Technologie und menschliche Ethik entwickelt das Unternehmen innovative Methoden und Werkzeuge zur Identifikation und Minderung von Bedrohungen für Gemeinschaften, Unternehmen und Regierungen, ob online oder offline. Moonshot arbeitet mit Experten aus Strafverfolgung, Wissenschaft, Cybersicherheit und Regierung zusammen, um umsetzbare Einblicke und Interventionen bereitzustellen, die Online-Gewalt verhindern und die Sicherheit der Gemeinschaft stärken. Durch den Einsatz globaler Kampagnen und die Zusammenarbeit mit lokalen Unterstützungsnetzwerken erzielt Moonshot messbare Auswirkungen und Resilienz gegenüber digitalen Bedrohungen. Ihre Dienstleistungen sind umfangreich und umfassen Bedrohungsüberwachung, Prävention von Online-Gewalt und Technologieaudits, wobei stets die Datensicherheit und die Einhaltung der DSGVO gewährleistet werden.

Beschreibung

• Lead and quality-assure Moonshot's applied AI safety work across violence, extremism, CSEA, abuse and grooming, mental health and crisis, and child and teen risk categories. • Advise frontier AI companies on improving model, product, policy, and intervention safety. • Translate specialist insights into actionable guidance for model safety, policy, product, research, and engineering teams. • Set methodological approaches and structured, testable evaluation frameworks. • Lead and participate in red teaming and adversarial evaluation using test scenarios, model responses, scoring criteria, safety policies, and evaluation results. • Identify safety failures and develop recommendations for model behavior and user protections. • Maintain rigorous documentation for technical, government, and foundation audiences. • Ensure ethical, legal, contractual, data protection, and compliance obligations are met. • Manage operational, reputational, delivery, and partnership risks. • Serve as Moonshot's primary applied AI safety counterpart for AI companies, governments, regulators, and ecosystem partners. • Build relationships with technical teams, governments, foundations, academics, researchers, civil society organizations, and practitioners. • Represent Moonshot in meetings, briefings, workshops, and sector engagement. • Lead, coach, and manage the AI safety team; support workforce planning, performance management, and professional development. • Coordinate with operations, finance, research, and technical teams. • Develop the AI safety portfolio, strategic opportunities, partnerships, and funding. • Lead proposal development, scoping, renewals, communications, publications, briefings, and thought leadership. • Develop repeatable methodologies and service offerings while maintaining rigor and delivery quality. • Oversee project planning, staffing, budgeting, forecasting, and delivery timelines.

🎯 Anforderungen

• Experience in trust & safety, online harms, violence prevention, safeguarding, public health, or a closely related field. • Ability to adapt relevant harm-prevention knowledge to AI systems. • Curiosity about AI and ability to build technical fluency quickly. • Experience designing research, evaluation frameworks, or interventions for violent extremism, CSEA, self-harm and crisis, or targeted violence. • Experience managing projects, teams, budgets, partners, and clients. • Strong people management skills. • Excellent written communication and experience producing credible material for government, foundation, or enterprise audiences. • Resilience and comfort working with highly sensitive or graphic content. • Strong judgment and ability to navigate ambiguity, competing priorities, and sensitive stakeholder environments. • Willingness to travel and work outside regular hours when needed. • Trustworthiness, discretion, diplomacy, and willingness to undertake relevant security clearance procedures. • Experience supporting business development, grant funding, or procurement. • Commitment to Moonshot's mission. • Eligibility to work in the US. • Ability to pass relevant security clearance procedures per client needs. • Desirable: experience in model safety, red teaming, or adversarial evaluation of LLMs or other AI systems. • Desirable: understanding of LLM architecture, safety tooling, or trust & safety policy. • Desirable: child safety evaluation, teen-safety product work, or grooming and CSEA detection experience. • Desirable: government or regulatory engagement experience. • Desirable: intervention or diversion program design experience. • Desirable: academic or applied background in radicalization studies, forensic psychology, or violence risk assessment. • Desirable: familiarity with taxonomy or classifier development and testing data.

🏖️ Vorteile

• 15 days paid vacation leave, plus Federal holidays and 1 day additional paid leave for Native American Heritage Day. • Flexible public holiday policy with the option to work federal holidays in exchange for a day off at another time. • Full private healthcare package, including coverage for partners and children. • Dental & Vision Insurance. • Life & Disability Insurance. • 24/7 access to free counseling via our Employee Assistance Program. • 3% matched 401k contributions. • 401(k) Roth Contributions. • Generous maternity and paternity leave: 26 weeks paid maternity leave, 8 weeks paid paternity leave. • All permanent employees are granted share options upon employment.