Red Team Engineer

🕒 il y a 6 jours

Postuler Maintenant

Trouver des Emplois à Distance Similaires

Configurer une alerte email pour les nouveaux emplois

📊 Vérifiez votre score de CV pour ce poste

Améliorez vos chances d'obtenir un entretien en vérifiant votre score de CV avant de postuler.

Télécharger le CV

Gray Swan

Site WebLinkedInTous les Emplois

11 - 50 employés

Fondée en 2023

🤖 Intelligence artificielle

🔒 Cybersecurity

☁️ SaaS

Artificial Intelligence • Cybersecurity • SaaS

Gray Swan est une entreprise spécialisée dans la sécurité de l'IA, qui développe une plateforme fondée sur la recherche pour protéger les déploiements d'IA tout au long de leur cycle de vie. Elle propose des services de filtrage des entrées/sorties, de surveillance continue, de tests automatisés de vulnérabilité et de services de red teaming axés sur les entreprises. La société allie la recherche de pointe, des benchmarks et des compétitions de red team à grande échelle pour découvrir de nouvelles attaques et fournir des protections adaptatives et intégrables pour les agents IA, les modèles et les outils connectés. Les produits et services de Gray Swan s'adressent aux entreprises, laboratoires d'IA et chercheurs en sécurité cherchant des évaluations avant déploiement, une surveillance post-déploiement et des défenses conformes aux réglementations.

Description

• Design new challenges and adversarial scenarios for ongoing and upcoming Arena competitions • Work red teaming engagements with external clients, covering areas like prompt injection, tool use, and agent exploitation • Use Slack, Linear, our Arena design editor, and AI tools to deliver red-teaming results on time and with high quality • Build internal tools and processes for the Arena (e.g., cheating detection) and support operational tasks like break verification and prize distribution. • Work alongside Product and Engineering teams to create realistic scenarios that highlight attack surfaces in frontier systems • Help shape the future of Gray Swan Arena with novel ideas and challenge types

🎯 Exigences

• 1+ years of experience in AI red teaming, adversarial ML, or related security research • Organized and comfortable working independently across multiple concurrent engagements • Proven ability to convey technical ideas in accessible reports • Comfortable with quick pivots and changing priorities. • Experience as a Gray Swan Arena competitor is a plus. • Background in traditional security research, CTFs, or penetration testing. • Experience with AI red teaming beyond LLM prompt injection • Degree or experience equivalent in Computer Science or related field • Familiarity with multimodal attack surfaces • Coding experience for automating or scaling test cases

🏖️ Avantages

• 401k with up to 4% matching • 28 days annual leave (vacation + holidays) • Health, dental, and vision coverage • Catered lunches (Pittsburgh office) • Flexible work arrangements • Visa sponsorship available for exceptional candidates