Red Team Engineer

🕒 vor 6 Tagen

Jetzt Bewerben

Ähnliche Remote-Jobs finden

E-Mail-Benachrichtigung für neue Jobs einrichten

📊 Überprüfen Sie Ihre Lebenslauf-Bewertung für diese Stelle

Verbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.

Lebenslauf hochladen

Gray Swan

WebsiteLinkedInAlle Stellen

11 - 50 Mitarbeiter

Gegründet 2023

🤖 Künstliche Intelligenz

🔒 Cybersecurity

☁️ SaaS

Artificial Intelligence • Cybersecurity • SaaS

Gray Swan ist ein KI-Sicherheitsunternehmen, das eine forschungsbasierte Plattform entwickelt, um KI-Implementierungen über den gesamten Lebenszyklus hinweg zu schützen. Es bietet Eingabe/Ausgabe-Filterung, kontinuierliche Überwachung, automatisierte Schwachstellentests und unternehmensfokussierte Red-Teaming-Dienste. Das Unternehmen kombiniert Spitzentechnologie, Benchmarks und groß angelegte Red-Team-Wettbewerbe, um aufkommende Angriffe zu identifizieren und adaptive, integrierbare Schutzmaßnahmen für KI-Agenten, Modelle und verbundene Tools bereitzustellen. Die Produkte und Dienstleistungen von Gray Swan richten sich an Unternehmen, KI-Labore und Sicherheitsforscher, die Pre-Deployment-Bewertungen, Post-Deployment-Überwachung und Compliance-bereite Abwehrmaßnahmen suchen.

Beschreibung

• Design new challenges and adversarial scenarios for ongoing and upcoming Arena competitions • Work red teaming engagements with external clients, covering areas like prompt injection, tool use, and agent exploitation • Use Slack, Linear, our Arena design editor, and AI tools to deliver red-teaming results on time and with high quality • Build internal tools and processes for the Arena (e.g., cheating detection) and support operational tasks like break verification and prize distribution. • Work alongside Product and Engineering teams to create realistic scenarios that highlight attack surfaces in frontier systems • Help shape the future of Gray Swan Arena with novel ideas and challenge types

🎯 Anforderungen

• 1+ years of experience in AI red teaming, adversarial ML, or related security research • Organized and comfortable working independently across multiple concurrent engagements • Proven ability to convey technical ideas in accessible reports • Comfortable with quick pivots and changing priorities. • Experience as a Gray Swan Arena competitor is a plus. • Background in traditional security research, CTFs, or penetration testing. • Experience with AI red teaming beyond LLM prompt injection • Degree or experience equivalent in Computer Science or related field • Familiarity with multimodal attack surfaces • Coding experience for automating or scaling test cases

🏖️ Vorteile

• 401k with up to 4% matching • 28 days annual leave (vacation + holidays) • Health, dental, and vision coverage • Catered lunches (Pittsburgh office) • Flexible work arrangements • Visa sponsorship available for exceptional candidates