Staff Attack Engineer, AI/LLM

🕒 vor 2 Monaten

Jetzt Bewerben

Ähnliche Remote-Jobs finden

E-Mails für Remote-Jobs erhalten

📊 Überprüfen Sie Ihre Lebenslauf-Bewertung für diese Stelle

Verbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.

Lebenslauf hochladen

Horizon3.ai

WebsiteLinkedInAlle Stellen

51 - 200 Mitarbeiter

Gegründet 2019

Die NodeZero™-Plattform befähigt Ihr Unternehmen, Ihre ausnutzbare Angriffsfläche kontinuierlich zu identifizieren, zu beheben und die Wirksamkeit der Maßnahmen zu verifizieren. Reduzieren Sie Ihr Sicherheitsrisiko, indem Sie Schwachstellen in Ihrem Netzwerk autonom finden, wissen, wie Sie sie priorisieren und beheben, und umgehend verifizieren, dass Ihre Maßnahmen wirken. NodeZero liefert produktionssichere, autonome Penetrationstests sowie weitere zentrale Assessments, die über Ihre größten internen, externen, Cloud- und Hybrid-Cloud-Umgebungen skalieren. Keine Agents erforderlich, kein Code zu schreiben, keine Berater zu beauftragen.

Beschreibung

• Break AI and agentic systems and translate that research into automated, repeatable attack modules for NodeZero. • Design and execute prompt injection and defense evasion attacks, focusing on generalized, reusable patterns. • Conduct tool-use exploitation, abusing LLM agents’ access to code, file systems, APIs, and databases for attacker-realistic outcomes (e.g., context poisoning, RCE, data exfiltration, privilege escalation). • Target AI infrastructure (model serving, training pipelines, vector databases, GPU/MLOps tooling) with an understanding of real-world enterprise deployments and misconfigurations. • Research and apply model and supply chain attacks (poisoning, training data extraction, adversarial inputs, deployment pipeline abuse). • Perform threat modeling for agentic systems, mapping trust boundaries and attack surfaces and turning them into concrete attack paths. • Apply a strong productization mindset, turning manual techniques into safe, reliable, and scalable automated tooling. • Build and extend LLM-powered applications (prompting, structured output, agentic workflows). • Design with production concerns in mind: cost, safety and hallucination guardrails, reliability, and observability. • Design and extend microservices that orchestrate LLM tasks and integrate with NodeZero and related offensive workflows.

🎯 Anforderungen

• Expert-level Python and software engineering skills • Solid penetration testing fundamentals and understanding of common attack chains • Familiarity with AI/LLM security frameworks (e.g., OWASP Top 10 for LLMs, MITRE ATLAS) • Experience in a security product or offensive security team, ideally with shipped offensive capabilities or tooling • Proven ability to break AI/LLM and agentic systems • Clear understanding of trust boundaries around AI tools, data sources, and permissions, and how to systematically test and exploit them • Expert-level ownership – drives high-complexity, high-risk programs and sets strategy, not just execution • Self-motivated – identifies problems and builds solutions proactively • Industry obsessed – tracks the fast-moving AI security landscape and can speak to recent developments, new attacks, and where the field is heading.

🏖️ Vorteile

• Health, vision & dental insurance for you and your family • Flexible vacation policy • Generous parental leave