AI Red Team Engineer

Stelle nicht auf LinkedIn

🕒 vor 3 Monaten

🌐 Frankreich, Vereinigtes Königreich, +1 weitere Länder – Remote

🇫🇷 Frankreich – Remote 🇬🇧 Vereinigtes Königreich – Remote 🇺🇸 Vereinigte Staaten – Remote

💵 $60.000 - $90.000 / Jahr

⏰ Vollzeit

🟡 Mittelstufe

🟠 Senior

🤖 Künstliche Intelligenz

👻 Geisterscore 27%

Was es bedeutet: wie wahrscheinlich diese Stelle offen bleibt, ohne dass aktiv eingestellt wird.So liest du es: 60 % oder höher heißt, wir halten das für einen Geisterjob. Niedrigere Werte sind weniger bedenklich.Wie wir werten: Dauer offen, Neuveröffentlichungen, offene Stellen vs Teamgröße, wie schnell Stellen geschlossen werden, und ob ein Gehalt angegeben ist.Hinweis: eine Schätzung aus öffentlichen Daten, kein Urteil über das Unternehmen. Echte Stellen können hoch punkten, nutze es also als Hinweis, nicht als Fakt.

Jetzt Bewerben

Ähnliche Remote-Jobs finden

E-Mail-Benachrichtigung für neue Jobs einrichten

📊 Überprüfen Sie Ihre Lebenslauf-Bewertung für diese Stelle

Verbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.

Lebenslauf hochladen

White Circle

WebsiteLinkedInAlle Stellen

1 - 10 Mitarbeiter

🤖 Künstliche Intelligenz

🔌 API

🔐 Sicherheit

Artificial Intelligence • API • Security

White Circle ist eine einheitliche Kontrollschicht für KI-Anwendungen, die Teams dabei unterstützt, modellgesteuerte Funktionen zu testen, zu schützen, zu überwachen und zu optimieren. Die Plattform bietet automatisierte Red-Team-Tests, latenzarme Schutzvorkehrungen, Eingabe-/Ausgabeschutz (PII-Erkennung, Jailbreak-Prävention, Halluzinations-Erkennung, Datenleck-Prävention), Analysen und kundenspezifische Metriken (Risikobewertung, Benutzerverhaltensgruppen) sowie Optimierungstools wie dynamische Eingabeaufforderungen und Modellen-Routing. Bereitgestellt über eine hochleistungsfähige API mit Sicherheit auf Unternehmensniveau (SOC 2, HIPAA), richtet sich White Circle an Organisationen, die KI in großem Maßstab einsetzen.

Beschreibung

• Red-team LLM-powered systems: chatbots, copilots, RAG pipelines, AI agents, tool-calling workflows, and API-based AI products. • Test for jailbreaks, prompt injection, system-prompt and tool leakage, sensitive-data and context leakage, unsafe outputs, policy bypass, tool misuse, excessive agency, resource and token-cost abuse, and business-logic abuse. • Write lightweight Python to automate attacks, run prompt sets, call model APIs, collect and score responses, and generate repeatable reports. • Build and maintain an internal attack library: prompts, scenarios, test cases, regression tests, scoring rubrics, and reusable demo cases. • Turn model failures into clear reports: what happened, why it matters, how to reproduce it, how severe it is, and how to fix it. • Convert successful attacks into regression tests and product requirements. • Track new red-team and safety techniques and fold the useful ones into our tests. • Support GTM by producing strong, credible evidence for customer demos, security reviews, and sales conversations.

🎯 Anforderungen

• Genuinely love breaking things and reasoning adversarially. • Have a background in QA automation, AppSec, API/security/pen testing, or bug bounty. • Have strong Python scripting skills. • Have experience testing APIs, web apps, backends, or SaaS products. • Are hands-on with LLMs, prompts, system instructions, RAG, agents, and tool/function calling. • Understand LLM-specific abuse vectors (prompt injection, jailbreaks, data leakage, tool misuse, excessive agency, token-cost exhaustion). • Can find bypasses, abuse edge cases, chain failures, and reason about real-world impact. • Can separate real customer risk from low-impact prompt tricks. • Write clear, reproducible bug reports in clear English. • Can move fast without perfect requirements. • Hold a firm ethical line: you red-team to make systems safer, operate within scope and the law, and don't produce or traffic in genuinely harmful material.

🏖️ Vorteile

• Paid time off in line with your local regulations, no matter where you work from • Work from Paris (hybrid) + relocation package • Best medical insurance in France • All the hardware, tools, and services you need • Covered subscriptions for AI agents • Team off-sites twice a year: we've recently been to the Alps and to Saint-Tropez