AI Red Team Engineer – Deutsch

Stelle nicht auf LinkedIn

vor 1 Monat

Bewerben

E-Mails mit ähnlichen Jobs erhalten

Lilt

WebsiteLinkedInAlle Stellen

Artificial Intelligence • Enterprise • SaaS

Lilt ist ein KI-gestütztes Übersetzungsunternehmen, das sich auf die Bereitstellung hochwertiger Sprachübersetzungsdienste für Unternehmen spezialisiert hat. Es nutzt maßgeschneiderte KI-Modelle und menschliche Linguisten, um genaue und konsistente Übersetzungen in über 100 Sprachen sicherzustellen. Lilt integriert sich in bestehende Geschäftssysteme und ermöglicht einen nahtlosen Austausch von Inhalten sowie das Übersetzungsmanagement. Das Unternehmen bedient eine Vielzahl von Branchen, darunter E-Commerce, Technologie, Medien und mehr, und bietet Lösungen, die auf verschiedene Abteilungen wie Marketing, Kundenservice und technische Inhalte abgestimmt sind.

51 - 200 Mitarbeiter

🤖 Künstliche Intelligenz

🏢 Unternehmen

☁️ SaaS

💰 €55.000.000 Series C im 2022-04

Beschreibung

• Zusammenarbeit an Projekten mit Schwerpunkt auf adversarialen Tests von KI-Systemen — LLMs, multimodale Modelle, Inference-Services, RAG/Embeddings und Produktintegrationen. • Erstellung von Prompts und Szenarien zur Prüfung von Modell-Guardrails, Erforschung kreativer Methoden zum Umgehen von Beschränkungen und systematische Dokumentation der Ergebnisse. • Denken wie ein Angreifer, um Schwachstellen aufzudecken, und Zusammenarbeit mit Ingenieur:innen und Sicherheitsforschenden, um Erkenntnisse zu teilen und die Verteidigungsmechanismen der Systeme zu verbessern.

🎯 Anforderungen

• Tiefes Verständnis von Generative AI und den wichtigsten Modellen, einschließlich ihrer zugrunde liegenden Architekturen, Trainingsprozesse und potenziellen Ausfallmodi. • Cybersecurity & Threat Modeling: Erfahrung mit Sicherheitsprinzipien, einschließlich Threat Modeling, Schwachstellenanalyse und Penetrationstests. • Datenanalyse & NLP: Starke analytische Fähigkeiten zur Untersuchung von Modelloutputs, Erkennung subtiler Verzerrungen oder sachlicher Fehler und zum Erkennen von Mustern in den Modellantworten auf unterschiedliche Eingaben. • Ethical-Hacking-Mentalität: Verpflichtung, die Fähigkeiten zu defensiven und sicherheitsorientierten Zwecken einzusetzen, Einhaltung eines strengen ethischen Kodex und Verständnis für verantwortungsvolle Offenlegung (responsible disclosure). • Bachelor- oder Masterabschluss in Informatik, Software Engineering, Cybersecurity, Digital Forensics oder verwandten Fachbereichen. • Fortgeschrittenes Englisch (C1) oder höher. • Kenntnisse zu Schwachstellen, gängigen Modell-Schwachstellen (z. B. Prompt-Injection, Prompt-History-Leakage, Datenexfiltration über RAG). • Erfahrung in AI/ML-Security, Evaluierung und Red-Teaming, insbesondere mit LLMs, AI-Agenten und RAG-Pipelines. • Bereitschaft, neue Methoden zu erlernen und schnell zwischen Aufgaben und Themen zu wechseln. • Versiert in Scripting und Automatisierung mit Python, Bash oder PowerShell. • Vertrautheit mit AI-Red-Teaming-Frameworks wie garak oder PyRIT.

🏖️ Vorteile

• Vergütung für Ihre Expertise, mit Stundensätzen von bis zu 55 USD, abhängig von Fähigkeiten, Erfahrung und Projektanforderungen. • Mitarbeit an einem nebenberuflichen, Remote-Freelance-Projekt, das sich mit Ihren beruflichen oder akademischen Verpflichtungen vereinbaren lässt. • Arbeit an fortgeschrittenen KI-Projekten und Gewinn wertvoller Erfahrungen zur Stärkung Ihres Portfolios. • Einfluss darauf, wie zukünftige KI-Modelle in Ihrem Fachgebiet verstehen und kommunizieren.