Engenheiro de Red Team de IA – Português Brasileiro

Vaga não está no LinkedIn

Outubro 17

Candidatar-se

Receber Emails com Vagas Similares

Lilt

SiteLinkedInTodas as Vagas

Artificial Intelligence • Enterprise • SaaS

A Lilt é uma empresa de tradução movida por IA que se concentra em fornecer serviços de tradução de idiomas de alta qualidade para empresas. Ela utiliza modelos de IA personalizados e linguistas humanos para garantir traduções precisas e consistentes em mais de 100 idiomas. A Lilt se integra aos sistemas de negócios existentes, permitindo uma troca de conteúdo e gestão de tradução sem interrupções. A empresa atende a uma variedade de setores, incluindo eCommerce, tecnologia, mídia e muito mais, oferecendo soluções adaptadas para diferentes departamentos, como marketing, suporte ao cliente e conteúdo técnico.

51 - 200 funcionários

🤖 Inteligência Artificial

🏢 Corporativo

☁️ SaaS

💰 $55.000.000 Series C em 2022-04

Descrição

• Colabore em projetos focados em testes adversariais de sistemas de IA. • Desenvolva prompts e cenários para testar guardrails e limites dos modelos. • Explore maneiras criativas de contornar restrições e documente sistematicamente os resultados. • Pensa como um adversário para descobrir fraquezas e trabalhe com engenheiros e pesquisadores de segurança para compartilhar descobertas e aprimorar as defesas do sistema.

🎯 Requisitos

• Compreensão profunda de IA Generativa e de modelos principais, incluindo arquiteturas subjacentes, processos de treinamento e modos potenciais de falha. • Cibersegurança e modelagem de ameaças: experiência em princípios de cibersegurança, incluindo modelagem de ameaças, avaliação de vulnerabilidades e testes de penetração. • Análise de dados e PLN: fortes habilidades analíticas para dissecar saídas de modelos, identificar vieses sutis ou erros factuais e reconhecer padrões nas respostas do modelo a diferentes entradas. • Mentalidade de hacking ético: compromisso em usar suas habilidades para fins defensivos e de segurança, aderindo a um código de conduta ético estrito e entendendo a importância da divulgação responsável. • Você possui graduação (Bacharelado) ou mestrado em Ciência da Computação, Engenharia de Software, Cibersegurança, Perícia Digital ou áreas relacionadas. • Inglês em nível avançado (C1) ou superior. • Pensamento adversarial. • Conhecimento de vulnerabilidades, vulnerabilidades comuns de modelos (injeção de prompt, vazamento de histórico de prompts, exfiltração de dados via RAG). • Experiência em segurança de IA/ML, avaliação e red teaming, particularmente com LLMs (modelos de linguagem de grande porte), agentes de IA e pipelines RAG. • Pronto para aprender novos métodos, capaz de alternar rapidamente entre tarefas e tópicos e, às vezes, trabalhar com diretrizes complexas e desafiadoras. • Proficiência em scripting e automação usando Python, Bash ou PowerShell. • Familiaridade com frameworks de red-teaming para IA como garak ou PyRIT.

🏖️ Benefícios

• Remuneração pela sua expertise, com valores que podem chegar a até $55/hora, dependendo das habilidades, experiência e necessidades do projeto. • Participe de um projeto freelance, remoto e em regime de meio período que se encaixa em seus compromissos profissionais ou acadêmicos principais. • Trabalhe em projetos avançados de IA e ganhe experiência valiosa que enriquece seu portfólio. • Influence como modelos de IA futuros entendem e se comunicam na sua área de especialização.