Research Scientist – Pre-training

🕒 Outubro 14

🌐 Estados Unidos, Austrália – Remoto

🇺🇸 Estados Unidos – Remoto (EUA) 🇦🇺 Austrália – Remoto

🏄 California – Remoto

🏄 California – Remote

⏰ Tempo Integral

🟡 Pleno

🟠 Sênior

🧬 Cientista Pesquisador(a)

👻 Score fantasma 25%

O que significa: quão provável esta vaga está aberta sem contratação ativa.Como ler: 60% ou mais significa que achamos que é uma vaga fantasma. Pontuações mais baixas preocupam menos.Como pontuamos: tempo em aberto, republicações, vagas abertas vs tamanho do time, rapidez para fechar vagas, e se o salário está divulgado.Observação: é uma estimativa de dados públicos, não um julgamento da empresa. Vagas reais podem ter pontuação alta, então use como uma dica, não como um fato.

Candidatar-se

Encontrar Vagas Remotas Similares

Configurar Alerta de Email para Novas Vagas

📊 Verifique sua pontuação de currículo para esta vaga

Melhore suas chances de conseguir uma entrevista verificando sua pontuação de currículo antes de se candidatar.

Enviar Currículo

Pluralis Research

SiteLinkedInTodas as Vagas

1 - 10 funcionários

🤖 Inteligência Artificial

🌐 Web 3

Artificial Intelligence • Web 3

A Pluralis Research é um laboratório de pesquisa de IA voltado para Protocol Learning — treinamento descentralizado e com múltiplos participantes de modelos de base onde nenhum participante possui uma cópia completa do modelo. O grupo desenvolve métodos para permitir paralelismo de modelo e pipeline eficiente em comunicação, modelos colaborativos não extraíveis e paralelismo de contexto de alta compressão para que modelos de ponta treinados e de propriedade da comunidade possam se expandir em dispositivos conectados à internet de baixa largura de banda. Seu trabalho tem como foco sistemas práticos e algoritmos que tornam o treinamento descentralizado competitivo com o treinamento centralizado, enquanto possibilitam novos modelos de propriedade e economia.

Descrição

• Build the training system that takes Protocol Learning from an 8B run to frontier scale • Implement and optimize model-parallel distributed pretraining across heterogeneous GPUs • Implement data, pipeline, and tensor parallelism over low-bandwidth, high-latency links • Reduce communication overhead while maintaining model convergence • Build elasticity and fault tolerance so runs survive node churn • Implement robust checkpointing, state synchronization, and recovery as participants join and leave • Build monitoring to show throughput, bottlenecks, and model quality across hundreds of devices • Train and serve large models on heterogeneous hardware in physically different regions over ordinary internet connections

🎯 Requisitos

• Hands-on distributed training required: trained models across many devices in PyTorch using FSDP, DeepSpeed, Megatron, or a custom implementation • Understanding of data, tensor, and pipeline parallelism • Production-quality Python • Concurrency and failure handling experience • Profiling before optimizing • Evidence of execution through shipped systems, research code, open-source work, or serious personal projects • Mission alignment with Protocol Learning • Professional-level English proficiency, written and spoken • Nice to have: experience training or serving large language models such as Nemotron, Qwen, or OLMo • Nice to have: P2P networking and NAT traversal experience • Nice to have: post-training and reinforcement learning experience • Nice to have: inference and serving systems experience • Nice to have: experience at proprietary, open-weight, or open-source AI labs

🏖️ Benefícios

• Significant ownership/equity for key technical contributors • High base salary • Flexible work environment • Full visa sponsorship and relocation support to either Australia or the US for exceptional candidates • Opportunity to work on open, unsolved research problems • Remote-first culture • Globally distributed team