Research Scientist – Pre-training

🕒 vor 15 Tagen

🌐 Vereinigte Staaten, Australien – Remote

🇺🇸 Vereinigte Staaten – Remote 🇦🇺 Australien – Remote

🏄 California – Remote

🏄 California – Remote

⏰ Vollzeit

🟡 Mittelstufe

🟠 Senior

🧬 Forschungswissenschaftler

👻 Geisterscore 25%

Was es bedeutet: die Wahrscheinlichkeit, dass für diese Stelle niemand wirklich einstellt.So liest du es: 60 % oder höher heißt, wir halten das für einen Geisterjob. Niedrigere Werte sind weniger bedenklich.Wie wir werten: Dauer offen, Neuveröffentlichungen, offene Stellen vs Teamgröße, wie schnell Stellen geschlossen werden, und ob ein Gehalt angegeben ist.Hinweis: eine Schätzung aus öffentlichen Daten, kein Urteil über das Unternehmen. Echte Stellen können hoch punkten, nutze es also als Hinweis, nicht als Fakt.

Jetzt Bewerben

Ähnliche Remote-Jobs finden

Pluralis Research

WebsiteLinkedInAlle Stellen

1 - 10 Mitarbeiter

🤖 Künstliche Intelligenz

🌐 Web 3

Artificial Intelligence • Web 3

Pluralis Research ist ein führendes KI-Forschungslabor, das sich auf Protokolllernen konzentriert – dezentralisiertes, mehrteilnehmerfähiges Training von Fundamentmodellen, bei dem kein einzelner Teilnehmer eine vollständige Kopie des Modells besitzt. Die Gruppe entwickelt Methoden, um kommunikationseffiziente Modell- und Pipeline-Parallelisierung, nicht extrahierbare kollaborative Modelle und hochkomprimierte Kontext-Parallelisierung zu ermöglichen, sodass gemeinschaftlich trainierte und besessene Spitzenmodelle über Geräte mit niedriger Bandbreite und Internetverbindung skaliert werden können. Ihre Arbeit zielt darauf ab, praktische Systeme und Algorithmen zu entwickeln, die dezentrales Training wettbewerbsfähig mit zentralisiertem Training machen, während neue Eigentums- und Wirtschaftsmodelle ermöglicht werden.

Beschreibung

• Build the training system that takes Protocol Learning from an 8B run to frontier scale • Implement and optimize model-parallel distributed pretraining across heterogeneous GPUs • Implement data, pipeline, and tensor parallelism over low-bandwidth, high-latency links • Reduce communication overhead while maintaining model convergence • Build elasticity and fault tolerance so runs survive node churn • Implement robust checkpointing, state synchronization, and recovery as participants join and leave • Build monitoring to show throughput, bottlenecks, and model quality across hundreds of devices • Train and serve large models on heterogeneous hardware in physically different regions over ordinary internet connections

🎯 Anforderungen

• Hands-on distributed training required: trained models across many devices in PyTorch using FSDP, DeepSpeed, Megatron, or a custom implementation • Understanding of data, tensor, and pipeline parallelism • Production-quality Python • Concurrency and failure handling experience • Profiling before optimizing • Evidence of execution through shipped systems, research code, open-source work, or serious personal projects • Mission alignment with Protocol Learning • Professional-level English proficiency, written and spoken • Nice to have: experience training or serving large language models such as Nemotron, Qwen, or OLMo • Nice to have: P2P networking and NAT traversal experience • Nice to have: post-training and reinforcement learning experience • Nice to have: inference and serving systems experience • Nice to have: experience at proprietary, open-weight, or open-source AI labs

🏖️ Vorteile

• Significant ownership/equity for key technical contributors • High base salary • Flexible work environment • Full visa sponsorship and relocation support to either Australia or the US for exceptional candidates • Opportunity to work on open, unsolved research problems • Remote-first culture • Globally distributed team

📊 Überprüfen Sie Ihre Lebenslauf-Bewertung für diese Stelle

Verbessern Sie Ihre Chancen auf ein Vorstellungsgespräch, indem Sie Ihre Lebenslauf-Bewertung vor der Bewerbung überprüfen.

Lebenslauf hochladen