Research Engineer – Pretraining Data

🕒 il y a 16 jours

🏄 California – Distant

🏄 California – Remote

💵 $150 000 - $350 000 / an

⏰ Temps Plein

🟡 Intermédiaire

🟠 Senior

📚 Ingénieur de Recherche

👻 Score fantôme 5%

Ce que ça veut dire : la probabilité que personne ne recrute vraiment pour cette offre.Comment le lire : 60 % ou plus, on pense que c'est une offre fantôme. Un score plus bas est moins inquiétant.Comment on la calcule : ancienneté, republications, postes ouverts vs taille de l'équipe, rapidité de clôture, et si le salaire est indiqué.À noter : une estimation à partir de données publiques, pas un jugement sur l'entreprise. De vraies offres peuvent avoir un score élevé, alors prenez-le comme un indice, pas comme un fait.

Postuler Maintenant

Trouver des Emplois à Distance Similaires

Prime Intellect

Site WebLinkedInTous les Emplois

1 - 10 employés

🤖 Intelligence artificielle

☁️ SaaS

Artificial Intelligence • SaaS • Cloud Computing

Prime Intellect est une entreprise dédiée à la démocratisation du développement de l'IA en offrant des ressources informatiques évolutives et décentralisées pour l'entraînement de modèles. Leur plateforme permet aux utilisateurs de trouver et de partager des ressources de calcul à l'échelle mondiale, facilitant ainsi l'entraînement de modèles avancés via des clusters distribués. Ils promeuvent la propriété collective des innovations en IA, incluant des modèles linguistiques et scientifiques. Prime Intellect propose également une gamme d'options GPU pour permettre un entraînement de modèles abordable et efficace. Leur objectif est de faire progresser la recherche sur l'entraînement décentralisé et le développement de l'IA open-source à l'échelle mondiale.

Description

• Find, evaluate, and collect valuable training data from web, code, and technical sources • Build scalable pipelines that turn raw data into training-ready corpora through extraction, cleaning, deduplication, and filtering • Develop checks for data quality, coverage, and contamination, and use them to improve collection and processing • Work with researchers on data mixtures and sampling strategies for pretraining and midtraining • Prepare and evaluate data for long-context learning, reasoning, and coding, testing synthetic data where useful • Run controlled data experiments and use model evaluations to decide which sources, mixtures, and processing choices are worth scaling • Make large-scale data processing efficient, reproducible, and recoverable, with clear source provenance and dataset versioning

🎯 Exigences

• Strong programming skills in Python and a record of building reliable data-processing or distributed systems • Experience working with large datasets and managing the practical tradeoffs of storage, compute, throughput, and reproducibility • Ability to diagnose data-quality issues and translate research goals into measurable checks and experiments • Comfort owning an evolving technical problem end to end and working closely with researchers to test assumptions and improve the system • Experience with web crawling, document extraction, code-data collection, or large-scale corpus curation • Experience with deduplication, text classification, quality scoring, synthetic data, or training-data contamination analysis • Experience with data-mixture experiments, curriculum learning, or measuring how dataset changes affect model performance • Experience preparing datasets for language-model pretraining, continued pretraining, or midtraining is nice to have • Work with distributed processing frameworks such as Spark, Ray, or comparable systems is nice to have • Experience with multilingual, mathematical, scientific, or repository-level code data is nice to have • Familiarity with tokenization, training data loaders, and the needs of large model-training runs is nice to have

🏖️ Avantages

• Equity incentives • Flexible work arrangements, with the option to work remotely or in-person at our offices in San Francisco • Visa sponsorship • Relocation assistance for international candidates • Quarterly team off-sites • Hackathons • Conferences and learning opportunities

📊 Vérifiez votre score de CV pour ce poste

Améliorez vos chances d'obtenir un entretien en vérifiant votre score de CV avant de postuler.

Télécharger le CV