Senior Deep Learning Software Engineer, Inference – Model Optimization

🕒 il y a 2 jours

🏄 California – Distant

🏄 California – Remote

💵 $184 000 - $356 500 / an

⏰ Temps Plein

🟠 Senior

🧑‍💻 Développeur Full-Stack

🦅 Parrain de Visa H1B

Cette entreprise a parrainé des visas H1B par le passé.

👻 Score fantôme 11%

Ce que ça veut dire : la probabilité que personne ne recrute vraiment pour cette offre.Comment le lire : 60 % ou plus, on pense que c'est une offre fantôme. Un score plus bas est moins inquiétant.Comment on la calcule : ancienneté, republications, postes ouverts vs taille de l'équipe, rapidité de clôture, et si le salaire est indiqué.À noter : une estimation à partir de données publiques, pas un jugement sur l'entreprise. De vraies offres peuvent avoir un score élevé, alors prenez-le comme un indice, pas comme un fait.

Postuler Maintenant

Trouver des Emplois à Distance Similaires

NVIDIA

Site WebLinkedInTous les Emplois

10 000+ employés

Fondée en 1993

🏥 Santé

🏭 Fabrication

🤖 Intelligence artificielle

Healthcare • Manufacturing • Artificial Intelligence

NVIDIA est une entreprise technologique de premier plan, spécialisée dans le calcul accéléré et l’intelligence artificielle (IA). NVIDIA est à l’avant‑garde des avancées en GPU (processeurs graphiques), cloud computing, centres de données et réalité virtuelle, avec un accent particulier sur les secteurs du gaming, de l’automobile, de la santé et de la robotique. Ses innovations, telles que NVIDIA Omniverse, transforment les processus numériques traditionnels en permettant des simulations haute fidélité et des tâches de rendu de pointe. Ses applications couvrent de nombreux secteurs, des véhicules autonomes avec NVIDIA DRIVE aux solutions de santé avec NVIDIA Clara, ainsi que des analyses et workflows pilotés par l’IA.

Description

• Train, develop, and deploy state-of-the generative AI models like LLMs and diffusion models using NVIDIA's AI software stack • Leverage and build upon the torch 2.0 ecosystem, including TorchDynamo, torch.export, and torch.compile, to analyze and extract standardized model graph representations from arbitrary torch models • Develop high-performance inference optimization techniques, including automated model sharding, tensor parallelism, sequence parallelism, and efficient attention kernels with KV-caching • Collaborate with teams across NVIDIA to use performant kernel implementations within the automated deployment solution • Analyze and profile GPU kernel-level performance to identify hardware and software optimization opportunities • Continuously innovate on inference performance for NVIDIA's inference software solutions, including TRT, TRT-LLM, and TRT Model Optimizer • Architect and design a modular, scalable software platform supporting broad model coverage and optimization techniques

🎯 Exigences

• Masters, PhD, or equivalent experience in Computer Science, AI, Applied Math, or related field • 8+ years of relevant work or research experience in Deep Learning • Excellent software design skills, including debugging, performance analysis, and test design • Strong proficiency in Python, PyTorch, and related ML tools (e.g. HuggingFace) • Strong algorithms and programming fundamentals • Good written and verbal communication skills and the ability to work independently and collaboratively in a fast-paced environment • Contributions to PyTorch, JAX, or other Machine Learning Frameworks • Knowledge of GPU architecture and compilation stack, and capability of understanding and debugging end-to-end performance • Familiarity with NVIDIA's deep learning SDKs such as TensorRT • Prior experience in writing high-performance GPU kernels for machine learning workloads in frameworks such as CUDA, CUTLASS, or Triton

🏖️ Avantages

• Highly competitive salaries • Comprehensive benefits package • Equity

📊 Vérifiez votre score de CV pour ce poste

Améliorez vos chances d'obtenir un entretien en vérifiant votre score de CV avant de postuler.

Télécharger le CV