Senior Deep Learning Software Engineer, Inference

🕒 il y a 5 mois

🏄 California – Distant

🏄 California – Remote

💵 $184 000 - $356 500 / an

⏰ Temps Plein

🟠 Senior

🧑‍💻 Développeur Full-Stack

🦅 Parrain de Visa H1B

Cette entreprise a parrainé des visas H1B par le passé.

👻 Score fantôme 46%

Ce que ça veut dire : la probabilité que cette offre reste ouverte sans recrutement actif.Comment le lire : 60 % ou plus, on pense que c'est une offre fantôme. Un score plus bas est moins inquiétant.Comment on la calcule : ancienneté, republications, postes ouverts vs taille de l'équipe, rapidité de clôture, et si le salaire est indiqué.À noter : une estimation à partir de données publiques, pas un jugement sur l'entreprise. De vraies offres peuvent avoir un score élevé, alors prenez-le comme un indice, pas comme un fait.

Postuler Maintenant

Trouver des Emplois à Distance Similaires

Configurer une alerte email pour les nouveaux emplois

📊 Vérifiez votre score de CV pour ce poste

Améliorez vos chances d'obtenir un entretien en vérifiant votre score de CV avant de postuler.

Télécharger le CV

NVIDIA

Site WebLinkedInTous les Emplois

10 000+ employés

Fondée en 1993

🏥 Santé

🏭 Fabrication

🤖 Intelligence artificielle

Healthcare • Manufacturing • Artificial Intelligence

NVIDIA est une entreprise technologique de premier plan, spécialisée dans le calcul accéléré et l’intelligence artificielle (IA). NVIDIA est à l’avant‑garde des avancées en GPU (processeurs graphiques), cloud computing, centres de données et réalité virtuelle, avec un accent particulier sur les secteurs du gaming, de l’automobile, de la santé et de la robotique. Ses innovations, telles que NVIDIA Omniverse, transforment les processus numériques traditionnels en permettant des simulations haute fidélité et des tâches de rendu de pointe. Ses applications couvrent de nombreux secteurs, des véhicules autonomes avec NVIDIA DRIVE aux solutions de santé avec NVIDIA Clara, ainsi que des analyses et workflows pilotés par l’IA.

Description

• Optimize, analyze, and tune deep learning models across LLM, multimodal, and generative AI domains • Scale deep learning model performance across different architectures and NVIDIA accelerator types • Contribute features and code to NVIDIA inference libraries, vLLM, SGLang, FlashInfer, and LLM software solutions • Collaborate with teams across frameworks, NVIDIA libraries, and inference optimization solutions • Implement the latest algorithms for public release in SGLang, vLLM, and other deep learning frameworks • Identify and drive performance improvements for state-of-the-art LLM and generative AI models across NVIDIA accelerators • Implement and optimize model-serving pipelines using open-source tools and plugins including CUTLASS, OAI Triton, NCCL, and CUDA kernels

🎯 Exigences

• Masters or PhD or equivalent experience in a relevant field (Computer Engineering, Computer Science, EECS, AI) • 6+ years of relevant software development experience • Excellent C/C++ programming and software design skills • Software Agile skills are helpful • Python experience is a plus • Prior experience with training, deploying or optimizing the inference of deep learning models in production is a plus • Prior background with performance modeling, profiling, debugging, code optimization, or CPU/GPU architectural knowledge is a plus • Experience with deep learning software projects such as PyTorch, vLLM, and SGLang is a plus • Experience with multi-GPU communications (NCCL, NVSHMEM) is a plus • Experience building and shipping products to enterprise customers is a plus • GPU programming experience with CUDA, OAI Triton, or CUTLASS is a plus

🏖️ Avantages

• Equity • Benefits