Senior mjukvaruutvecklare: Models Team

Nebius bygger en fullstack‑AI‑molnplattform med fokus på att distribuera och skala AI‑arbete. Models‑teamet ansvarar för att lägga till state‑of‑the‑art open source‑modeller i Nebius TokenFactory och säkerställa högpresterande produktionstjänster. Teamet arbetar med avancerad inferens och systemoptimeringstekniker (cache‑medveten routing, NUMA‑medvetna distributioner, KV‑cache avlastning, disaggregated serving‑arkitekturer, autoskalning med snabb modellinladdning över InfiniBand/RoCE). Vi underhåller forks av vLLM och TRT‑LLM och samarbetar med Solutions Architects. Teamet består av åtta ingenjörer spridda över Europa och arbetar mycket på distans, med regelbundna möten på plats. Vi använder Go och Python. Krav: erfarenhet av LLMs i produktion, starka Python/Go‑färdigheter, erfarenhet av design/dragning av skalbara tjänster. Meriter: bidrag till vLLM, SGLang, TRT‑LLM, NVIDIA‑ekosystemet, KV‑cache, kvantisering, Kubernetes, InfiniBand/RoCE. Förmåner: konkurrenskraftig lön, karriärutveckling, flexibilitet, kulturell innovation. Nebius är arbetsgivare som värdesätter mångfald.

The text above is the employer's original job description, extracted as written. Other details on this page, like salary, responsibilities, and requirements, are interpreted from that text by our system, not values the employer explicitly confirmed, so treat them as our best interpretation rather than verified facts.