Senior ML-ingenjör (Token Factory)

Texten nedan är arbetsgivarens ursprungliga platsannons, hämtad exakt som den skrevs. Övriga uppgifter på den här sidan, till exempel lön, arbetsuppgifter och krav, är tolkningar av den texten som gjorts av vårt system, inte värden som arbetsgivaren uttryckligen bekräftat, så se dem som vår bästa tolkning snarare än verifierade fakta.

Rollen Token Factory är en del av Nebius Cloud, en av världens största GPU-moln, med tiotusentals GPU:er. Vi bygger en plattform för inferens och finjustering med hög prestanda, som driver foundation-modellerna till deras hårdvarugränser. Vår uppgift är att maximera genomströmningen, minimera latensen och optimera kostnaden per token över tiotusentals GPUs. Några riktningar vi arbetar med just nu – och som du kan vara en del av: Inferringsoptimering: Identifiera flaskhalsar i LLM-inferens för att driva snabba produktion. Maximera prestanda över ett brett spektrum av LLM-arkitekturer i stor skala (t.ex. GPT-OSS, Kimi K2.5, DeepSeek V3.1/V3.2, GLM-5). Inferensmotorer stöd: Implementera nya spekulativa avkodningsarkitekturer, optimera komponenter av olika LLM-designs (dense/MoE, autoregressiv/parallel) och bidra till open-source inferensmotorer. Lågprecisionsutbildning och inferens: Designa och producera lågpåverkningsutbildnings- och inferens-pipelines med mätbara förbättringar i genomströmning och kostnadseffektivitet. Vi förväntar oss att du har: En djup förståelse för teoretiska grunder inom maskininlärning och transformatorarkitektur. Erfarenhet av att profilera GPU-arbetsbelastningar med Nsight, PyTorch profiler eller liknande verktyg Förståelse för GPU-minneshierarki och beräknings/minnesavvägningar Kännedom om viktiga idéer inom LLM-rymden, som MHA, RoPE, KV-cache, Flash Attention och kvantisering Förståelse för prestandaaspekter vid träning av stora neurala nätverk (sharding-strategier, anpassade kärnor, hårdvarufunktioner etc.) Stark mjukvaruingenjörskompetens (vi använder mestadels Python) Djup erfarenhet av moderna djupa inlärningsramverk Kunnighet i samtida mjukvaruingenjörsmetoder inklusive CI/CD, versionskontroll och enhetstesting Starka kommunikations- och ledarskapsförmågor   Centralt önskemål: Erfarenhet av öppen källkods inferensmotorer (vLLM, SGLang, TensorRT-LLM) inklusive bidrag Erfarenhet av kärnspråk eller DSLs såsom Triton, Cute, CUTLASS, CUDA En merit är erfarenhet av att bygga produkter i en startup-liknande miljö. Stark ingenjörskonst, inklusive erfarenhet av att utveckla stora distribuerade system eller belastade webbtjänster. Öppna projekt som visar din ingenjörskonst  Utmärkt behärskning av engelska språket, i synnerhet skriftlig kommunikation.   Förmåner & Perks: Konkurrenskraftig ersättning Karriärtillväxt och lärande möjligheter Flexibilitet och ägande Samarbetsvillkoren och innovativ kultur Möjlighet att arbeta med påverkande AI-projekt Internationell miljö och talangfulla team Hur det är att arbeta hos Nebius: Snabbt rörlig – Modig tänkande – ständig tillväxt – meningsfull påverkan – tillit och verkligt eget ansvar – möjlighet att forma AI:s framtid Likabehandlingsuttalande: Nebius är arbetsgivare som behandlar alla lika. Vi främjar en inkluderande och mångfaldig arbetsplats och erbjuder lika anställningsmöjligheter i alla delar av anställningen. Ansökan kräver godkännande att arbeta i landet där du söker.