PääML-ratkaisujen arkkitehti

Rooli sijoittuu Nebius Token Factoryyn, meidän serverless-ympäristöön avoimen lähdekoodin LLM:ien ajamiseen ja muokkaamiseen tuotannossa. Token Factory mahdollistaa serverless inferenssin ja hienosäätö (LoRA, full FT, RFT) sisäisillä optimoinneilla kuten spekulatiivinen dekoodaus, kvantisointi, välimuistinmukainen reititys ja omistetut päätepisteet. Tulet olemaan asiakkaiden ensisijainen tekninen auktoriteetti Token Factoryn serverless-inferenssiin ja hienosäätöön liittyen. Suunnittele ja toteuta optimoidut inferenssi- ja hienosäätötyönkulut, ohjaa suurimpien ja strategisimpien asiakkaiden teknistä suuntaa sekä ohjaa työkalujen kehitystä backend-, tuote- ja tutkimustiimien kanssa. Mahdollisuus etätyöhön Yhdysvalloista. Vastuut: - Vastaa monimutkaisimmista asiakasprojektista arkkitehtuurista tuotantoon useilla modulaatioilla - Optimoi LLM-inferenssiä kehitykseen ja laitteistotasolle sekä tallenna parhaat käytännöt uusiksi pelikirjoiksi - Johtaa valvottua ja vahvistavaa hienosäätöä laatunäkökulmasta - Suunnittele ja toteuta tuotantovalmiita LLM-ratkaisuja Token Factoryn inferenssipalveluilla - Tarjoa syvää teknistä asiantuntemusta prompt-suunnittelussa, RAG-arkkitehtuureissa, mallivalinnoissa ja kustannus-/suorituskykytaseissa - Tee tiivistä yhteistyötä tuotteen, teknologian ja tutkimuksen kanssa asiakkaiden tarpeiden sekä platformin kehityssuunnitelman esiin tuomiseksi - Ohjaa PoC:sta tuotantoon keskittyen suorituskykyyn ja kustannustehokkuuteen - Mentoroi Senior- ja keskitason Solutions Architectteja; nosta teknistä tasoa katselmointien ja koulutuksen kautta - Esitä Token Factoryn ulkoisesti puheissa ja blogikirjoituksissa Vaatimukset: - 8+ vuotta ML/AI-järjestelmien parissa, joista vähintään 4 vuotta LLM- ja generatiivisessa AI:ssa - Teknis-custom johtajuus: epäselvien, korkean vaikutuksen ongelmien hallinta ja päätösten vaikuttaminen - LLM-ekosysteemin asiantuntemus: arkkitehtuurit, hienosäätömenetelmät ja inference-internaluudet - Syvällinen käytännön osaaminen inferenssioptimoinnissa: kvantisointi, KV-välimuisti, kokonaiskutoutuminen, reititys - Kokemus: suurkäyttöä LLM-tuotannossa, LLM:n hienosäätö SFT/LoRA sekä datan valmistelu/curation; RL-pohjainen hienosäätö; LLM-arviointi - Python-ohjelmointitaidot ja erinomainen kommunikaatio Eduksi katsotaan: - OSS-projektien kontribuutiot inference/ML puolella; julkaistu tutkimus tai laajalti luettu tekninen kirjoitus LLM/serving aiheista - Monimodal AI -kokemus; DevOps-työkalut ja IaC; sisäisen työkalun kehittäminen ML-workflows Suositeltu teknologia: Python, vLLM, TensorRT-LLM, SGLang, Transformers, OpenAI/Anthropic SDKs; Kubernetes, Docker; AWS SageMaker/Bedrock, Vertex AI, Azure ML