Suorituskykyinsinööri

Verda on teknologiayritys, joka rakentaa seuraavan sukupolven pilvi-infrastruktuuria tekoälyä varten. Toimimme GPU-klustereita Euroopassa, Yhdysvalloissa ja Aasiassa, ja ajamme nykyään joitakin vaativimmista AI/ML-kuormista tuotannossa — alkaen eturintamallien koulutuksesta latenssintarkkaan inferenssiin mittakaavassa. Olemme matalan hierarkian tiimi, joka toimittaa käytännöllisesti ja antaa insinööreille todellisen omistajuuden järjestelmistään. ML/AI-kuormien ajaminen konteissa ja serverless-ympäristöissä näyttää yksinkertaiselta kalvolla, mutta ei ole sitä tuotannossa. Objektivarastojen ja GPU:n välissä on tusina kerrosta — kuvien vetäminen, verkko-tiedostojärjestelmät, sivu-välimuisti, mallin lataajat, ajonaikainen alustuksen — ja jokainen niistä hiljaa vaikuttaa siihen, kuinka kauan työ kestää tulla käyttökelpoiseksi ja kuinka nopeasti se suorittaa. Etsimme suorituskykyinsinööriä, joka omistaa tämän alueen Verdan kontti- ja serverless GPU-alustoille. Sinä kuvaat, missä aika ja läpäisykyky todellisuudessa jakautuvat koko pinossa, ja muunnat tämän ymmärryksen konkreettisiksi parannuksiksi alustassa. Kylmäkäynnistysaika on yksi näkyvimmistä ongelman ilmentymistä — 70 miljardin mallin lataaminen kestää yhdeksänkymmentä sekuntia, mikä on käyttäjän näkökulmasta yhdeksänkymmenen sekunnin katko — mutta samat perusperiaatteet muokkaavat myös jatkuvan inferenssin läpäisykykyä, koulutusvaiheen aikaa ja tarkistuspisteiden käyttäytymistä. Haluamme jonkun, joka ymmärtää, kuinka kaikki nämä osat ovat vuorovaikutuksessa. Profiloi ja optimoi koko matkan containerisoiduille ML/AI-kuormille: kuvan jakelu, käynnistys, painojen lataus, inferenssin kuuma polku. Suunnittele ja säädä tallennustasoa, joka sijaitsee S3-yhteensopivien objektivarastojen ja GPU-solmujen välillä — esilukijat, cacheniväät, verkko-tiedostojärjestelmät ja paikalliset NVMe-layoutit. Aja mitattavia voittoja ensimmäisestä tokenista, koulutusvaiheen ajasta ja kylmäkäynnistysajasta sekä sisäisissä että asiakasohjelmissa. Benchmarkkaa ja kuvaile todellisia kuormia, ei synteettisiä, ja muunna löydökset alustamuutoksiksi. Tee yhteistyötä laskenta-, verkko- ja alustatiimien kanssa poistaaksesi pullonkaulat koko ketjussa, ei vain yhdessä kerroksessa. Julkaise sisäisiä (ja satunnaisesti ulkoisia) raportteja, jotta organisaation ja asiakkaiden ymmärrys paranee. Haluamme jonkun, joka ymmärtää koko järjestelmän, NIC, kytkin, tiedostojärjestelmä, välimuisti, konttiajuri ja GPU. Osaava henkilö osaa reasoningin koko järjestelmästä, ei vain siloista. Osaava henkilö tuntee Linux-tallennuksen ja konttiajurin sisäiset toiminnot. Käytännön kokemusta vähintään yhdestä hajautetusta tai verkko-tiedostojärjestelmästä ja S3-yhteensopivasta objektivarastosta — mukaan lukien suorituskykyä heikentävät tapaukset (pienobjektin ylikuormitus, aluepyynnöt, lopullinen johdonmukaisuus, multipart-säätö). Tuttu mallin palveluympäristö (vLLM, SGLang jne) ja niiden käyttämät formaatit (safetensors, GGUF, jaettuja tarkistuspisteitä). Kokemusta järjestelmänäkökulmasta: NIC, kytkin, tiedostojärjestelmä, välimuisti, konttiajuri ja GPU ovat yksi järjestelmä, ei erillisiä siloja. Hyvä on myös kokemusta järjestelmäkielistä (Go, Rust tai Python), checkpoint/restore -toiminnoista CPU & GPU-kuormille, konttikuvien kiihdytyksestä (eStargz, SOCI, Nydus) tai välimuistin rakentamisesta (FUSE-pohjainen, kernel tai sidecar) ML-välineille ja datakokoelmille. Tuttu RDMA, GPUDirect Storage tai NVMe-oF on plussaa. Aiempi työ serverless GPU -alustoilla, mallirekistereissä tai Kubernetes-pohjaisessa ML-infrastruktuurissa on etu. Avoimen lähdekoodin tallennus-, ML-ajoympäristö-, kontti- tai kernel-projekteihin osallistuminen on plussaa. Kokemus suorituskyvyn optimoinnista raudalla — ei vain pilvessä, jossa joku muu omistaa laitteiston. Sijainti: Helsinki, Suomi. Hybrid-työ: Tämä rooli vaatii läsnäoloa Helsingissä vähintään 3 päivää viikossa. Työsuhde: Kokoaikainen ja pysyvä. Mitä tarjoamme: Palkka + osakepohjainen korvaus ja erilaisia etuja (esim. terveydenhuolto, lounas, hyvinvointi).