Inference-infrastruktuurin insinööri

Tietoa Poolsidesta Tällä vuosikymmenellä maailma luo yleisen tekoälyn (AGI). Vain pieni määrä yrityksiä saavuttaa tämän. Heidän kykynsä kerryttää etuja ja vetää muilta ohi määrittelee voittajat. Nämä yritykset liikkuvat nopeammin kuin kukaan muu. He houkuttelevat maailman kyvykkäimmät kyvyt. He ovat sovelletun tutkimuksen, tekniikan, infrastruktuurin ja laajamittakaivaisen käyttöönoton eturintamassa. He jatkavat koulutuksensa skaalaamista suurempiin ja kyvykkäämpiin malleihin. Heille annetaan oikeus kerätä suuria määriä pääomaa matkallaan tämän mahdollistamiseksi. He luovat voimakkaita talousmoottoreita. He ovat pakkomielisteisiä käyttäjiensä ja asiakkaidensa menestyksestä. Poolside on olemassa ollakseen tämä yritys — rakentaakseen maailman, jossa tekoäly on taloudellisesti arvokkaan työn ja tieteellisen edistyksen moottori. Tietoa tiimistämme Perustimme yrityksen Yhdysvalloissa ja kotimme on siellä, mutta tiimimme on hajautettu Eurooppaan ja Pohjois-Amerikkaan. Saamme annoksen kasvokkain tapahtuvaa yhteistyötä (ja croissanteja) Pariisissa joka kuukausi 3 päivän ajan, aina maanantaista keskiviikkoon, ja kutsumme avoimesti viipymään koko viikon. Järjestämme myös pidempiä off-site-tapahtumia kerran vuodessa. Tiimimme on monitieteinen sekoitus tutkimus-, tekniikka- ja liiketoiminta-asiantuntijoita. Meitä yhdistää syvä välittäminen siitä, mitä rakennamme yhdessä. Olemme kilpajuoksussa, joka vaatii kovaa työtä, älyllistä uteliaisuutta ja intohimoa; tasapainottaakseen tämän intensiteetin olemme koonneet tiimin vähäegoisista ja hyväsydämisistä yksilöistä, jotka ovat rakentaneet Poolsiden erityisen kulttuurin. Rakentamalla yhteisöllisesti ja tarkoituksellisesti luomme kerrannaisvaikutuksen, joka vie koko yritystä eteenpäin kohti missioitamme: AGI:n saavuttamista ohjelmistokehitykseen rakennettujen älykkyysjärjestelmien kautta. Tietoa roolista Työskentelet compute-tiimissä keskittyen GPU-työkuormien ajastukseen ja inferenssipalvelun optimointiin. Teet yhteistyötä inferenssitiimin kanssa parantaaksesi inferenssin läpimenoa ja viivettä evaluoinneissa ja vahvistusoppimisessa. Teet yhteistyötä skaalautuvuustiimimme kanssa keskittyen suurten mittakaavojen vikasietoisen koulutuksen stabilointiin. Olet myös läheisessä yhteydessä infra-tiimiin varmistaaksesi, että GPU-solmut ovat kunnossa ja täydessä hyötykäytössä. Olemme yksi avaintiimeistä tutkimusnopeuden parantamisessa. Järjestelmiemme parannuksilla on laaja vaikutus tutkijoihin ja ne voivat edistää Poolsiden missiota frontier-mallin rakentamisessa. Missiosi Optimoida GPU-kapasiteetin käyttö koko yrityksessä ja toimittaa vakaa ja skaalautuva inferenssipalvelupino Poolsiden tutkijoille. Vastuualueet - Suunnitella ja kehittää sisäinen ajastusjärjestelmä GPU-kapasiteetin käytön maksimoimiseksi - Rakentaa API-rajapintoja ja työkaluja GPU-työkuormien elinkaaren hallintaan ja vikojen vianetsintään - Suunnitella ja parantaa inferenssin ohjaustasoa nopeuttaakseen mallien käyttöönottoa ja inferenssipyyntöjen palvelua - Tehdä yhteistyötä tutkimuksen kanssa tutkimusnopeuden jatkuvaksi parantamiseksi Taidot ja kokemus - Vahvat ohjelmointitaidot Go-kielellä tai muilla vastaavilla kielillä - Vahva järjestelmäsuunnittelun tausta: hajautetut järjestelmät, ajastimet, ohjaustasot tai suurtehoiset datatasot. - Tuotantokokemus Kubernetesin sisäisistä toiminnoista — controllers, informers, operators — ei vain sen käyttöön ottamisesta. - Painotus havaittavuuteen ja vianetsintään: järjestelmän rakentaminen siten, että se on helppo navigoida tuotanto-ongelmien vianetsinnän aikana - Plussaa: kokemus suurten mittakaavojen inferenssipyyntöjen palvelevista järjestelmistä Prosessi - Esittelypuhelu tiimimme jäsenen kanssa - Tekninen haastattelu (tai haastattelut) yhden insinöörimme kanssa - Tiimiin sopivuuden arviointi People-tiimin kanssa - Loppuhaastattelu yhden perustajainsinöörimme kanssa Edut - Täysin etätyö ja joustavat työajat - 37 päivää/vuosi lomaa ja pyhäpäiviä - Terveysvakuutuskorvaus sinulle ja perheellesi - 16 viikkoa joustavaa, täysipalkkaista vanhempainvapaata - Hyvinvointi-, jatkuvan oppimisen ja kotitoimiston korvaukset - Yrityksen tarjoama laitteisto - Tiheät tiimin kokoontumiset - Monimuotoinen ja inklusiivinen, ihmislähtöinen kulttuuri