Ingenjör inom inferensinfrastruktur

Ingenjör inom inferensinfrastruktur Heltid och distans (EMEA) Om Poolside Under det här årtiondet kommer världen att skapa artificiell generell intelligens. Det är bara ett litet antal företag som kommer att lyckas. Deras förmåga att bygga vidare på sina fördelar och dra ifrån kommer att avgöra vilka som vinner. De kommer att röra sig snabbare än alla andra och locka till sig världens mest kapabla talanger. De kommer att ligga i framkant inom tillämpad forskning, ingenjörskonst, infrastruktur och driftsättning i stor skala. De kommer att fortsätta träna allt större och mer kapabla modeller. På vägen får de möjlighet att anskaffa det kapital som krävs. De kommer att skapa starka ekonomiska motorer och sätta användarnas och kundernas framgång i centrum. Poolside finns till för att bli ett sådant företag — och för att skapa en värld där AI driver ekonomiskt värdefullt arbete och vetenskapliga framsteg. Om vårt team Vi grundades i USA och har vår bas där, men teamet arbetar utspritt över Europa och Nordamerika. Varje månad träffas vi i Paris för tre dagar av samarbete på plats (och croissanter), alltid måndag till onsdag. Den som vill får gärna stanna hela veckan. En gång om året ordnar vi också en längre teamträff på annan ort. Teamet består av experter inom forskning, teknik och affärsverksamhet. Det som förenar oss är att vi bryr oss djupt om det vi bygger tillsammans. Vi deltar i en kapplöpning som kräver hårt arbete, intellektuell nyfikenhet och starkt engagemang. För att balansera intensiteten har vi satt samman ett prestigelöst och vänligt team som har skapat Poolside-kulturen. När vi bygger tillsammans med eftertanke får arbetet en förstärkande effekt och för hela företaget närmare målet: att nå AGI med intelligenta system byggda för programvaruutveckling. Om rollen Du arbetar i beräkningsteamet med schemaläggning av GPU-arbetslaster och optimering av inferenstjänster. Tillsammans med inferensteamet förbättrar du genomströmning och svarstid för utvärderingar och förstärkningsinlärning. Du samarbetar med skalningsteamet för att stabilisera storskalig, feltolerant träning. Du har även nära kontakt med infrastrukturteamet och ser till att GPU-noderna fungerar väl och används fullt ut. Vi är ett av de team som har stor betydelse för forskningstakten. Förbättringar av våra system påverkar forskarna brett och kan bidra till Poolside-målet att bygga en banbrytande modell. Ditt uppdrag Optimera användningen av GPU:er i hela företaget och leverera en stabil och skalbar inferensmiljö för Poolside-forskarna. Arbetsuppgifter - Utforma och utveckla ett internt schemaläggningssystem som maximerar användningen av GPU:er. - Bygga API:er och verktyg för att hantera GPU-arbetslasternas livscykel och felsöka problem. - Utforma och förbättra inferensens kontrollplan för snabbare modelldistribution och hantering av inferensförfrågningar. - Samarbeta med forskare för att fortlöpande öka forskningstakten. Kompetens och erfarenhet - Goda programmeringskunskaper i Go eller ett motsvarande språk. - Stark bakgrund inom systemteknik, till exempel distribuerade system, schemaläggare, kontrollplan eller dataflöden med hög kapacitet. - Erfarenhet av Kubernetes interna funktioner i produktionsmiljö, bland annat controllers, informers och operators; det räcker inte att enbart ha distribuerat program på Kubernetes. - Intresse för observerbarhet och felsökbarhet samt för att bygga system som är lätta att undersöka vid produktionsproblem. - Meriterande: erfarenhet av system som hanterar inferensförfrågningar i stor skala. Rekryteringsprocess - Inledande samtal med en teammedlem. - En eller flera tekniska intervjuer med en ingenjör. - Samtal om teamet med People-teamet. - Avslutande intervju med en av våra grundande ingenjörer. Förmåner - Helt distansbaserat arbete och flexibla arbetstider. - 37 semesterdagar och helgdagar per år. - Bidrag till sjukförsäkring för dig och dina anhöriga. - 16 veckors flexibel och fullt betald föräldraledighet. - Bidrag för välmående, kontinuerligt lärande och hemmakontor. - Arbetsutrustning från företaget. - Regelbundna teamträffar. - En mångsidig och inkluderande kultur där människor står i centrum.