Trust & Safety Evaluator with English from Canada I 6- months project

**Beskrivning** Trust & Safety Evaluators utför adversariell testning och säkerhetsutvärdering av generativa AI-funktioner. Huvuduppgifterna är att utforma frågor, utvärdera säkerheten i det genererade innehållet och ge kritisk feedback. Denna roll kräver kreativt tänkande kring potentiellt missbruk, djup kulturell och språklig kunskap samt förmåga att identifiera subtila säkerhetsrisker. **Projekttid: 6 månader** **HUVUDANSVAR** - Skriva, granska och utvärdera varierande och utmanande frågor utformade för att testa systemets gränser och exponera problematiska resultat. Frågorna kommer att rikta sig mot specifika riskområden, inklusive explicit och/eller stötande innehåll. - Designa och utföra sekvenser av frågor som simulerar realistiska, pågående konversationer. - Utforma attackscenarier med tekniker som "crescendo attacks" och kontextmanipulering för att testa systemet. - Åldersanpassad säkerhetsutvärdering: för att vägleda utformningen av adversariella frågor och säkerhetsutvärderingar. - Tilldela riskbetyg till AI-genererat innehåll baserat på säkerhetsriktlinjer. - Upptäcka och artikulera potentiella fördomar (biases) i systemgenererat innehåll. - Identifiera subtila osäkra element, inkonsekvenser eller problematiska implikationer. - Utvärdera specifik kulturell och språklig kunskap i olika kulturella sammanhang. - Utnyttja bekantskap med relevanta domäner, genrer, kulturella referenser och branschkontext. - Slutföra adversariella testuppgifter inom givna tidsramar. - Upprätthålla hög noggrannhet och detaljprecision vid ett högt arbetstempo. **KRAV** - Minst 6 års studier/boende eller arbete i Kanada. - Språkkunskaper: Engelska från Kanada som primärspråk krävs. - Djup kulturell medvetenhet om kanadensisk engelska: kontext, sociala normer och värderingar. - Förståelse för kulturella referenser och branschkontext. - Kunskap om hur olika kulturella grupper tolkar innehåll. - Bekantskap med beteendemönster hos yngre målgrupper. - Förmåga att utvärdera innehåll i olika kulturella sammanhang. - Utformning av frågor och scenariodesign. - Tekniker som "crescendo attacks" och kontextmanipulering. - Tilldelning av riskbetyg baserat på riktlinjer. - Detektering av fördomar i AI-resultat. - Noggrannhet och förmåga att arbeta snabbt under tidspress. - Förmåga att producera kreativt innehåll. - Förståelse för slang och ungdomsspråk. **FÖRETRÄDANDE BAKGRUND** Kreativt skrivande, sociala medier-hantering, community management, innehållsmoderering, digital marknadsföring, kommunikation, journalistik, PR, copywriting eller relaterade områden. **FÖRETRÄDANDE FÄRDIGHETER** - Bakgrund inom Trust & Safety: Tidigare erfarenhet av trust and safety eller liknande roller. - Förståelse för hur säkerhetssystem fungerar i stor skala och vanliga felkällor. - Flyt i ytterligare språk utöver engelska är en fördel i denna roll. - Bekantskap med koncept inom maskininlärning (Machine Learning). **VARNING GÄLLENDE INHÅLL & VALFRIVILLIGT DELTAGANDE** Denna roll innebär exponering för känsligt och potentiellt störande innehåll, inklusive exempel på toxiskt och vulgärt språk, sexuellt explicit innehåll, beskrivningar av våld och självskada, barnmissbruk, exploatering och annat skadligt material. Du kommer att möta detta innehåll som en del av den adversariella testningen och säkerhetsutvärderingen. **VI ERBJUDER** - Företagshälsovård på Terveystalo privatklinik - Lunchförmån med ePassi - Efter 4 månader, behörighet till Pohjola Comprehensive Health Insurance - Omfattande fritidsolycksfallsförsäkring via Pohjola - Sport-, kultur- och hälsoförmåner via Epassi, årligt skattefritt maxvärde 400 € - Multikulturell miljö/mångfald och inkludering - Välgörenhets- och välmåendeaktiviteter - Företagsevenemang - Bonusar för anställd-referenser & erkännandeprogram _Endast utvalda kandidater kommer att kontaktas/intervjuas._ Vänligen bifoga en uppdaterad kopia av ditt CV på engelska.