Trust & Safety Evaluator with English from South AfricaI 6- months project

**Beskrivning** En Trust & Safety Evaluator utför adversariell testning och säkerhetsutvärdering av generativa AI-funktioner. Huvudsakliga uppgifter är att utforma frågor, utvärdera säkerheten i det genererade innehållet och ge kritisk feedback. Rollen kräver kreativt tänkande kring potentiellt missbruk, djup kulturell och språklig kunskap samt förmåga att identifiera subtila säkerhetsrisker. **Projekttid: 6 månader** **HUVUDSAKLIGA ANSVARSOMRÅDEN** - Skriva, granska och utvärdera varierade och utmanande frågor utformade för att testa systemets gränser och exponera problematiska utdata. Frågorna kommer att rikta sig mot specifika riskämnen, inklusive explicit och/eller stötande innehåll. - Designa och utföra sekvenser av frågor som simulerar realistiska, pågående konversationer. - Utforma attackscenarier med tekniker som crescendo-attacker och kontextmanipulering för att testa systemet. - Åldersanpassad säkerhetsutvärdering: för att vägleda utformningen av adversariella frågor och säkerhetsutvärdering. - Tilldela riskbetyg till AI-genererat innehåll baserat på säkerhetsriktlinjer. - Upptäcka och artikulera potentiella fördomar (biases) i systemgenererat innehåll. - Identifiera subtila osäkra element, inkonsekvenser eller problematiska implikationer. - Utvärdera specifik kulturell och språklig kunskap i olika kulturella sammanhang. - Utnyttja bekantskap med relevanta domäner, genrer, kulturella referenser och branschkontext. - Slutföra adversariella testuppgifter inom givna tidsramar. - Upprätthålla hög noggrannhet och detaljorientering under högt tempo. **KRAV** - Minst 6 års studier/boende eller arbete i Sydafrika. - Språkkunskaper: Engelska från Sydafrika som primärt språk krävs. - Djup kulturell medvetenhet om det sydafrikanska engelska språket: kontext, sociala normer och värderingar. - Förståelse för kulturella referenser och branschkontext. - Kunskap om hur olika kulturella grupper tolkar innehåll. - Bekantskap med beteendemönster hos yngre målgrupper. - Förmåga att utvärdera innehåll i olika kulturella sammanhang. - Utformning av frågor och design av scenarier. - Tekniker som crescendo-attacker och kontextmanipulering. - Tilldelning av riskbetyg baserat på riktlinjer. - Detektering av fördomar i AI-utdata. - Noggrannhet och förmåga att arbeta snabbt under tidsmässiga begränsningar. - Förmåga att producera kreativt innehåll. - Förståelse för slang och ungdomsspråk. **FÖRETRÄDANDE BAKGRUND** Kreativt skrivande, sociala medier-hantering, community management, innehållsmoderering, digital marknadsföring, kommunikation, journalistik, PR, copywriting eller relaterade områden. **FÖRETRÄDANDE KOMPETENSER** - Bakgrund inom Trust & Safety: Tidigare erfarenhet av trust and safety eller liknande roller. - Förståelse för hur säkerhetssystem fungerar i stor skala och vanliga feltyper. - Flyt i ytterligare språk utöver engelska är en fördel för denna roll. - Bekantskap med koncept inom maskininlärning (Machine Learning). **VARNING OM INNEHÅLL & VALFRIELT DELTAGANDE** Denna roll innebär exponering för känsligt och potentiellt störande innehåll, inklusive exempel på toxiskt och vulgärt språk, sexuellt explicit innehåll, beskrivningar av våld och självskada, barnmissbruk, exploatering och annat skadligt material. Du kommer att möta detta innehåll som en del av den adversariella testningen och säkerhetsutvärderingen. **VI ERBJUDER** - Företagshälsovård vid Terveystalo privatklinik - Lunchförmån med ePassi - Efter 4 månader, berättigande till Pohjola Comprehensive Health Insurance - Omfattande fritidsolycksfallsförsäkring via Pohjola - Sport-, kultur- och hälsoförmåner via Epassi, årligt skattefritt maxvärde 400 € - Multikulturell miljö/mångfald och inkludering - Välgörenhets- och välmåendeaktiviteter - Företagsevenemang - Bonusar för personalreferenser & erkännandeprogram