AI Safety Researcher

Avalie os sistemas de IA quanto a riscos de uso indevido, preocupações de alinhamento, lacunas de confiabilidade e modos de falha relevantes para políticas. A função produz descobertas práticas de segurança nas quais as equipas de engenharia e de produto podem agir.

- Pesquisa ou experiência aplicada em segurança de IA, alinhamento, avaliação de risco ou áreas relacionadas de ML
- Familiaridade com testes de equipa vermelha, revisão RLHF, IA constitucional ou documentação de risco de modelo
- Capacidade de escrever descobertas claras e baseadas em evidências para leitores técnicos e não técnicos
- Forte julgamento sobre incerteza, gravidade e compensações de mitigação

- Projetar e executar avaliações de segurança para modelos e fluxos de trabalho de IA
- Documentar descobertas, mitigações e riscos residuais antes do lançamento
- Faça parceria com equipas vermelhas de IA, políticas, engenharia e produtos
- Melhorar os equipamentos de teste de segurança e revisar os processos ao longo do tempo

- Influência direta nas decisões de risco de IA de produção
- Trabalhar com equipas técnicas, políticas e de atendimento ao cliente
- Espaço para construir métodos de avaliação práticos em vez de apenas políticas abstratas