AI Safety Researcher

Bewerten Sie KI-Systeme auf Missbrauchsrisiken, Ausrichtungsprobleme, Zuverlässigkeitslücken und richtlinienrelevante Fehlermodi. Die Rolle führt zu praktischen Sicherheitsergebnissen, auf die Technik- und Produktteams reagieren können.

- Forschungs- oder Anwendungserfahrung in den Bereichen KI-Sicherheit, Ausrichtung, Risikobewertung oder verwandten ML-Bereichen
- Vertrautheit mit Red-Team-Tests, RLHF-Überprüfung, Verfassungs-KI oder Modellrisikodokumentation
- Fähigkeit, klare, evidenzbasierte Ergebnisse für technische und nichttechnische Leser zu verfassen
- Starkes Urteilsvermögen in Bezug auf Unsicherheit, Schweregrad und Abhilfekompromisse

- Entwerfen und führen Sie Sicherheitsbewertungen für Modelle und KI-Workflows durch
- Dokumentieren Sie Ergebnisse, Abhilfemaßnahmen und Restrisiken vor dem Start
- Arbeiten Sie mit dem KI-Red-Team, den Richtlinien-, Technik- und Produktteams zusammen
- Verbessern Sie die Sicherheitstestkabel und überprüfen Sie die Prozesse im Laufe der Zeit

- Direkter Einfluss auf Produktions-KI-Risikoentscheidungen
- Arbeiten Sie mit technischen, politischen und kundenorientierten Teams zusammen
- Raum für die Entwicklung praktischer Bewertungsmethoden statt nur abstrakter Richtlinien