AI Red Team Specialist
£133,000–£196,000/Jahr (£11,083–£16,333/Monat) — Verhandelbar
Stellenbeschreibung
Testen Sie KI-Systeme auf Missbrauchsfälle, unsichere Ausgaben, Richtlinienlücken und Betriebsfehlermodi. Die Rolle verwandelt kontroverse Tests in reproduzierbare Ergebnisse, die Produkt-, Sicherheits- und Technikteams beheben können.
Anforderungen
- Erfahrung mit KI-Red-Teaming, Missbrauchstests, Vertrauen und Sicherheit oder Sicherheitstests
- Fähigkeit, Testfälle, Beweise und Schweregradbewertungen für Modellverhalten zu erstellen
- Vertrautheit mit sofortigen Angriffen, Datenleckrisiken, Jailbreaks und Schadensbegrenzungsvalidierung
- Starkes Schreiben für klare technische Berichte und Folgetickets
- Fähigkeit, Testfälle, Beweise und Schweregradbewertungen für Modellverhalten zu erstellen
- Vertrautheit mit sofortigen Angriffen, Datenleckrisiken, Jailbreaks und Schadensbegrenzungsvalidierung
- Starkes Schreiben für klare technische Berichte und Folgetickets
Verantwortlichkeiten
- Entwerfen und führen Sie kontradiktorische Tests für Modelle und KI-Workflows durch
- Dokumentieren Sie Ergebnisse mit Reproduktionsschritten, Auswirkungen und empfohlenen Abhilfemaßnahmen
- Validieren Sie Korrekturen mit wiederholbaren Testkabeln
- Arbeiten Sie mit KI-Sicherheits-, Produkt- und Technikteams zusammen
- Dokumentieren Sie Ergebnisse mit Reproduktionsschritten, Auswirkungen und empfohlenen Abhilfemaßnahmen
- Validieren Sie Korrekturen mit wiederholbaren Testkabeln
- Arbeiten Sie mit KI-Sicherheits-, Produkt- und Technikteams zusammen
Vorteile
- Arbeiten Sie an KI-Risikoproblemen, die sich auf echte Produktentscheidungen auswirken
- Erstellen Sie praktische Testmethoden statt einmaliger Demonstrationen
- Zusammenarbeit in den Bereichen Sicherheit, Sicherheit und Technik
- Erstellen Sie praktische Testmethoden statt einmaliger Demonstrationen
- Zusammenarbeit in den Bereichen Sicherheit, Sicherheit und Technik
Stellenübersicht
Beschäftigungsart
Vollzeit
Erfahrungsstufe
Berufserfahren
Standort
London, England, Vereinigtes Königreich
Offene Stellen
1
Jetzt bewerben