Red teamer IA
Celle qui fait dérailler le système avant que d’autres s’en chargent
Un red teamer IA attaque un système avant sa mise en service pour trouver ce qu’il fait de travers, et il s’y prend avec sa connaissance d’un domaine, comme un serrurier qu’on paie pour ouvrir sa propre porte.
- Étage 3L’Agent
- P1Écrit la consigne, lit le code
- Titre émergentIl est apparu récemment. Son contenu n’est pas encore stable d’un employeur à l’autre.
Ce dont il répond
Le livrableUn catalogue de défaillances reproductibles, avec ce qui les déclenche. S’il part, on ne découvre plus ces défaillances qu’en public.
Le profil
Cinq gestes, notés de 0 à 3- ChercherProduire une connaissance qui n’existe pas encore.
- ConstruireLivrer un système qui tourne, se déploie et se casse.
- ExploiterTenir en production : coût, incidents, dérive, astreinte.
- VérifierMesurer, éprouver, attaquer. Produire un verdict opposable.
- ConduireArbitrer, convaincre, faire adopter, répondre devant un tiers.
En quoi ça consiste
Deux métiers, un nom
Le titre recouvre deux métiers, et les confondre coûte cher aux deux. L’un cherche des défaillances techniques : contournements, fuites, exécutions non prévues, et il écrit du code. L’autre cherche des défaillances de jugement : un conseil juridique faux mais assuré, une réponse plausible sur une matière dangereuse, et il lui faut connaître la matière.
Ce qui rend le poste efficace
Ce qui rend le second efficace n’est pas l’ingéniosité mais la compétence de domaine. Une personne qui connaît le droit du travail trouvera en une heure des réponses fausses qu’aucun ingénieur ne saurait reconnaître comme fausses. C’est pourquoi les annonces sérieuses demandent une expertise, et non une expérience de l’informatique.
Le piège
Le piège est le caractère non reproductible de la trouvaille. Une défaillance qui ne se rejoue pas ne se corrige pas : elle se raconte. Le travail utile n’est donc pas de faire dérailler le système une fois. C’est d’isoler ce qui le fait dérailler à tous les coups, et cette partie tient de la méthode plus que de l’audace.
Une semaine
- Des tentatives, en série, sur les points où le système a le plus à perdre.
- De la réduction : d’une réponse aberrante à la plus petite formulation qui la produit encore.
- De l’écriture : une défaillance mal décrite ne se corrige pas.
- Des échanges avec ceux qui construisent, qui doivent pouvoir rejouer chaque cas.
Par où l’on y arrive
- Depuis une expertise de domaine, y compris hors technique : droit, santé, sciences, journalisme d’enquête.
- De la sécurité informatique, pour le versant qui code, qui est un métier voisin et distinct.
- Ce que le poste n’exige pas malgré les annonces : savoir entraîner un modèle.
Lire une offre
2 signes- L’annonce mélange contournement technique et jugement de domaine.
- Elle décrit deux métiers. Demandez lequel occupe la majorité du temps, la réponse détermine tout le reste.
- Rien n’est dit de ce qu’on fait des trouvailles.
- Un catalogue que personne ne corrige transforme le poste en documentation d’un risque accepté. C’est une position tenable, mais il faut la connaître.