Responsable de la gouvernance IA
Celui qui décide qui a le droit de déployer quoi
Un responsable de la gouvernance IA écrit les règles internes qui disent qui peut déployer quoi, et avec quelles données, comme un règlement intérieur qui existe avant que l’incident arrive.
- Étage 4L’Organisation
- P0Ne touche pas au code
- Titre émergentIl est apparu récemment. Son contenu n’est pas encore stable d’un employeur à l’autre.
Ce dont il répond
Le livrableUn cadre écrit, connu, et appliqué : ce qui est permis, par qui, avec quelles données. S’il part, chacun décide seul, et personne ne sait plus qui a décidé quoi.
Le profil
Cinq gestes, notés de 0 à 3- ChercherProduire une connaissance qui n’existe pas encore.
- ConstruireLivrer un système qui tourne, se déploie et se casse.
- ExploiterTenir en production : coût, incidents, dérive, astreinte.
- VérifierMesurer, éprouver, attaquer. Produire un verdict opposable.
- ConduireArbitrer, convaincre, faire adopter, répondre devant un tiers.
En quoi ça consiste
Ce que la fonction règle
La fonction règle une question que personne d’autre ne peut trancher : jusqu’où une équipe peut aller seule. Sans réponse écrite, chacun prend la sienne, et les décisions les plus lourdes finissent prises par ceux qui avaient le moins d’informations. C’est une fonction d’arbitrage avant d’être une fonction de contrôle.
Pourquoi l’interdiction échoue
L’interdiction générale échoue toujours de la même façon. Les outils sont accessibles depuis un navigateur, donc l’usage ne disparaît pas, il devient invisible : on perd la trace, on perd le contrôle des données, et l’on garde le risque en croyant l’avoir supprimé. Une gouvernance qui fonctionne ouvre des chemins praticables et surveille les autres.
Le piège
Le piège est le rattachement. La fonction n’a aucun pouvoir propre : elle emprunte celui de la direction qui la porte. Rattachée trop bas, elle produit des chartes que personne ne lit ; rattachée à la direction générale sans relais opérationnel, elle écrit des principes qu’aucune équipe ne sait appliquer. Les deux échecs sont fréquents et se ressemblent peu.
Une semaine
- Des arbitrages : cette équipe peut-elle utiliser cet outil sur ces données, et sous quelles conditions.
- De l’écriture de règles, courtes, sinon personne ne les lira.
- Des échanges avec la conformité, le juridique et la sécurité, qui ne veulent pas la même chose.
- De la mesure d’usage, sans quoi on gouverne ce qu’on imagine plutôt que ce qui se passe.
Par où l’on y arrive
- De la direction des systèmes d’information ou de la sécurité, où l’arbitrage est déjà le métier.
- De la conduite du changement, à condition d’obtenir une autorité de décision et pas seulement d’animation.
- Ce que le poste n’exige pas : savoir programmer. Il exige de savoir à qui demander.
Lire une offre
2 signes- L’annonce décrit une charte à rédiger, et rien après.
- Une charte sans application est un document. Demandez ce qui se passe quand une équipe ne la respecte pas.
- Le mot « interdire » revient plus souvent que le mot « permettre ».
- L’organisation en est encore à la phase de refus. L’usage clandestin y est probablement déjà installé, et ce sera votre premier chantier.