LLMOps engineer
Celui qui tient en production ce qui ne répond jamais deux fois pareil
Un LLMOps engineer tient en production des systèmes dont la sortie change à chaque appel, ce qui rend inutilisable la moitié des instruments habituels, comme un mécanicien dont le moteur ne ferait jamais deux fois le même bruit.
- Étage 2Le Harnais
- P3Écrit le système
- Titre émergentIl est apparu récemment. Son contenu n’est pas encore stable d’un employeur à l’autre.
Ce dont il répond
Le livrableUne plateforme où d’autres déploient sans casser : versions de consignes, quotas, traces, coût attribué. S’il part, on ne sait plus ce qui tourne, ni ce qu’il coûte.
Le profil
Cinq gestes, notés de 0 à 3- ChercherProduire une connaissance qui n’existe pas encore.
- ConstruireLivrer un système qui tourne, se déploie et se casse.
- ExploiterTenir en production : coût, incidents, dérive, astreinte.
- VérifierMesurer, éprouver, attaquer. Produire un verdict opposable.
- ConduireArbitrer, convaincre, faire adopter, répondre devant un tiers.
En quoi ça consiste
Ce que la sortie change
Toute l’exploitation classique repose sur une hypothèse : à entrée égale, sortie égale. Elle tombe ici. On ne peut plus rejouer un incident à l’identique, ni comparer deux versions par une égalité, ni tester par assertion. Ce qui les remplace est une famille d’instruments neufs, et c’est ce qui a séparé ce métier du MLOps.
Le coût devient une métrique
Le coût cesse d’être une ligne d’infrastructure pour devenir une métrique de produit. Chaque appel se paie, le prix dépend de ce qu’on a mis dans la fenêtre, et une fonctionnalité mal réglée peut coûter plus que l’équipe qui l’a écrite. Attribuer le coût par fonctionnalité est un travail à part entière, et il n’existait pas avant.
Le piège
Le piège est le titre, qui n’est pas encore fixé : selon l’organisation, les mêmes missions s’appellent MLOps, AI platform engineer, ou simplement SRE. Ce qui identifie le poste n’est pas le nom mais deux mots dans l’annonce : versions de consignes, et coût par appel. Là où ils manquent, la sortie non déterministe n’a pas encore été rencontrée.
Une semaine
- De l’outillage : versions de consignes, bascules, retours arrière sans redéploiement.
- De la lecture de traces, quand une réponse a dérivé sans qu’aucune alerte ne se soit déclenchée.
- Du suivi de coût, par fonctionnalité et non par serveur.
- Des quotas et des reprises, parce qu’un fournisseur qui ralentit est un incident comme un autre.
Par où l’on y arrive
- De l’exploitation ou de la fiabilité des systèmes, en acceptant d’abandonner le déterminisme.
- Du MLOps classique, ce qui est la voie la plus courte : la moitié des instruments se transposent.
- Ce que le poste n’exige pas : entraîner un modèle, ni même savoir comment on en entraîne un.
Lire une offre
2 signes- L’annonce décrit du MLOps classique : registre de modèles, dérive, réentraînement.
- C’est un poste de MLOps. Utile, mais les problèmes de la sortie non déterministe n’y sont pas.
- Aucune mention du coût par appel.
- C’est le sujet qui occupe le plus de temps dans ce métier. Une annonce qui l’ignore décrit un service qui n’a pas encore rencontré sa facture.