modèle de raisonnement

En profondeur

Le principe est de déplacer de l’effort de l’entraînement vers le moment de la réponse. Plutôt que d’agrandir le modèle, on le laisse produire beaucoup plus de fragments avant de conclure, et l’on entraîne ce comportement par renforcement sur des tâches dont la réponse est vérifiable, mathématiques ou programmation notamment. Le gain est réel et mesurable sur les problèmes en plusieurs étapes, là où une réponse immédiate se trompe souvent dès la première.

Trois coûts accompagnent ce gain, et ils décident de l’usage. Le temps de réponse passe de quelques secondes à parfois plusieurs minutes. Le prix suit, puisque les étapes intermédiaires sont des tokens produits, facturés comme tels même lorsqu’ils ne sont pas montrés. Et la variabilité augmente : deux exécutions peuvent emprunter des chemins différents et n’aboutir ni au même résultat ni au même coût, ce qui complique la budgétisation autant que l’évaluation.

Le statut du texte intermédiaire mérite d’être compris. Il n’est pas une explication fidèle du calcul : c’est un texte produit par le même mécanisme que la réponse, et rien ne garantit qu’il décrive ce qui a réellement conduit au résultat. On peut donc y lire une étape fausse suivie d’une conclusion juste. Le prendre pour une justification auditable serait une erreur, en particulier dans un domaine où une décision doit être motivée. Il aide à repérer un raisonnement qui déraille, il ne prouve rien.