Dans mes échanges avec les responsables informatiques, je retrouve régulièrement la même difficulté : un système d’IA est utilisé sans méthode fiable pour juger son travail. Ce qui m’inquiète, c’est l’effet sur la confiance. Lorsque des erreurs apparaissent sans que nous puissions en expliquer les causes, la déception peut devenir une défiance envers la technologie.

Évaluer le système permet de comprendre ces échecs et de décider quelles responsabilités lui confier. Il s’agit de lui soumettre des tâches représentatives et de juger ses résultats selon des critères définis avec les experts métier.

Une réponse stable peut reposer sur une définition erronée

Prenons un assistant qui répond à des questions sur la marge commerciale. Obtenir un chiffre plausible ne suffit pas. Le résultat dépend du traitement des retours et des remises, de la période retenue et des opérations incluses dans le calcul.

Les équipes métier doivent préciser ces règles avant que l’on puisse évaluer la réponse. Répéter fidèlement un calcul fondé sur une mauvaise définition ne le rend pas acceptable. Si une ambiguïté peut modifier le résultat, demander une précision à l’utilisateur peut être la bonne réponse.

L’évaluation commence donc par des questions concrètes : qu’attend-on d’une réponse acceptable, sur quelles données doit-elle s’appuyer et quelles erreurs pourraient fausser une décision métier ?

Il faut tester les composants et le fonctionnement d’ensemble

Un agent IA associe un modèle à des instructions, des sources d’information et des outils logiciels. Une erreur peut venir de chacun de ces éléments ou de leurs interactions. Je distingue trois niveaux d’évaluation :

  • Les composants : chacun remplit-il son rôle ? Pour un assistant documentaire, la recherche retrouve-t-elle les documents pertinents et à jour ?
  • Les interactions : les informations et les contraintes sont-elles conservées d’une étape à l’autre ? Une incertitude repérée par un agent doit rester visible pour le suivant.
  • Le résultat métier : le service complet produit-il un résultat exact, conforme aux autorisations, disponible à temps et utilisable sans corrections excessives ?

Les scores des composants aident à localiser les faiblesses. Les additionner ne permet pas d’établir la fiabilité de l’ensemble. Il faut aussi tester le déroulement complet du travail.

La même vigilance s’applique lorsqu’un agent annonce avoir réussi. Dans ses recommandations sur l’évaluation des agents, Anthropic distingue le résultat effectivement obtenu du récit qu’en fait le système. Une déclaration de réussite ne prouve pas que l’action attendue a abouti.

Les résultats des tests doivent modifier les actions autorisées

Il est préférable de commencer par un périmètre limité que l’on peut évaluer sérieusement. Les experts métier définissent des tâches représentatives, les résultats attendus, les erreurs importantes et les situations qui exigent une clarification ou une intervention humaine. Les cas difficiles et les demandes à refuser font partie des tests.

Ces résultats doivent ensuite éclairer une décision. Des performances satisfaisantes sur une tâche précise peuvent justifier de la déléguer dans ce périmètre. D’autres tâches restent soumises à une validation humaine ou exclues du service. Les droits d’accès et les plafonds de dépense doivent être imposés par les logiciels qui entourent l’agent ; une consigne dans un prompt ne suffit pas.

Les évaluations pertinentes sont à reprendre après une modification du modèle, des instructions, des outils ou des données. Elles doivent être complétées par l’examen d’un échantillon des usages réels. Le temps de relecture compte aussi : un service qui exige des corrections permanentes peut présenter peu d’intérêt, même si ses réponses finales sont exactes.

Conserver les moyens d’évaluation permet de comparer une solution de remplacement

L’indépendance technologique dépend aussi de la capacité à évaluer une autre solution. L’entreprise doit conserver la maîtrise de ses définitions métier, de ses cas de test et de ses critères d’acceptation. Elle pourra ainsi comparer une solution de remplacement selon les mêmes exigences de qualité, de supervision, de coût et de délai de réponse.

Avant le prochain déploiement, demandons des éléments concrets pour répondre à quatre questions :

  1. Quelles tâches le système a-t-il démontré qu’il pouvait accomplir correctement ?
  2. Dans quelles situations doit-il demander de l’aide ou s’arrêter ?
  3. Qui peut restreindre ses droits lorsque la qualité se dégrade ?
  4. Peut-on soumettre une autre solution aux mêmes exigences ?

L’évaluation sert alors à décider ce que l’entreprise accepte de déléguer et à conserver les moyens de revenir sur cette décision.

J’approfondis cette démarche dans « If you can’t evaluate an AI agent, why did you deploy it? », publié sur Synthetic Horizons. L’article complet, en anglais, détaille la construction des tests, le coût de la supervision et le rôle de l’évaluation dans la souveraineté technologique.