L'IA Explicable pour les Opérations : Pourquoi les Recommandations en Boîte Noire ne Sont Pas Adoptées

L'écart entre un modèle qui performe bien en validation et un modèle qui change réellement ce que fait un planificateur est, le plus souvent, un écart d'explicabilité plutôt qu'un écart de précision. Un planificateur invité à passer outre toute une vie de jugement opérationnel sur la base d'une recommandation qu'il ne peut pas interroger l'ignorera, raisonnablement, dès la première fois qu'elle lui semblera fausse — même si elle a raison plus souvent que lui.

C'est un problème résolu en ce sens que les techniques d'explicabilité existent et fonctionnent ; c'est un problème sous-déployé parce que la plupart des projets d'IA opérationnelle traitent l'explicabilité comme une case de conformité ajoutée après la construction du modèle, plutôt que comme une contrainte de conception qui façonne dès le départ le choix de l'architecture du modèle.

Un modèle 3 % plus précis mais incapable d'expliquer une seule recommandation perdra face à un modèle légèrement moins précis auquel un planificateur fait réellement confiance — l'adoption, et non la précision, est généralement la contrainte limitante de l'IA opérationnelle.

§ 02L'explication doit correspondre à la décision, pas seulement au modèle

Un graphique de valeurs SHAP est une explication correcte du fonctionnement interne d'un modèle de gradient boosting et une explication inutile pour un superviseur d'entrepôt décidant s'il doit faire confiance à une recommandation de slotting. Les explications opérationnelles utiles sont formulées dans le langage de décision propre au domaine — « ce SKU est recommandé pour la zone dorée car sa fréquence de prélèvement sur les 30 derniers jours le place dans le top 5 %, et il n'a pas été repositionné depuis 90 jours » — et non dans le vocabulaire interne d'importance des variables du modèle.

§ 03Parfois, la bonne réponse est un modèle plus simple

Dans plusieurs déploiements, le résultat à la plus forte adoption est venu du choix délibéré d'un modèle plus interprétable — une formulation d'optimisation sous contraintes avec des règles métier transparentes, plutôt qu'un ensemble légèrement plus précis — parce que la valeur opérationnelle d'une recommandation systématiquement suivie l'emporte sur quelques points de précision théorique d'une recommandation remise en question et contournée.