Où il est question de trouver le bon réglage.

… où il est question de trouver le bon réglage.

Dans l’épisode 31, je vous partageais une réflexion autour d’un complément au modèle de Kahneman, le Système 3 : l’IA comme outil de pensée externe. Elle s’appuyait sur une étude de la Wharton school pointant que 80 % des participants suivaient les recommandations de l’IA même quand elle se trompait.

Ils appelaient ça la « reddition cognitive ».

Pour s’en sortir, il faut concevoir le Système 3 pour qu’il résiste à cette reddition.

Renée Richardson Gosline au MIT Sloan a creusé exactement ça. Son constat est d’une évidence inconfortable : une fois que la réponse de l’IA est là, il est extrêmement difficile d’en corriger l’influence sur votre jugement.

Le biais d’ancrage joue à plein, vous partez de ce que l’IA a produit, même quand vous croyez l’évaluer de manière indépendante.

Valider n’est pas analyser. C’est confirmer, avec le sentiment trompeur d’avoir réfléchi.

La question n’est donc pas « comment former les équipes à mieux superviser l’IA ». Les biais cognitifs étant structurels, les solutions doivent l’être aussi.

Le MIT et Accenture ont testé une réponse : la « friction ciblée ».

Des signaux visuels dans l’interface, codes couleur, indicateurs d’incertitude, qui forcent un retour à la pensée délibérée au bon moment. Pas tout le temps. Juste là où le risque d’erreur est réel.

Résultat : précision accrue, sans perte d’efficacité significative.

Et surtout : les participants ne se rendaient pas compte que ça les aidait. Ils surestimaient leur propre capacité à détecter les erreurs sans assistance.

Le Système 3 ne sera pas fiable parce que les utilisateurs seront vigilants. Il sera fiable parce qu’on aura conçu les conditions de la vigilance.

Ce qui amène la vraie question.

Quel système d’exécution construire autour de l’IA ?

On se la posait déjà avec des équipes 100% humaines. On se la posait en intégrant les outils numériques.

Si la nature d’un de vos collaborateurs a changé, la réflexion doit rester la même et c’est une bonne nouvelle… c’est possible.

Parce qu’un système bien conçu, c’est trois wins simultanés.

L’humain reste présent dans la boucle, il pense plutôt qu’il ne valide.

L’IA performe sur ce qu’elle fait vraiment bien, à condition qu’on lui donne le contexte, qu’on rende explicite l’implicite du travail.

Et l’organisation ne gagne pas seulement de la vitesse (la vitesse ne doit pas être le sujet) elle gagne en fiabilité, en apprentissage, en création de valeur.

Ce sont les principes du lean.

Appliqués à un système où l’un des coéquipiers n’est plus humain.

😎

PS : Pourquoi cette illustration ? Vous aurez la réponse en lisant l’article de la MIT Sloan Management Review. 🫢