Où il est question de responsabilité !

… où il est question de responsabilité !

J’ai déjà eu l’occasion d’évoquer la réalité du Shadow AI en entreprise, une réalité qui ne peut être abordée à la légère. Cette situation révèle avant tout la complexité du cadre et de la place à donner à nos nouveaux compagnons, quel que soit leur intelligence supposée 🤖.

A l’heure où chaque éditeur ou intégrateur de systèmes d’IA se revendique d’une forme d’IA Responsable, faisons nous notre part ?

Si je mobilise l’assistance intelligente fournie par l’entreprise dans un document, qui est responsable de mes propos et qu’en est il des erreurs ?

Je ne suis pas juriste (si il y en a un dans la salle, qu’il parle maintenant ou se taise à jamais 🤓), je vois deux niveaux à questionner (le juriste de la salle pourra quant à lui répondre 🤭).

La responsabilité première reviendrait surement à l’entreprise qui la déploie et donc autorise l’utilisation.

Surtout, si l’erreur vient d’un défaut du système déployé, l’entreprise devrait en effet s’assurer de la fiabilité et du caractère éthique et non-biaisé des algorithmes.

Mais le collaborateur a aussi une responsabilité dans l’utilisation.

La recommandation actuelle est d’être en capacité d’évaluer les propositions de l’IA avant de les utiliser. Le collaborateur doit donc être formé à son fonctionnement et à ses limites, pour l’utiliser de manière appropriée, il doit l’utiliser dans son domaine d’expertise et aussi être transparent dans l’usage qu’il en fait.

Cela participe d’une juste implication des collaborateurs dans la comprehension et dans la définition des usages éthiques de l’IA. Cette adhésion conditionne d’ailleurs la réussite du déploiement et la qualité de valeur créée par l’apport de l’IA et la maitrise des impacts de l’IA.

Doit on aller jusqu’à identifier le niveau d’apport de l’IA dans le cadre de nos activités professionnelles ? Dans l’esprit de ce que propose AI Label (https://ai-label.org/), avec trois pictogrammes : No AI used (pas d’utilisation d’IA), Assisted by AI (assisté par une IA) ou Made with AI (conçu avec une IA) ?

Dans ce cas, quel sens donnerions nous à ce label, ne serait ce pas une façon de se de-responsabiliser ?

En résumé, éditeurs, entreprise et collaborateurs partagent la responsabilité d’une IA Responsable. Une gouvernance transparente et collaborative est donc recommandée pour une adoption réussie.

La réflexion continue…

PS1 : toi le juriste, as tu un avis ?

PS2 : Ce (court) post aurait le premier label No AI used (certains des précédents Assisted by AI 😎).