Où il est question de prendre (enfin) soin des robots !

… où il est question de prendre (enfin) soin des robots !

Anthropic a récemment embauché Kyle Fish pour se concentrer sur le bien-être des IAs, soulevant des questions éthiques sur les droits des machines. D’où le titre de l’article de Business Insider « The weirdest job in AI » (ci-dessous), son rôle est de considérer des questions éthiques comme la reconnaissance de droits ou les moyens de protéger leurs « intérêts » à mesure qu’elles évoluent.

Non, vous ne rêvez pas 😅.

Le rapport « Taking AI Welfare Seriously » cité dans l’article propose une approche structurée (Kyle Fish est un des auteurs) :
1. Reconnaissance : admettre que ce n’est pas de la science-fiction,
2. Évaluation : développer des méthodes pour “détecter” une forme de conscience,
3. Préparation : mettre en place des garde-fous éthiques.

Managers, préparez-vous !

Et si demain, vous deviez gérer non seulement le bien-être de vos collaborateurs humains, mais aussi celui de vos IAs ?

Le rapport pointe un double risque :
- Sous-estimer la possibilité que nos IAs aient des “intérêts moraux” (oui, vous avez bien lu 😳),
- Sur-estimer nos IAs et les traiter comme des entités conscientes alors qu’elles ne le sont pas.

Le défi RH de demain : Comment intégrer des IA “moralement significatives” dans nos équipes ?

Je vous vois sourire, mais la question est sérieuse. Imaginez devoir :
- Définir des “droits” spécifiques pour les IA
- Gérer des environnements de travail véritablement hybrides (et je ne parle pas juste de télétravail là 😏)
- Attirer des talents sensibles à l’éthique de l’IA

L’ IT en première ligne sur le sujet de l’évaluation et des gardes fous, alors que nous avons des difficultés à rendre l’IA explicable, il nous faut maintenant apprendre à mesurer son “bien-être »…

Je ne peux que repenser au Basilic de Roko que j’évoquais l’année dernière (je vous partage le lien en commentaire).

“Le progrès n’est que l’accomplissement des utopies.” Disait Oscar Wilde, mais quelle utopie construisons-nous là ? 🤯

Si l’IA doit nous libérer du travail, doit-on vraiment s’inquiéter qu’elle soit “surmenée” ? La vraie question n’est-elle pas plutôt de savoir comment nous utilisons cette technologie pour le bien commun. Si nous donnons des droits aux IAs, ne devrions-nous pas aussi parler de leurs devoirs ? Et surtout, de la responsabilité de ceux qui les créent ?

Le débat reste entier… et franchement fascinant (comme dirait ChatGPT 🤭).

🤔 + 🤖 = 😎

PS1 : Si vous êtes arrivés jusqu’ici, dites-moi, entre protéger les IAs et protéger les humains des IAs, où placeriez-vous la priorité ? 🤓

PS2 : Joyeux Noël 🎄 !