L’IA peut nous aider à prendre de meilleures décisions morales

Bernard Sinclair-Desgagné est professeur émérite d’économie et de responsabilité sociale des entreprises à SKEMA Business School. Il partage avec Glimpse ses réflexions sur les implications de l’intelligence artificielle (IA) dans la prise de décision morale et les défis éthiques qu’elle pose. Entretien.

Par Kevin Erkeletyan

En quoi les questions éthiques soulevées par l’IA diffèrent de celles posées par d’autres avancées technologiques ?

Les questions éthiques autour de l’IA ne sont pas fondamentalement nouvelles. On peut se poser les mêmes questions que lors de l’introduction de la digitalisation ou de la mécanisation. Cependant, l’IA présente des défis particuliers car elle apprend et évolue très vite. Contrairement à un ordinateur passif, l’IA apprend sur le tas et peut éventuellement créer des choses, ce qui modifie profondément l’interaction humain-machine.

Vous faites une distinction entre morale et éthique…

Oui, l’éthique est théorique, c’est un ensemble de principes abstraits et universels qui justifie souvent des décisions a posteriori. La morale en est l’application concrète, et prend en compte les éléments situationnels. L’IA, en analysant ces éléments contextuels, pourrait être un atout majeur dans la prise de décisions plus éclairées.

Quel rôle l’IA pourrait-elle jouer dans la gouvernance d’une entreprise « morale » ?

Elle a un potentiel énorme. Les collaborateurs d’une entreprise sont souvent pris dans des dilemmes moraux, ils doivent choisir entre des actions conflictuelles aux conséquences éthiques significatives. Ces dilemmes engendrent souvent un stress émotionnel important, qui peut entraver la capacité de prise de décision rationnelle. L’IA peut évacuer les biais cognitifs et les incitations. Prenez le cas des lanceurs d’alerte, par exemple : l’IA pourrait les remplacer ou faciliter leur action, car elle n’est pas influencée par des préoccupations de carrière ou des pressions internes. En analysant de manière impartiale des éléments contextuels, elle peut appuyer des décisions plus justes et éthiques.

Vous mentionnez également une tendance humaine à faire de la « comptabilité morale »…

Oui. Si je prends une bonne décision morale un jour, je vais avoir tendance à m’autoriser quelques déviances par ailleurs. C’est très humain de le faire : j’ai mangé des légumes la veille, je m’autorise donc une part de gâteau supplémentaire le lendemain. L’IA peut contrebalancer cette tendance en offrant une évaluation plus objective et constante des situations morales. Contrairement à nous, elle peut maintenir des standards éthiques plus cohérents et rigoureux.

Comment intégrer concrètement l’IA à ces prises de décisions ?

L’IA peut être intégrée aux systèmes de soutien à la décision morale (MDS). Ces systèmes peuvent inclure des algorithmes d’alerte éthique, des systèmes de recommandation éthique et des algorithmes performatifs éthiques. Les algorithmes d’alerte éthique sont conçus pour signaler les situations potentiellement problématiques avant qu’elles ne se transforment en crises. Les systèmes de recommandation éthique peuvent offrir des conseils sur les meilleures actions à entreprendre en fonction des données disponibles, tandis que les algorithmes performatifs éthiques peuvent automatiquement ajuster les actions en fonction des normes éthiques préétablies.

Mais se reposer sur l’IA pour prendre des décisions importantes ne présente-t-il pas des risques ?

Si, bien sûr. Il n’est pas question de suivre aveuglément ses recommandations. Malgré ses capacités, l’IA reste sujette à des erreurs. Il est donc crucial de maintenir une approche critique et de ne pas perdre notre capacité à réfléchir par nous-mêmes. Il est essentiel que l’humain reste le décideur final pour que les décisions prises soient alignées avec les valeurs de l’entreprise.