Cette méga machine dans ma tête...

Machine ? Outil ? Ce que nous ferons de l’Intelligence artificielle est avant tout un choix politique. Et donc une affaire de sensibilités…

Fabien Seraidarian
Directeur de la Valorisation et Directeur du Global Executive MBA, SKEMA Business School

L’intelligence artificielle (IA) ne laisse pas indifférent. Au-delà de l’appréhension des citoyens ou des collaborateurs dans les entreprises, c’est au tour des experts ingénieurs ou scientifiques de questionner le développement de l’IA, ses usages et le devenir de la société, notamment au regard de l’avènement de « l’IA générale » ou « IA forte », capable de raisonner et d’agir en autonomie. Dans notre monde contemporain, le progrès technique et dirons-nous désormais la technologie font-ils désormais l’histoire ?

Dans la conception classique d’Aristote, la tekhnê est cette capacité à fabriquer des objets avec intelligence : c’est la capacité de l’artisan à utiliser ses savoir-faire et aptitudes pour penser et réaliser des formes ou des objets. Par opposition à la sensibilité de l’artisan, l’activité de fabriquer s’est développée et résulte de règles, de procédures, de processus procédant d’une représentation mécaniste de la nature. La technique fait de l’artisan un sujet au cœur de l’activité de fabrication, tandis que la technologie affirme que la production est indépendante de la subjectivité humaine. Les techniques sont étroitement associées à l’intuition de l’artisan alors que les technologies, a contrario, impliquent une articulation consciente de règles et de principes (le logos de la teckhnê) qui régissent les processus de fabrication.

DANS QUEL ÉTAT J’ERRE ?

L’artisan dispose d’outils pour exécuter la réalisation des objets alors que les opérateurs utilisent des machines pour conduire les processus de production. Alors que l’outil se prête à la manipulation et prolonge le geste de l’artisan, la machine, elle, recherche l’action automatique plus ou moins supervisée par un technicien. En d’autres termes, c’est la place des individus qui se joue dans la production : avec l’outil, l’artisan garde le contrôle sur l’exécution et développe son savoir-faire ; alors qu’avec la machine le technicien laisse la machine opérer et n’est plus au cœur du processus productif.

La dialectique machine versus outil questionne la place des individus dans la conception et la réalisation des objets, mais également la création et la répartition de la valeur ainsi créée. Dès lors, l’IA est-elle un outil libérant les individus de tâches dites ingrates ou répétitives ou davantage une machine alimentant les craintes d’un appauvrissement du travail ? Au-delà, peut-elle s’affranchir de l’intelligence et de la supervision humaine pour fonctionner en autonomie ? Malgré les études et les recherches scientifiques menées, il est encore trop tôt pour répondre à ces interrogations majeures qui pourraient déterminer l’avenir de notre monde contemporain, voire de notre civilisation.

NICK BOSTROM VS. LEWIS MUMFORD

Dans ce contexte, nous en sommes réduits à être partisan, selon notre sensibilité, nos peurs et nos croyances, faute de pouvoir établir des convictions robustes. Pour éclairer les termes du débat, nous pouvons tenter d’éclairer les réflexions des tenants d’une attitude prudente vis-à-vis de l’IA en s’appuyant sur les travaux de Lewis Mumford qui propose, dès 1934, une analyse et une critique du changement technologique comme élément central dans l’évolution de la civilisation. A cette perspective critique s’opposent les partisans de la promotion de l’IA au regard des bénéfices attendus pouvant aller jusqu’au transhumanisme, défendu notamment par Nick Bostrom. L’essor vertigineux de l’intelligence artificielle ravive la confrontation entre ces deux visions du monde. Si ses usages sont empreints de pragmatisme dans les entreprises rencontrées pour chercher à améliorer la performance (en gagnant du temps, en améliorant la qualité et les résultats des processus…), le développement des applications pour les collaborateurs ravivent également cet affrontement rendant difficile d’imaginer l’impact sur le corps social à cinq ou dix ans.

Lewis Mumford (1895-1990) est un philosophe américain et historien des sciences très influent, même s’il reste trop méconnu, qui s’opposa aux excès du développement technologique de la société industrielle. Il introduit le concept de « mégamachine » (1967) pour caractériser l’émergence des grandes organisations sociales complexes qui prennent forme dans les premières cités-États. La mégamachine désigne la société, c’est-à-dire une forme sociale qui permet la coordination d’un vaste ensemble de ressources symboliques et matérielles dans un système intégré ́ (cf. Von Bertalanffy, 1968 / 2012). Pour Lewis Mumford, « la mégamachine du progrès nous retire aujourd’hui la possibilité de poursuivre tout développement autonome ». Elle fait référence à des organisations de plus en plus rationnelles, structurées par des dispositifs technologiques, créant des réseaux gigantesques et interconnectés. Depuis la révolution industrielle jusqu’à la mutation numérique et l’essor de l’intelligence artificielle, la mégamachine est alimentée par le développement des technologies.

S’ÉCHAPPER DE NOUS-MÊMES

A l’opposé, l’intelligence artificielle sert la pensée transhumaniste. Dans les entreprises, il s’agit d’augmenter les capacités cognitives et opérationnelles des collaborateurs pour une plus forte productivité via des applications et des outils. L’IA devient un assistant personnel nécessaire à notre activité professionnelle. Plus encore, la perspective transhumaniste cherche, au-delà des facultés intellectuelles, à émanciper l’homme de son enveloppe corporelle – pour une plus grande égalité – ou, à l’inverse, accéder à une plus grande liberté individuelle. Dans tous les cas, la technologie est porteuse de performance à l’échelle individuelle. Nick Bostrom, philosophe suédois contemporain et professeur à Oxford, est un des chefs de file du transhumanisme occidental (2021). Il considère que la technologie reste neutre avant son usage : il faut faire preuve d’anticipation pour écarter les risques liés à son évolution. C’est l’objet de Superintelligence (2017), ouvrage majeur de l’auteur, qui décrit pratiquement comment développer et garder le contrôle de cette superintelligence, en permettant notamment d’inscrire dans les systèmes d’IA l’alignement des valeurs humaines. A grand renfort de concepts, comme la volonté cohérente extrapolée (CEV) visant à créer une IA capable de satisfaire nos préférences et valeurs les plus idéalisées.

Alors mégamachine ou superintelligence ? A chacun de prendre position au fil des évolutions et ruptures technologiques qui gouvernent le développement des entreprises, devenues plus politiques que jamais pour orienter nos sociétés.