Luca Paltrinieri : "L’intelligence a toujours été artificielle"

Pour mettre les mains dans le cambouis et regarder sous le capot de l’intelligence artificielle, il fallait au moins un philosophe. Luca Paltrinieri est professeur en philosophie politique et philosophie des sciences humaines et sociales. En cinq questions, il renverse nos perceptions de l’intelligence, humaine ou non.

Fabien Seraidarian
Directeur de la Valorisation et Directeur du Global Executive MBA, SKEMA Business School

Kevin Erkeletyan

L’intelligence artificielle cherche-t-elle à imiter l’intelligence humaine ?

Plus que son imitation, c’est son dépassement. Dans les années 1950, avec les travaux du mathématicien Claude Shannon et la cybernétique, on cherche d’abord à reproduire les comportements humains. Mais après le premier « hiver de l’IA », essentiellement dû à une panne de financement, un nouveau modèle d’IA se développe : on cherche à reproduire une tâche accomplie par un humain intelligent, mais de manière complètement différente. Ce qui devient central, c’est de chercher des corrélations dans un grande ensemble de données et, à partir de là, de prédire des possibles : c’est une forme d’intelligence prédictive, en plus d’être apprenante. Lorsque Deep Blue gagne contre Kasparov en 1997, il est clair que l’ordinateur n’imite pas le comportement humain, il va chercher à obtenir, grâce à sa puissance de calcul, un résultat qui pourrait être humain par des moyens non-humains.

L’intelligence humaine est donc pensée comme une machine à calculer ?

Oui, et c’est la véritable idée de fond : pourquoi l’intelligence humaine est-elle devenue une affaire de calculs ? Au XIXe siècle, l’idée que nous faisons tous des calculs coûts-bénéfices est la base de l’utilitarisme. Babbage, par exemple, voulait d’abord créer des « ordinateurs humains » en combinant l’intelligence de plusieurs personnes (appelées computers) afin d’obtenir une puissance de calcul plus élevée. Le fameux calculateur mécanique (Difference Engine) qu’il développe doit remplacer cette espèce d’intelligence sociale collective : la machine ne fait qu’imiter et remplacer la division du travail de calcul. Pour Matteo Pasquinelli (The Eye of the Master, Verso, 2023), c’est là la véritable origine du modèle connexionniste que nous retrouvons, par exemple, dans le fameux « réseau de neurones » de l’IA contemporaine : les nœuds du réseau ne sont pas des neurones, à l’origine ce sont des humains. Mais pour que l’on puisse appeler « intelligence » une puissance de calcul, il a d’abord fallu « redécouvrir » cette capacité humaine de calcul et lui donner une signification positive, comme le montrent les travaux de Stephanie Dick, entre autres. L’IA dérive de l’automatisation de cette intelligence sociale calculante.

Vous êtes en train de dire que l’IA repose non pas sur une imitation de notre cerveau mais de nos comportements sociaux ?

Oui, ce modèle connexionniste nous dit aussi quelque chose de la manière dont on pense le marché, comme un ensemble des nœuds connectés par un système de relations. Si vous prenez une carte de l’empire britannique au XIXe siècle, vous verrez des comptoirs connectés par des circuits maritimes. Plus tard, dans les années 1930, Hayek perçoit les marchés comme des systèmes auto-apprenants qui s’auto-organisent, dans lesquels on ne peut pas savoir quelle est la décision de chaque acteur. Il postule en revanche qu’il existe une rationalité des résultats, c’est-à-dire de la formation des prix, qui vient de l’interaction de tous les acteurs. On peut ainsi exprimer, par un système de prix, une sorte d’intelligence collective, d’intelligence d’acteurs qui sont en relation entre eux. Il n’est pas anodin que Frank Rosenblatt, le psychologue qui invente le premier réseau de neurones « artificiels » (le Perceptron), soit un lecteur de Hayek : il pense que l’on peut piloter l’apprentissage de la machine en changeant au hasard le poids des nœuds-neurones, selon les résultats obtenus. Aujourd’hui, avec les modèles d’apprentissage profond combinant plusieurs couches de neurones, l’informaticien ne sait pas comment se forment les interactions, c’est-à-dire ce qui se passe véritablement sous le capot ; il ne regarde que le résultat final.

Pourquoi l’intelligence humaine est-elle devenue une affaire de calculs ?

Luca Paltrinieri, chercheur en philosophie

La « pensée algorithmique » repose donc sur une forme de mystère ?

Je ne parlerais pas de « pensée » ni « d’esprit artificiel ». L’IA générative – par exemple les LLM (ChatGPT 3 ou 4), produit certes des bons résultats : la machine « parle » mais évidemment elle ne sait pas qu’elle parle, je dirais même qu’il n’y a pas de « elle », car la machine n’est pas un sujet. La machine restitue un résultat en associant des données sur la base d’un modèle statistico-inductif : c’est une sorte de compétence linguistique dépourvue de compréhension. Il y a bien, en un certain sens, une connaissance qui est produite sous forme de prédiction, mais c’est une prédiction pour nous, que nous percevons en somme comme de la production automatisée de connaissances. La confusion avec l’intelligence humaine vient du présupposé d’inconnaissabilité : puisqu’on ne sait pas vraiment décrire ce qu’il se passe dans le « cerveau » de ChatGPT, nous rapprochons l’IA de l’intelligence humaine, dont le fonctionnement est également mystérieux. Pourtant il y a une différence fondamentale : de l’intelligence humaine, on a toujours cherché à produire des définitions, alors que le mode de fonctionnement de ChatGPT n’est pas intéressant à décrire, puisque seul le résultat compte.

Le terme d’« intelligence » est-il malgré tout bien choisi pour qualifier l’intelligence artificielle ?

Si l’on définit l’intelligence comme une compétence, une capacité de produire un résultat en s’adaptant à certaines circonstances : oui, c’est de l’intelligence. On peut penser, avec les structuralistes, que l’intelligence est une propriété émergeante d’un grand nombre de corrélations entre données, plutôt qu’un système de règles décrivant la manière dont une action se réalise. Mais le principe même de la corrélation – l’idée que dans la connexion entre deux éléments il y a un supplément de sens – vient de la pensée symbolique, qui est proprement humaine. De ce point de vue, les dispositifs actuels, les algorithmes et même l’IA générative n’ajoutent rien à la pensée, ils ne font que la projeter à l’extérieur de l’homme, dans des supports qui, depuis toujours, permettent de socialiser la connaissance par la construction d’une mémoire collective. Aujourd’hui, l’IA semble, en plus, être une réponse à une quête d’objectivité : la machine se veut plus neutre, elle doit pouvoir nous porter jusqu’à un point de vue surplombant, universel. Dans les RH, par exemple, on cherche à éliminer les biais humains qui pèsent sur le recrutement en utilisant l’IA. Mais même cette quête d’objectivité ne fait que poursuivre cet effort de construction d’organes artificiels, de suppléments extérieurs à l’humain, qui commence avec les dessins dans les cavernes et se poursuivent avec l’invention de l’écriture. Depuis toujours, l’intelligence est artificielle.