Yann Mambrini : "Il ne faut pas donner trop de leçons à l’IA"

Il sonde les origines de l’univers et le fond d’un chapeau noir. Yann Mambrini, directeur de recherche au CNRS, est à la fois physicien-théoricien… et magicien ! Auteur de plusieurs livres de vulgarisation, dont La Nouvelle Physique (Albin Michel, 2024), il nous offre un regard sur l’expertise, sur l’IA et sur l’expertise de l’IA. Avec le recul et la poésie que d’autres n’ont pas…

Propos recueillis par
Kevin Erkeletyan

En tant que physicien-théoricien, comment vous servez-vous de l’IA ?

Je ne m’en sers pas. Pas directement. C’est la physique expérimentale, pas théorique, qui a été pionnière en la matière. Les premiers réseaux de neurones, la base de l’IA, ont été conçus au CERN* dès la fin des années 1980. En physique des particules, on est passé de 10 collisions par seconde à 500 millions. Il n’était donc plus possible de confier leur étude à des hommes. On a appris à la machine l’état de l’art de la physique pour qu’elle puisse nous signaler la moindre anomalie. Mais dans 99,9% des cas, c’était un bug informatique. D’autres, ont tenté de l’appliquer au domaine cosmique. Ils ont dit à la machine : voilà une carte du ciel, si vous observez quelque chose qui n’en fait pas partie, donnez-moi un cliché et je le vérifierai. Jusque-là, l’usage de l’IA était justifié, mais, depuis 5 ou 10 ans, certains physiciens tentent de l’appliquer aux modèles théoriques…

*Organisation européenne pour la recherche nucléaire

C’est une erreur

De mon point de vue, oui. C’est très discutable. Certains chercheurs ont créé des modules d’IA pour déterminer quelle théorie est la plus probable. En théorie des cordes, par exemple, certains paramètres ne sont pas observables et donc inconnus. Ils ont donc utilisé la méthode dite « bayésienne », qui consiste à attribuer une probabilité a priori à une théorie, pour faire dire à l’IA qu’il y avait plus de chances que la nature soit comprise dans cet espace de paramètres plutôt que dans celui-là. Mais la nature est un point : il y a une nature, un univers, une physique et donc une loi. La nature se moque de la probabilité. La nature décide de la loi. C’est le juge suprême. Appliquer l’IA aux modèles théoriques est cavalier.

N’y a-t-il pas un usage intermédiaire possible entre la physique expérimentale et la physique théorique ?

Si, en phénoménologie. En physique, c’est la discipline qui fait le lien entre la théorie et l’expérience. L’IA sert alors à mettre plus rapidement en pratique la théorie. Comme l’univers est en expansion, il faut constamment refaire les calculs pour simuler les conclusions de la théorie. L’IA apprend les trajectoires typiques et permet d’éviter certains calculs : on passe de deux mois de travail à deux jours.

Quelle leçon tire-t-on de son utilisation ?

Il ne faut pas donner trop de leçons à la machine. Il faut lui laisser une part de folie. C’est le principe de la recherche et de l’art. Sinon, elle a des biais. Si on lui dit trop souvent d’aller dans une direction, elle ne fera plus l’effort d’aller dans une autre. À l’occasion d’une recherche, nous avions remarqué qu’au bout d’un certain nombre d’indications, elle se mettait à faire n’importe quoi. C’est un peu la même courbe de connaissances que pour le cerveau humain. En un sens, elle est aussi atteinte par l’effet DunningKruger : moins on est compétent dans un domaine, et plus on est sûr. Quand on commence à apprendre quelque chose, il y a une phase pendant laquelle on se sent hypercompétent, et plus on apprend, plus cette croyance en nos compétences diminue.

Peut-on imaginer qu’une IA remporte, un jour, un Prix Nobel ?

Pour faire une découverte, il faut un mélange de cadre et de folie. Une découverte, se fait hors du cadre. Et une fois qu’elle est faite, il faut la remettre dans un autre cadre. Un chercheur qui fait une découverte, c’est un genre de poète, c’est lié à son histoire, aux gens qu’il rencontre, à son passé, son enfance, ses convictions religieuses. Si Einstein a pu faire la sienne, c’est parce que sa vision de l’univers n’était pas la même que celle de son voisin. Pour que l’IA fasse une découverte, il faudrait donc des IA ayant eu des « vies » différentes, et les confronter. Peut-être arriveraiton à une forme de création…

Vous êtes l’auteur de plusieurs livres de vulgarisation scientifique, dont Newton à la plage ou La Nouvelle Physique. Faut-il être un bon expert pour être un bon vulgarisateur ?

Oui, il faut être un bon expert pour être un bon vulgarisateur, mais un bon expert n’est pas forcément un bon vulgarisateur. Quand une personne non-experte vous pose une question, en général, elle vous pose une question hors du cadre. Il faut donc vraiment connaître votre cadre pour y répondre.

Il faut laisser une part de folie à la machine. C’est le principe de la recherche et de l’art.

Il y a de mauvais experts qui sont de très bons auteurs vulgarisateurs, mais qui sont souvent à sec quand on leur pose une question à laquelle ils ne s’attendaient pas. Ils s’en sortent par une pirouette, jusqu’à ce qu’ils tombent sur quelqu’un de têtu… À l’inverse, certains experts sont de très mauvais vulgarisateurs. Ce sont souvent des experts qui sont trop experts. Si on est trop bon dans un domaine, on ne comprend pas les trous dans lesquels les gens tombent.

La magie, c’est intrinsèquement humain. Il faut de vrais yeux face à de vraies mains.

Pour aller d ’un point A à un point C, il y a des pièges dans lesquels les gens se prennent. Ces pièges, si on vole trop haut, on ne les voit pas. Mais si vous êtes déjà tombé dans le trou, vous savez pourquoi les autres le font aussi. J’ai un collègue tellement expert en théorie des cordes que même ses étudiants ne le comprennent pas. Lui, pourtant, trouve ça évident… Moi, il se trouve que je suis tombé dans beaucoup de trous.

Vous parliez de poésie : dans quelle mesure d’autres éléments que l’expertise – comme l’instinct – interviennent dans la réflexion et dans le jugement d’un physicien ?

Posez la question à 100 physiciens, et vous aurez 100 réponses différentes. Chez moi, l’instinct est primordial. Je suis un physicien théoricien, pas un mathématicien. J’imagine les équations, j’imagine ce qui se passerait si j’étais au début de l ’univers : les particules autour de moi, la chaleur que ce serait, comment elles me rencontreraient. Je demande parfois à mes étudiants de fermer les yeux et je leur demande ce qu’ils ressentent. Il faut sentir où va une équation, sentir qu’une équation ne mènera nulle part et qu’il n’est pas nécessaire de perdre un mois à la résoudre. Pour ça, il faut de l’instinct. Et l’instinct, ça s’apprivoise, c’est une répétition d’événements, d’échecs et de succès.

Donc l’instinct, c’est une forme d’expertise.

Oui, une expertise particulière.

Peut-on imaginer que l’IA puisse avoir un instinct, puisse finir par acquérir de l’instinct ?

Oui, c’est tout à fait possible. Donner des leçons à l’IA, c’est lui donner une forme d’instinct. D’instinct, elle peut savoir qu’il vaut mieux qu’elle aille dans un sens plutôt que dans un autre. Ça ne veut pas dire que ce sera dans la bonne direction. Prenez l’instinct de survie : pour échapper au lion, on peut foncer vers les hyènes. L’instinct, c’est un apprentissage de probabilités.

Notre rapport à l’IA, c’est aussi celui d’une différenciation, d’une recherche de différenciation par rapport à elle. Vous avez écrit sur le temps, un sujet déjà rendu accessible au grand public par un certain Stephen Hawking. Comment se différencie-t-on de Stephen Hawking ?

En physique pure, passer après Hawking, c’est assez compliqué. Il est colossal. Mais je ne trouve pas que Hawking soit un si bon vulgarisateur que cela. C’est parfois très difficile à comprendre. Je ne suis pas sûr que les gens qui disent l’avoir lu l’aient vraiment lu. Il était peutêtre trop expert. Dans cet exercice, je préfère Steven Weinberg, prix Nobel de Physique, qui a découvert le modèle standard des particules. Son livre Les trois premières minutes explique les trois premières minutes de l’univers. Il est superbe. Ses livres de vulgarisation sont très profonds, très réfléchis, parce que c’est le physicien qui maîtrisait le mieux tous les domaines de la physique, alors qu’Hawking était très bon, mais dans son domaine.

Vous êtes également… magicien ! Est-ce un domaine dans lequel l’IA pourrait un jour vous remplacer ?

Non. Et c’est le Covid qui l’a démontré. Pendant le confinement, la magie se faisait à distance, en visio. Et ça n’a pas du tout marché. On peut faire de la magie avec des iPads ou des iPhones, mais les gens se disent : d’accord, je ne comprends pas le truc, mais c’est lié à la technologie. La magie, c’est intrinsèquement humain. Il faut de vrais yeux face à de vraies mains. C’est parce que la magie se fait avec un objet tout simple comme une cuillère, un jeu de cartes ou une pièce de monnaie qu’elle est si puissante. Plus la magie est proche, plus la magie est forte ; plus elle est éloignée, plus elle est faible. Vous savez que la magie n’existe pas, vous savez qu’on joue un rôle, mais vous acceptez notre rôle. C’est comme regarder un film. On sait que c’est un acteur, mais on accepte sa réalité. C ’est le même principe avec les magiciens. On illusionne le cerveau, on illusionne les yeux.

Mais tromper le cerveau, c’est aussi quelque chose qu’on reproche parfois à l’IA. Peut-elle être une illusionniste ?

Une illusionniste… ou une arnaqueuse ! Un arnaqueur aussi trompe le cerveau. Le magicien le fait, mais de façon honnête. Ses spectateurs en sont conscients.

Peut-on comparer l’IA à un trou noir ?

Le seul point commun entre les deux, c’est le traitement de l’information. En physique, il existe un principe fondamental : l’information doit toujours être conservée. On doit pouvoir remonter l’histoire complète d’un objet grâce aux équations, qui fonctionnent aussi bien dans un sens que dans l’autre. C’est ce qui pose problème avec un trou noir. Ce n’est pas la disparition de la matière qui est surprenante, mais celle de son histoire. Si l’on jette une banane dans un trou noir, ce n’est pas le fait qu’elle disparaisse qui interroge : c’est le fait que son histoire, depuis l’arbre où elle a poussé jusqu’au moment où elle est tombée, semble s’effacer. Or la physique interdit de couper le fil de cette histoire. De ce point de vue, il peut exister un lien conceptuel entre IA et trou noir : tous deux impliquent des questions de traitement et de conservation de l’information. L’IA coupera-t-elle un jour le fil de l’information ?

Sa reco video

L’IA va-t-elle remplacer les chercheurs ?

De Julien Bobroff

Comprendre les lois ultimes du cosmos

De Yann Mambrini (Albin Michel / Espaces Libres – Sciences)

Voir le livre