ChatGPT essaie juste de prédire les mots les plus probables, explique Yann Le Cun

Yann Le Cun, Meta

A l’occasion de la réédition de son livre « Quand la machine apprend : la révolution des neurones artificiels et de l’apprentissage profond », Yann Le Cun, patron du laboratoire d’intelligence artificielle chez Meta, maison mère de Facebook, confirme la montée en puissance de l’intelligence artificielle tout en relativisant l’avancée constituée par ChatGPT, l’intelligence conversationnelle d’OpenAI.

Il y aura des machines aussi intelligentes que les humains

Pour Yann Le Cun, il y aura un jour où les machines seront aussi intelligentes que les humains, mais ce n’est pas encore le cas malgré des applications comme ChatGPT. « Est-ce qu’un jour, il y aura des machines aussi intelligentes que les humains dans tous les domaines où les humains sont intelligents ? La réponse est absolument oui. Il n’y a aucun doute là-dessus » tranche Yann Le Cun. Il s’est exprimé à l’occasion d’une interview sur France Inter, le 12 avril. Cependant, il n’y a pas encore de machines aussi intelligentes que l’homme. « On en est encore assez loin. Malgré les progrès récents et les systèmes de dialogue comme ChatGPT, etc, qui sont devenus disponibles dans le public » modère-t-il.

« Cela nous donne l’impression que ces systèmes sont intelligents. Mais en fait, c’est une intelligence très superficielle »

Yann Le Cun souligne que nous avons l’impression que ces systèmes sont intelligents, mais qu’en fait, ils n’ont pas le type d’intelligence qu’on constate chez les humains. « Ils sont très capables de manipuler la langue et cela nous donne l’impression qu’ils sont intelligents. Mais en fait, c’est une intelligence très superficielle » réagit-il.

Le spécialiste se montre réservé quant à l’engouement actuel autour de ChatGPT. « C’est un bon produit qui a l’avantage d’avoir été mis dans les mains des utilisateurs et du public. C’est de la bonne ingénierie » dit-il. « C’est très bien ficelé mais ce n’est pas révolutionnaire du tout au niveau de la science et de la technologie sous jacente. C’est une évolution un petit peu naturelle » commente-t-il. « Il y a effectivement des capacités qu’on voit émerger dans ces systèmes qui sont extrêmement surprenantes mais qui n’ont pas été révélées par ChatGPT. Elles datent de plusieurs années » analyse-t-il.

Des milliards et des milliards de paramètres gérés


Il constate que l’on peut entraîner ces systèmes de Deep Learning qui sont des réseaux de neurones artificiels de très, très grande taille, qui ont des milliards et des milliards de paramètres. « Ce sont l’équivalent de l’efficacité des connexions entre les neurones dans le cerveau, si on essaie de faire une analogie qui n’est pas totalement correcte » explique-t-il. Ces systèmes s’entraînent sur des textes de milliards de mots. « On peut entraîner ces réseaux de neurones sur des quantités de texte absolument énormes, de l’ordre de 1 000 milliards de mots, donc la totalité des textes qui résident sur internet » dit-il.

« Ils essaient de prédire les mots qui seraient les plus probables dans le corpus de texte sur lequel ils ont été entraînés »

Ces systèmes deviennent capables d’adaptation. « Ils finissent par apprendre certainement à manier la langue, mais aussi à faire un certain niveau de raisonnement et en tout cas, d’adapter des choses qu’ils ont lues à la situation où on leur demande » décrit-il. La technologie fonctionne à partir de probabilités. « Le principe sur lequel ils sont basés, c’est purement et simplement d’essayer de prédire la continuation d’un texte. C’est à dire que si vous leur posez une question, ils essaient de prédire les mots qui seraient les plus probables dans le corpus de texte sur lequel ils ont été entraînés » dit-il.

Les connaissances de ces intelligences artificielles demeurent cependant superficielles. « Et bien sûr, dans les textes avec lesquels ils ont été entraînés, il y a beaucoup de connaissances humaines, mais qui sont très superficielles. C’est à dire que c’est la connaissance humaine qui est présente dans les textes sur internet, mais cela ne comprend pas, par exemple, la connaissance du monde réel. Ces systèmes ont beaucoup moins de connaissances du monde réel que votre chat » prévient-il.   

Les textes produits par ChatGPT ne sont pas fiables

Une interview de Yann Le Cun publiée le 19 avril par Usbek et Rica, à la suite d’une conférence de presse, vient compléter son intervention auprès de France Inter. Yann Le Cun prévient que l’on ne peut pas planifier les réponses des modèles GPT et que les textes produits ne sont pas fiables comme source d’information. En témoigne d’ailleurs la plainte déposée auprès de la Cnil par un député qui a obtenu 3 réponses différentes en répétant la même question à ChatGPT concernant sa biographie.

Les modèles de langage autorégressifs comme GPT auront une durée de vie courte

Dans l’avenir, toujours selon Yann Le Cun, les modèles de langage autorégressifs comme le modèle GPT (Generative pretrained transformers) d’aujourd’hui auront une durée de vie courte. « D’ici cinq ans, plus personne n’en utilisera » affirme-t-il. Il annonce qu’il travaille afin de trouver le moyen de rendre ces modèles d’intelligence artificielles pilotables, afin qu’ils répondent à  des objectifs et respectent des contraintes. Pour cet expert, il ne fait aucun doute qu’à terme la machine sera supérieurement intelligente à l’intelligence humaine.

Yann Le Cun aborde l’évolution vers l’intelligence artificielle comme quelque chose de positif. « L’intelligence artificielle est un moyen d’amplifier l’intelligence humaine, de même que les machines sont un moyen d’amplifier la force physique » présente-t-il. Yann Le Cun confirme que cette l’intelligence artificielle va déplacer des métiers, comme cela a toujours été vrai depuis le départ du développement technologique, depuis des millénaires et a fortiori depuis la révolution industrielle à la fin du XIXᵉ siècle. « Par exemple, à la fin du XIXᵉ siècle, la plupart de la population française travaillait à la production de nourriture, travaillait dans les champs, dans les fermes, etc. Maintenant, c’est entre 1% et 2% de la population » illustre-t-il.

Il faudra 20 ans pour que cette transformation technologique pénètre l’économie

La transformation de la société et des entreprises amenée par l’intelligence artificielle suit les mêmes règles que pour d’autres technologies. « L’intelligence artificielle n’est pas qualitativement différente des autres transformations technologiques. Ce que les économistes disent, c’est que la rapidité avec laquelle une technologie pénètre la société, et l’économie en particulier, est limitée par la capacité des gens à apprendre à l’utiliser » retient-il.

Il faut 10 à 20 ans pour que les gens apprennent à utiliser une technologie

« Cela a été vrai pour l’ordinateur. En général, cela prend 10 ou 20 ans, plutôt 20 ans. La chose la plus importante, c’est de savoir si on est jeune, quel genre d’études faire. Si on est moins jeune, est ce qu’on doit se reformer et utiliser les nouvelles technologies ? » analyse le spécialiste.  

« Ce que ces machines vont permettre, c’est à une catégorie plus large de personnes d’être créatifs au niveau artistique ou technique. Il y aura une espèce de démocratisation de la création. Mais les métiers de la création, qu’elle soit artistique, littéraire, scientifique ou technique, ne vont pas disparaître » conclut-il.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *