La grosse blague de l'iA

Dans IA, il y a un 'i' qui signifie « intelligence ». Les pères fondateurs de l'IA voyaient dans le projet de l'IA l'étude de l'intelligence et s reproduction par une machine de Turing, autrement dit, la réalisation de l'intelligence par une suite d'opérations logiques.
Mon intérêt pour l'IA est précisément d'étudier ce qu'est l'intelligence et si on peut la reproduire dans un ordinateur, et si oui, comment.
L'IA dont on parle tant actuellement n'a aucun rapport avec cette étude de l'intelligence. Je la note donc iA, avec un minuscule 'i'.
Je suis surpris, consterné même, par l'absence totale de culture de l'IA par l'immense majorité des personnes qui font de la recherche en IA. L'immense majorité ne connaît rien à l'histoire de l'IA, les tentatives qui ont été effectuées au fil des décennies, les concepts philosophes qui sous-tendent cette idée originale de l'IA et les multiples ouvrages qui ont étudiées l'intelligence ; comme si tout ce qui a été fait avant 2008 n'avait aucun intérêt parce que maintenant, attention, on fait des choses sérieuses, de « l'apprentissage profond » ! Ne pas connaître l'histoire permet d'occulter le fait que l'on tourne en rond et que les progrès sont loins d'être si profonds que ce que d'aucuns prétendent. L'iA actuelle, c'est surtout une grosse affaire d'argent.

J'entends dire tout et n'importe quoi dans les médias sur l'iA. Je donne mon avis ici.

• Karpathy, expert en vision par ordinateur, a écrit ce texte en 2012. Il est toujours d'actualité. Karpathy est directeur de la recherche en IA à Tesla, dont le PDG dit tout et n'importe quoi sur l'IA et d'autres sujets, comme les pyramides d'Égypte. Il y a quelques années, il annonçait aussi que là maintenant au moment où j'écris ce texte (fin 2020), on aurait des véhicules autonomes sans chauffeur dans nos villes.
• Vers 2015, un médecin s'était auto-institué expert en IA. Auditionné au sénat, très médiatique, il nous a annoncé la disparition d'ici 10 ans des radiologues et de nombreux emplois, notamment dans le tertiaire.
  Des radiologues du CHU de Lille sont venus me rencontrer pour en savoir plus. Nous avons collaboré au travers d'un projet pour déterminer si leur profession allait disparaître et, plus sérieusement, ce que l'iA allait leur apporter et éventuellement transformer leur métier. À l'issue du projet, ils n'ont plus aucune crainte pour leur métier. On pourra consulter ce billet à ce propos.
  Pour ce qui est des emplois hors tertiaires, je n'ai aucune crainte pour eux : j'attends de voir une robot plombier, robot maçon, robot jardinier, ... Chers artisans, vous pouvez dormir tranquilles, nous continuerons a avoir besoin de vous et vous continuerez à ne pas être assez nombreux.
• Le véhicule autonome, autre énorme blague vers 2015. On devait avoir des voitures qui se conduisaient toutes seules dans nos rues et sur nos routes d'ors et déjà, avant la fin de la décennie (2020 s'achève au moment où j'écris ces lignes). Des constructeurs automobiles réflêchissaient à comment les anciens conducteurs allaient passer leur temps désormais ; ils leur concevaient déjà tout un tas d'occupations, bien entendu connectées, pour leur pomper de l'argent et des données. Des collègues plein d'assurance, ne connaissant strictement rien au sujet, m'expliquaient que la grande question était celle des responsabilités : qui sera responsable quand le véhicule autonome écrasera une petite mémé ; comment le véhicule autonome choisira-t-il sa victime le jour où un accident sera inéluctable : le jeune enfant, la femme enceinte ou la mémé sénile ? Flop monumental. Tesla a, discrétement, arrêté ses travaux sur la conduite autonome après avoir essayé de nous faire croire qu'il avait déjà mis au point des véhicules autonomes sûrs. Un très grand constructeur français, pourtant parti bien après les constructeurs américains et asiatiques, a tout arrêté sur le sujet. Ayant raté le départ et s'étant arrêté vite, au moins, ce constructeur a fait des économies.
• DM crée des programmes qui apprennent à jouer à des jeux sans en connaître les règles : c'est bien le signe qu'il n'y a rien d'intelligent dedans : quel humain peut prétendre apprendre à jouer, voire bien jouer, à un jeu sans en maîtriser les règles et sans avoir réflêchi en utilisant ces règles ? Je suis parfaitement d'accord qu'au-delà d'un certain niveau d'expertise à ces jeux, les règles ne sont probablement plus très utiles pour s'améliorer mais de là à qualifier d'intelligent un programme qui apprend bêtement en essayant encore et encore stupidement, il y a une énorme marge.

Peut-être des gens y ont-ils vraiment cru. Les progrès des techniques dites d'iA ont été effectivement importants. Mais aujourd'hui, cette succession de déconvenues montre bien que tout cela n'est qu'une gigantesque histoire de communication et d'argent, une escroquerie intellectuelle à grande échelle.
On a promis tout et n'importe quoi. On constatera que très peu de scientifiques, en particulier des vrais experts en iA, ont fait de telles déclarations ; ils sont toujours restés très mesurés. Il est vrai aussi que par la combinaison de ce qu'on appelle l'apprentissage profond, l'exploitation d'énormes volumes de données et les progrès en termes de puissance de calcul, des progrès ont réellement été faits au niveau technique, en particulier en vision par ordinateur et en traitement des langues naturelles. Néanmoins, ces progrès ne reposent sur rien d'intelligent.

La chose que je trouve la plus intéressante est que malgré tous ces efforts (et effectivement, il y a des gens très intelligents qui travaillent et ont des idées), nos progrès vers la création d'une machine qui exhiberait de l'intelligence sont nuls. J'ai l'impression que les seuls progrès qui ont été réalisés depuis les années 1950, c'est de montrer que l'intelligence, c'est toujours plus compliqué, plus complexe et différent de ce que l'on croit. Ce sont tous nos échecs qui nous apprennent quelque chose. (Et je ne suis pas mystique, je ne cherche pas à répondre à cette énigme par l'existence d'un être supérieur.)

Écrit par Philippe Preux à partir de novembre 2020.