Comment définir, de façon simple, l’intelligence artificielle [IA] ?
Jean-Gabriel Ganascia – L’intelligence artificielle consiste à faire exécuter par une machine des opérations que nous faisons avec notre intelligence. De façon encore plus simple, cela veut dire calculer, démontrer des théorèmes, résoudre des problèmes, jouer, traduire, parler, reconnaître une voix, la liste serait longue. La création officielle de l’IA date de 1955, avec le projet d’école d’été de John McCarthy, au cours de laquelle il propose de jeter les fondements d’une nouvelle discipline qui partirait de « la conjecture selon laquelle chaque aspect de l’apprentissage ainsi que n’importe quel trait de l’intelligence pourrait, en principe, être décomposé en modules si élémentaires qu’une machine pourrait les simuler ».
Mais l’IA est le fruit d’une réflexion qui commence bien avant la création des ordinateurs. Elle émane de philosophes comme Leibniz et Hobbes qui affirment que la pensée se réduit à un calcul. Elle devient tangible dès la première moitié du xixe siècle avec Charles Babbage, qui conçoit les plans du premier ordinateur avec sa jeune assistante, l’énigmatique Ada Lovelace, fille du poète Byron, selon laquelle une telle machine ne se limiterait pas à effectuer des calculs mathématiques, mais serait en mesure d’opérer sur des mots ou de la musique. Quelques années plus tard, dans les années 1869, un économiste, William Stanley Jevons, réalise, avec des moyens purement mécaniques, un « piano logique » qui simule des raisonnements en ayant recours à l’algèbre de Boole.
L’idée prend de l’ampleur au xxe siècle, dans les années 1940, avant même la construction des premiers ordinateurs électroniques, au moment de la création de la cybernétique qui étudie, avec des automates, la régulation des systèmes complexes. Cette approche aborde de multiples domaines et dépasse la seule question de la régulation des machines. Elle va notamment influencer la psychologie et l’anthropologie : ainsi, l’école de Palo Alto, fondée par Gregory Bateson, s’appuie beaucoup sur la cybernétique.
Alan Turing va aller plus loin encore. Après avoir posé les fondements de ce qui deviendra l’informatique en 1936, il invente, pendant la guerre, le dispositif permettant de décrypter les messages émis par la machine à coder allemande Enigma. Après cette découverte, Turing se pose la question de savoir ce que penser veut dire, pour une machine. Il imagine alors le test d’intelligence des machines qualifié, depuis, comme étant le « test de Turing » : une machine est dite « intelligente » si elle peut faire illusion en se faisant passer pour un être humain au cours d’un chat, c’est-à-dire d’un échange écrit, par l’intermédiaire de machines.
Après que de grandes espérances, comme celle de la traduction automatique ou du jeu d’échecs, ont été un peu « refroidies », l’IA ne se développe réellement qu’au cours des années 1970, lorsque l’on comprend qu’il ne suffit pas de faire de la logique, mais qu’il faut relier la psychologie, la linguistique et l’informatique. Elle accroît sa popularité ensuite avec l’apparition des « systèmes experts », c’est-à-dire des logiciels visant à simuler le raisonnement dans un champ du savoir restreint, en ayant recours à la connaissance d’hommes de métier pour résoudre des problèmes précis. Ces derniers rencontrent un succès énorme dans les années 1980 avant que l’IA necroise sa course avec le développement du Web.
Aujourd’hui l’IA, c’est quoi ?
L’intelligence artificielle est partout dans nos vies : dans la reconnaissance de la parole, des visages ou des empreintes digitales, dans les apprentissages machines, dans l’hypertexte, les moteurs de recherche, la traduction automatique, les logiciels de recommandation, etc. Tout ce qui est Web comporte de l’IA. Mais il y a aussi de l’IA dans votre téléphone portable, dans la voiture autonome, dans les drones…
Aujourd’hui, quels sont les pays ou les organisations le plus en pointe dans ce domaine ?
Les États-Unis en premier lieu, parce que la discipline s’y est développée beaucoup plus rapidement qu’ailleurs. Pour une simple raison, c’est que les Américains se posent surtout la question du comment, moins du pourquoi, leur côté plus pragmatique les fait avancer plus vite. Au Royaume-Uni aussi, parce qu’ils avaient une tradition logique et informatique forte : n’oublions pas que Charles Babbage, l’inventeur du premier ordinateur, est anglais et qu’il en va de même d’Alan Turing, le précurseur de l’intelligence artificielle.
Au Japon, l’IA s’est développée sous l’impulsion du projet d’ordinateur de cinquième génération, dans lequel les ingénieurs japonais ont souhaité intégrer de l’IA. Ils voulaient concevoir une nouvelle génération de machines intégrant des langages capables d’opérer des déductions logiques. À cette fin, ils ont opté pour le langage Prolog, PROgrammation en LOGique, inventé par un Français, Alain Colmerauer. En France, précisément, malgré de vraies compétences, l’IA a longtemps été méprisée. En Chine, il n’y a rien eu pendant des années, mais les Chinois ont ensuite beaucoup investi en se concentrant notamment sur les questions d’apprentissage machine et sur les applications pour le traitement des masses de données, les mégadonnées.
Connaît-on vraiment les avancées de la recherche dans ces différentes régions ? Des programmes de recherche cachés pourraient-ils exister ?
La recherche a beaucoup changé. Elle avait un côté invisible, caché, restreinte à des cercles d’initiés. Puis des organisations plus étatiques, ont pris le relais, surtout après la Seconde Guerre mondiale. Aujourd’hui, la recherche est financée au plan international. Les communautés de chercheurs sont interdisciplinaires, multinationales. Les financements sont multipartites, privés et publics. On sait donc ce qui se passe. Il y aura toujours des petits groupes construisant des virus informatiques, mais on ne fait pas d’avancées majeures en restant tout seul dans son coin.
Les risques liés à l’IA relèvent-ils alors du fantasme ?
Il faut, je crois, avant tout faire attention aux applications, à la dépendance qu’elles engendrent dans la vie de tous les jours et aux changements sociaux qu’elles induisent. La délégation de certaines tâches aux machines a nécessairement des effets secondaires. Les systèmes informatiques offrent de nouvelles opportunités, tout en en condamnant d’autres. Ainsi, Uber permet de trouver un taxi à proximité, de suivre le parcours de la voiture avant qu’il arrive, puis après, de le noter… De même, on peut craindre que la nature mutualiste des assurances disparaisse progressivement avec le traitement de grandes masses de données qui permettent d’anticiper le risque avec une très grande précision ; en effet, des acteurs promettant des polices d’assurance beaucoup moins coûteuses feront alors leur apparition sur le marché…
Et le débat récent autour des robots tueurs ?
Les questions autour des « robots tueurs », qui reviennent sans cesse, constituent à mes yeux un faux débat. Le but d’une guerre est avant tout de résoudre un conflit. Or, je ne crois pas que les drones, qui engendrent déjà et engendreront immanquablement des bavures, seront en mesure de les résoudre. Une série d’articles parus aux États-Unis en montrent les limites en décrivant toutes les erreurs et les méprises auxquelles l’emploi de drones militaires a conduit. De même, les robots autonomes qui sélectionneront eux-mêmes leurs cibles et commanderont le tir vont générer trop d’hostilité pour s’imposer. À cela, il faut ajouter que ces armes autonomes requièrent des critères objectivables. Or, comment définir formellement un « ennemi » de façon à construire un algorithme qui l’identifie ? C’est là une question d’autant plus délicate que nous avons de plus en plus affaire à des guerres asymétriques où les combattants ne portent pas d’uniforme.
Plus prosaïquement, pourquoi faire compliqué, s’embêter avec des armes autonomes, alors que l’objectif peut être atteint plus simplement avec un drone commandé à distance ?
Et n’y a-t-il pas un lien entre l’IA et la construction d’un homme augmenté ?
Ce qu’on appelle « homme augmenté » recouvre plusieurs aspects. L’augmentation physique, l’augmentation de la perception, par exemple la capacité de voir l’infrarouge, et puis l’augmentation intellectuelle avec les réalités augmentées qui projettent des informations dans notre champ de vision. L’IA peut prendre part dans chacun de ces registres. En revanche, la question des implants et de leur effet sur notre intelligence en général et sur notre mémoire en particulier reste très spéculative.
Et le risque de l’autonomisation d’un programme ?
Cela dépend de ce qu’on entend par autonomie. Un système déjà programmé va se réadapter en fonction des informations données par ses capteurs. En cela, il y a bien autonomie, puisque le programme ne se comporte pas de façon prévisible, et s’adapte au contexte, mais le danger de dérive reste limité.
Avec l’IA et les systèmes d’apprentissage embarqués, le programme va se modifier en fonction de l’expérience du robot. Du coup, on entre dans l’imprévisible. La machine va en effet être capable de s’améliorer et son efficience peut aller contre nos valeurs. Comment faire pour que cela n’outrepasse jamais des limites morales ou éthiques ? Comment et à quels niveaux placer des barrières ?
C’est de ces interrogations qu’émane la lettre publiée par certains spécialistes de l’IA, cosignée par Stephen Hawking et Elon Musk, en janvier 2015, alertant sur la conception de systèmes autonomes avec des techniques d’apprentissage machine. Le programme de recherche qu’ils préconisent apparaît légitime : il s’agit de s’assurer de la sûreté de fonctionnement de systèmes informatiques qui se programment eux-mêmes, à partir de leur propre expérience. Toutefois, derrière cet appel qui se justifie parfaitement d’un point de vue scientifique, se glissent d’autres craintes : celles de voir une machine nous échapper totalement et agir pour son propre compte. Or, rien, pour l’heure, ne légitime de telles inquiétudes.
Bien sûr, des personnes malveillantes pourront toujours essayer de prendre le contrôle de machines. Mais que des machines prennent leur autonomie au sens moral, avec une volonté propre, reste de la pure spéculation.
Que penser justement de ce scénario dit de la « singularité » : le moment où la machine dépassera l’homme. Des chercheurs comme Ray Kurzweil, qui bénéficient de moyens importants, le présentent comme une réalité scientifique.
C’est un scénario qui n’a justement aucun fondement scientifique. Notons d’abord que ceux qui l’énoncent le font en utilisant des arguments d’autorité : ils se présentent toujours avec leurs titres prestigieux, mais ne s’appuient sur aucun fait tangible. De plus, ils n’autorisent pas le débat. Or la science exige que l’on s’appuie sur des observations tout en acceptant le débat et l’échange.
Pour comprendre qu’il n’y a en réalité aucun fondement scientifique, il est bon de revenir à la fameuse expérience de pensée de John Searle dite de la « Chambre chinoise ». Un homme qui ne connaît pas le chinois est enfermé dans une prison. Il voit par la lucarne des caractères chinois, et on lui fait comprendre que, s’il veut manger, il doit présenter à cette même lucarne des panneaux sur lesquels sont écrits des caractères chinois. S’il réagit à ce qu’il voit en présentant les caractères conformes à ce qui est recommandé dans le catalogue de règles syntaxiques qu’on a mis à sa disposition, il aura à manger. Au bout d’un certain nombre d’années, on peut supposer qu’il devient très performant et que, de l’extérieur, les Chinois ont l’impression qu’il réagit comme un Chinois qui comprend le chinois… Mais, d’après Searle, cela ne signifie pas qu’il comprend effectivement le chinois. Il y a en effet une différence radicale entre la syntaxe, qui est de l’ordre de la manipulation des symboles, par exemple des panneaux sur lesquels sont inscrits des caractères, et la sémantique, qui est de l’ordre de la signification.
Searle distingue ainsi l’IA « faible », celle qui reproduit certaines facultés intellectuelles pour les automatiser, de l’IA « forte », qui fait entrer l’intégralité des phénomènes conscients dans une machine. Jusqu’à présent, les progrès impressionnants enregistrés par l’intelligence artificielle relèvent uniquement de l’IA « faible ». Seule une minorité de la communauté scientifique prétend relever ce défi de l’IA « forte ». Mais il n’y a rien pour mesurer ce type d’ambition.
Pourtant, de grandes organisations privées investissent des sommes considérables sur ce type de programmes… Kurzweil lui-même a été embauché chez Google en 2012 comme directeur de la recherche.
Je crains que ces sociétés aient une confiance absolue dans le pouvoir de la technologie. Google, Facebook sont des empires qui se sont montés à toute vitesse. Ils ont réussi au-delà de ce que quiconque aurait pu imaginer, ont changé le monde en quelques années. Leurs dirigeants ne perçoivent plus de limites. Beaucoup ont le sentiment que tout est possible, que la vie peut se transformer, que même la mort peut être « tuée ». Les technologies leur ont conféré un sentiment de toute-puissance. Ils sont aussi persuadés que la technologie a ses propres lois. L’industrie 2.0 fait en effet appel en permanence aux « retours d’usage ». Ces dirigeants ne décident finalement plus de rien. Certes, ils ont une position importante, mais ne se conçoivent pas comme les capitalistes décideurs de l’époque précédente. Ils essayent des choses dans tous les sens. Ils sont en permanence à l’écoute. Ils ont le sentiment d’une deuxième dimension, d’une autodétermination, d’un déploiement autonome de la technologie, hors de toute maîtrise humaine.
Personnellement, je ne pense pas que la technologie soit autonome en ce sens qu’elle ne se déploie pas d’elle-même. J’ai fait le choix de travailler sur l’IA non pas dans le but qu’elle augmente sa propre « conscience », ce qui, à mon sens, n’a pas grand sens, mais afin qu’elle permette d’accroître la conscience de l’homme : que l’on puisse par exemple, grâce à l’IA, mieux apprécier des textes littéraires, mieux saisir les influences mutuelles, mieux en comprendre la genèse… Cela accroît notre propre intelligence, pas celle de la machine.
Engage Days – thecamp, octobre 2018
