Articles

Jean-Gabriel Ganascia : L’intellligence artificielle est partout dans nos vies

, ,
Jean-Gabriel Ganascia, professeur d’informatique à l’université Pierre-et-Marie-Curie, est l’un des principaux spécialistes français de l’intelligence artificielle. Ses recherches actuelles portent sur le versant littéraire des humanités numériques, la philosophie computationnelle et l’éthique des technologies de l’information et de la communication. 

Comment définir, de façon simple, l’intelligence artificielle [IA] ?

Jean-Gabriel Ganascia – L’intelligence artificielle consiste à faire exécuter par une machine des opérations que nous faisons avec notre intelligence. De façon encore plus simple, cela veut dire calculer, démontrer des théorèmes, résoudre des problèmes, jouer, traduire, parler, reconnaître une voix, la liste serait longue. La création officielle de l’IA date de 1955, avec le projet d’école d’été de John McCarthy, au cours de laquelle il propose de jeter les fondements d’une nouvelle discipline qui partirait de « la conjecture selon laquelle chaque aspect de l’apprentissage ainsi que n’importe quel trait de l’intelligence pourrait, en principe, être décomposé en modules si élémentaires qu’une machine pourrait les simuler ».

Mais l’IA est le fruit d’une réflexion qui commence bien avant la création des ordinateurs. Elle émane de philosophes comme Leibniz et Hobbes qui affirment que la pensée se réduit à un calcul. Elle devient tangible dès la première moitié du xixe siècle avec Charles Babbage, qui conçoit les plans du premier ordinateur avec sa jeune assistante, l’énigmatique Ada Lovelace, fille du poète Byron, selon laquelle une telle machine ne se limiterait pas à effectuer des calculs mathématiques, mais serait en mesure d’opérer sur des mots ou de la musique. Quelques années plus tard, dans les années 1869, un économiste, William Stanley Jevons, réalise, avec des moyens purement mécaniques, un « piano logique » qui simule des raisonnements en ayant recours à l’algèbre de Boole.

L’idée prend de l’ampleur au xxe siècle, dans les années 1940, avant même la construction des premiers ordinateurs électroniques, au moment de la création de la cybernétique qui étudie, avec des automates, la régulation des systèmes complexes. Cette approche aborde de multiples domaines et dépasse la seule question de la régulation des machines. Elle va notamment influencer la psychologie et l’anthropologie : ainsi, l’école de Palo Alto, fondée par Gregory Bateson, s’appuie beaucoup sur la cybernétique.

Alan Turing va aller plus loin encore. Après avoir posé les fondements de ce qui deviendra l’informatique en 1936, il invente, pendant la guerre, le dispositif permettant de décrypter les messages émis par la machine à coder allemande Enigma. Après cette découverte, Turing se pose la question de savoir ce que penser veut dire, pour une machine. Il imagine alors le test d’intelligence des machines qualifié, depuis, comme étant le « test de Turing » : une machine est dite « intelligente » si elle peut faire illusion en se faisant passer pour un être humain au cours d’un chat, c’est-à-dire d’un échange écrit, par l’intermédiaire de machines.

Après que de grandes espérances, comme celle de la traduction automatique ou du jeu d’échecs, ont été un peu « refroidies », l’IA ne se développe réellement qu’au cours des années 1970, lorsque l’on comprend qu’il ne suffit pas de faire de la logique, mais qu’il faut relier la psychologie, la linguistique et l’informatique. Elle accroît sa popularité ensuite avec l’apparition des « systèmes experts », c’est-à-dire des logiciels visant à simuler le raisonnement dans un champ du savoir restreint, en ayant recours à la connaissance d’hommes de métier pour résoudre des problèmes précis. Ces derniers rencontrent un succès énorme dans les années 1980 avant que l’IA necroise sa course avec le développement du Web.

Aujourd’hui l’IA, c’est quoi ?

L’intelligence artificielle est partout dans nos vies : dans la reconnaissance de la parole, des visages ou des empreintes digitales, dans les apprentissages machines, dans l’hypertexte, les moteurs de recherche, la traduction automatique, les logiciels de recommandation, etc. Tout ce qui est Web comporte de l’IA. Mais il y a aussi de l’IA dans votre téléphone portable, dans la voiture autonome, dans les drones…

Aujourd’hui, quels sont les pays ou les organisations le plus en pointe dans ce domaine ?

Les États-Unis en premier lieu, parce que la discipline s’y est développée beaucoup plus rapidement qu’ailleurs. Pour une simple raison, c’est que les Américains se posent surtout la question du comment, moins du pourquoi, leur côté plus pragmatique les fait avancer plus vite. Au Royaume-Uni aussi, parce qu’ils avaient une tradition logique et informatique forte : n’oublions pas que Charles Babbage, l’inventeur du premier ordinateur, est anglais et qu’il en va de même d’Alan Turing, le précurseur de l’intelligence artificielle.

Au Japon, l’IA s’est développée sous l’impulsion du projet d’ordinateur de cinquième génération, dans lequel les ingénieurs japonais ont souhaité intégrer de l’IA. Ils voulaient concevoir une nouvelle génération de machines intégrant des langages capables d’opérer des déductions logiques. À cette fin, ils ont opté pour le langage Prolog, PROgrammation en LOGique, inventé par un Français, Alain Colmerauer. En France, précisément, malgré de vraies compétences, l’IA a longtemps été méprisée. En Chine, il n’y a rien eu pendant des années, mais les Chinois ont ensuite beaucoup investi en se concentrant notamment sur les questions d’apprentissage machine et sur les applications pour le traitement des masses de données, les mégadonnées.

Connaît-on vraiment les avancées de la recherche dans ces différentes régions ? Des programmes de recherche cachés pourraient-ils exister ?

La recherche a beaucoup changé. Elle avait un côté invisible, caché, restreinte à des cercles d’initiés. Puis des organisations plus étatiques, ont pris le relais, surtout après la Seconde Guerre mondiale. Aujourd’hui, la recherche est financée au plan international. Les communautés de chercheurs sont interdisciplinaires, multinationales. Les financements sont multipartites, privés et publics. On sait donc ce qui se passe. Il y aura toujours des petits groupes construisant des virus informatiques, mais on ne fait pas d’avancées majeures en restant tout seul dans son coin.

Les risques liés à l’IA relèvent-ils alors du fantasme ?

Il faut, je crois, avant tout faire attention aux applications, à la dépendance qu’elles engendrent dans la vie de tous les jours et aux changements sociaux qu’elles induisent. La délégation de certaines tâches aux machines a nécessairement des effets secondaires. Les systèmes informatiques offrent de nouvelles opportunités, tout en en condamnant d’autres. Ainsi, Uber permet de trouver un taxi à proximité, de suivre le parcours de la voiture avant qu’il arrive, puis après, de le noter… De même, on peut craindre que la nature mutualiste des assurances disparaisse progressivement avec le traitement de grandes masses de données qui permettent d’anticiper le risque avec une très grande précision ; en effet, des acteurs promettant des polices d’assurance beaucoup moins coûteuses feront alors leur apparition sur le marché…

Et le débat récent autour des robots tueurs ?

Les questions autour des « robots tueurs », qui reviennent sans cesse, constituent à mes yeux un faux débat. Le but d’une guerre est avant tout de résoudre un conflit. Or, je ne crois pas que les drones, qui engendrent déjà et engendreront immanquablement des bavures, seront en mesure de les résoudre. Une série d’articles parus aux États-Unis en montrent les limites en décrivant toutes les erreurs et les méprises auxquelles l’emploi de drones militaires a conduit. De même, les robots autonomes qui sélectionneront eux-mêmes leurs cibles et commanderont le tir vont générer trop d’hostilité pour s’imposer. À cela, il faut ajouter que ces armes autonomes requièrent des critères objectivables. Or, comment définir formellement un « ennemi » de façon à construire un algorithme qui l’identifie ? C’est là une question d’autant plus délicate que nous avons de plus en plus affaire à des guerres asymétriques où les combattants ne portent pas d’uniforme.

Plus prosaïquement, pourquoi faire compliqué, s’embêter avec des armes autonomes, alors que l’objectif peut être atteint plus simplement avec un drone commandé à distance ?

Et n’y a-t-il pas un lien entre l’IA et la construction d’un homme augmenté ?

Ce qu’on appelle « homme augmenté » recouvre plusieurs aspects. L’augmentation physique, l’augmentation de la perception, par exemple la capacité de voir l’infrarouge, et puis l’augmentation intellectuelle avec les réalités augmentées qui projettent des informations dans notre champ de vision. L’IA peut prendre part dans chacun de ces registres. En revanche, la question des implants et de leur effet sur notre intelligence en général et sur notre mémoire en particulier reste très spéculative.

Et le risque de l’autonomisation d’un programme ?

Cela dépend de ce qu’on entend par autonomie. Un système déjà programmé va se réadapter en fonction des informations données par ses capteurs. En cela, il y a bien autonomie, puisque le programme ne se comporte pas de façon prévisible, et s’adapte au contexte, mais le danger de dérive reste limité.

Avec l’IA et les systèmes d’apprentissage embarqués, le programme va se modifier en fonction de l’expérience du robot. Du coup, on entre dans l’imprévisible. La machine va en effet être capable de s’améliorer et son efficience peut aller contre nos valeurs. Comment faire pour que cela n’outrepasse jamais des limites morales ou éthiques ? Comment et à quels niveaux placer des barrières ?

C’est de ces interrogations qu’émane la lettre publiée par certains spécialistes de l’IA, cosignée par Stephen Hawking et Elon Musk, en janvier 2015, alertant sur la conception de systèmes autonomes avec des techniques d’apprentissage machine. Le programme de recherche qu’ils préconisent apparaît légitime : il s’agit de s’assurer de la sûreté de fonctionnement de systèmes informatiques qui se programment eux-mêmes, à partir de leur propre expérience. Toutefois, derrière cet appel qui se justifie parfaitement d’un point de vue scientifique, se glissent d’autres craintes : celles de voir une machine nous échapper totalement et agir pour son propre compte. Or, rien, pour l’heure, ne légitime de telles inquiétudes.

Bien sûr, des personnes malveillantes pourront toujours essayer de prendre le contrôle de machines. Mais que des machines prennent leur autonomie au sens moral, avec une volonté propre, reste de la pure spéculation.

Que penser justement de ce scénario dit de la « singularité » : le moment où la machine dépassera l’homme. Des chercheurs comme Ray Kurzweil, qui bénéficient de moyens importants, le présentent comme une réalité scientifique.

C’est un scénario qui n’a justement aucun fondement scientifique. Notons d’abord que ceux qui l’énoncent le font en utilisant des arguments d’autorité : ils se présentent toujours avec leurs titres prestigieux, mais ne s’appuient sur aucun fait tangible. De plus, ils n’autorisent pas le débat. Or la science exige que l’on s’appuie sur des observations tout en acceptant le débat et l’échange.

Pour comprendre qu’il n’y a en réalité aucun fondement scientifique, il est bon de revenir à la fameuse expérience de pensée de John Searle dite de la « Chambre chinoise ». Un homme qui ne connaît pas le chinois est enfermé dans une prison. Il voit par la lucarne des caractères chinois, et on lui fait comprendre que, s’il veut manger, il doit présenter à cette même lucarne des panneaux sur lesquels sont écrits des caractères chinois. S’il réagit à ce qu’il voit en présentant les caractères conformes à ce qui est recommandé dans le catalogue de règles syntaxiques qu’on a mis à sa disposition, il aura à manger. Au bout d’un certain nombre d’années, on peut supposer qu’il devient très performant et que, de l’extérieur, les Chinois ont l’impression qu’il réagit comme un Chinois qui comprend le chinois… Mais, d’après Searle, cela ne signifie pas qu’il comprend effectivement le chinois. Il y a en effet une différence radicale entre la syntaxe, qui est de l’ordre de la manipulation des symboles, par exemple des panneaux sur lesquels sont inscrits des caractères, et la sémantique, qui est de l’ordre de la signification.

Searle distingue ainsi l’IA « faible », celle qui reproduit certaines facultés intellectuelles pour les automatiser, de l’IA « forte », qui fait entrer l’intégralité des phénomènes conscients dans une machine. Jusqu’à présent, les progrès impressionnants enregistrés par l’intelligence artificielle relèvent uniquement de l’IA « faible ». Seule une minorité de la communauté scientifique prétend relever ce défi de l’IA « forte ». Mais il n’y a rien pour mesurer ce type d’ambition.

Pourtant, de grandes organisations privées investissent des sommes considérables sur ce type de programmes… Kurzweil lui-même a été embauché chez Google en 2012 comme directeur de la recherche.

Je crains que ces sociétés aient une confiance absolue dans le pouvoir de la technologie. Google, Facebook sont des empires qui se sont montés à toute vitesse. Ils ont réussi au-delà de ce que quiconque aurait pu imaginer, ont changé le monde en quelques années. Leurs dirigeants ne perçoivent plus de limites. Beaucoup ont le sentiment que tout est possible, que la vie peut se transformer, que même la mort peut être « tuée ». Les technologies leur ont conféré un sentiment de toute-puissance. Ils sont aussi persuadés que la technologie a ses propres lois. L’industrie 2.0 fait en effet appel en permanence aux « retours d’usage ». Ces dirigeants ne décident finalement plus de rien. Certes, ils ont une position importante, mais ne se conçoivent pas comme les capitalistes décideurs de l’époque précédente. Ils essayent des choses dans tous les sens. Ils sont en permanence à l’écoute. Ils ont le sentiment d’une deuxième dimension, d’une autodétermination, d’un déploiement autonome de la technologie, hors de toute maîtrise humaine.

Personnellement, je ne pense pas que la technologie soit autonome en ce sens qu’elle ne se déploie pas d’elle-même. J’ai fait le choix de travailler sur l’IA non pas dans le but qu’elle augmente sa propre « conscience », ce qui, à mon sens, n’a pas grand sens, mais afin qu’elle permette d’accroître la conscience de l’homme : que l’on puisse par exemple, grâce à l’IA, mieux apprécier des textes littéraires, mieux saisir les influences mutuelles, mieux en comprendre la genèse… Cela accroît notre propre intelligence, pas celle de la machine.

/par

Pierre-Etienne Franc : L’entreprise au service de la Cité

, , , ,

Pierre-Etienne Franc vient de publier Entreprise & Bien Commun, un ouvrage qui analyse les bases culturelles, structurelles et organisationnelles de nouvelles pratiques désormais urgentes pour les entreprises.

 

ENGAGE : Pourquoi ce livre et pourquoi maintenant ?

Pierre-Etienne Franc : Je vis depuis longtemps dans mon métier cette intrication devenue essentielle des problématiques collectives et des entreprises notamment bien sûr sur les questions énergétiques. Mais je sens que beaucoup de gens comprennent mal que, sans les entreprises, leur puissance technologique, leur agilité et capacité d’organisation et d’investissement, les choses ne pourront pas avancer vite et fort.

De l’autre, beaucoup d’entreprises semblent refuser, ou ne pas comprendre que ce qui arrive avec la finitude des ressources et les questions environnementales et climatiques n’arrive pas qu’aux autres, mais vont les toucher toutes de plein fouet et très vite et qu’elles doivent impérativement changer d’angle. Urgence surtout, car tout cela s’accélère et nous devons changer de regard sur le rôle des uns et des autres si on veut régler les chantiers du monde.

Enfin, à titre personnel, besoin de renouer par ce texte le fil d’une culture personnelle et familiale qui se nourrit de la chose publique et ne peut se résoudre à croire qu’il soit possible de faire société sans que chacun ne s’occupe un peu à la faire !

Vous parlez de replacer l’entreprise au service de la Cité et du bien commun, une utopie, un voeux pieux ou une prochaine réalité ?

Une utopie pas forcément, parce que l’objet du livre est de démontrer qu’il y a une forme de rationalité presque cynique qui devrait pousser les entreprises à travailler les questions sociétales et de bien commun, car je crois fondamentalement que c’est là que se trouvent les gisements de croissance. Rationalité cynique matinée d’un effet vertueux qui relève pour sa part peut être de l’utopie, mais qui est relatif à la pression des réseaux sociaux sur le monde économique et politique.
Je crois que cette pression permanente et malsaine de la transparence a probablement quelques vertus en ce qu’elle nous oblige à être clair sur nos actes et nos intentions et qu’elle pousse donc les entreprises à un discours de cohérence qui assume ses choix stratégiques. Pour celles qui voudront jouer le jeu de la croissance au service du bien commun ou en tenant pleinement compte des contraintes du bien commun, le digital leur imposera une forme de transparence assez peu facile à tromper, donc une lutte pour effectivement défendre la pertinence de leurs solutions  ou de leurs procédés au regard des questions du bien commun.
Il devrait être de plus en plus difficile de voir se développer des cas de type “glyphosate”, tant la pression médiatique sera forte à ce que les produits , et technologies qui sont mis sur le marché respectent des normes incontestables et soient parfaitement cohérent avec les exigences du bien commun, c’est à dire ne produisent pas d’effets négatifs sur les tiers qui ne soient clairement connus et appréciés.

C’est peut-être cette facette là qui est la plus utopique potentiellement, mais je pense qu’elle pousse à des engagements de convictions et non plus seulement d’opportunités.

Vous pensez donc que la période est particulièrement propice à une tel ‘retour’ de l’éthique au sein de ‘la personne morale’, pourquoi ?

La période est charnière, pour les raisons que nous avons vues, finitude des ressources, épuisement des modèles productifs de croissance, enjeux climatiques. L’attitude fondée sur la seule performance ne tient plus parce qu’elle devient cynique et donc met en jeu l’image de l’entreprise, de ses dirigeants et leur capacité à faire sens en leur sein et dans la société. Cela ne signifie pas que l’éthique est plus importante aujourd’hui qu’hier, ou que la morale devrait reprendre la main, cela signifie que l’absence de prise en compte du bien commun dans le développement d’une activité est beaucoup plus visible, traçable et beaucoup plus rapidement médiatisable que par le passé.

Il est intéressant de voir la résurgence de la volonté de la puissance publique en France de reconnaître ou de redéfinir le rôle des entreprises dans la cité par la loi, y incluant leur vocation à servir aussi la société. Cela traduit que dans un monde fini, la juxtaposition d’activités économiques séparées, animées par la seule satisfaction de marchés ou besoins individuels, sans tenir compte de leur impact plus général sur l’éco système, ne produit plus forcément d’efficacité globale et impose donc de revisiter leur valeur autrement qu’à l’aune de la seule satisfaction individuelle. La finitude impose la responsabilité en quelque sorte. Et si l’on veut aller plus loin que l’Ethique de responsabilité, il faut s’engager, donc basculer dans une éthique de conviction. Là on entre dans la problématique du leadership et des valeurs personnelles.

Faire évoluer une structure nécessite aussi un nouveau leadership, comment le décririez-vous ?

Je parle de passeur, pour essayer d’illustrer la nécessité de travailler à des leadership qui essayent d’ouvrir les entreprise aux mondes avec lesquels elles interagissent, pour les sortir de logiques de performances à leurs bornes et au contraire les inciter à regarder la valeur comme une contribution qui dépasse la seule production de biens et de services mais englobe aussi la méthode, l’impact sur les tiers (environnement, santé, eco système) qui l’entourent et qui sont concernés.

Cela signifie un regard différent sur les activités de l’entreprise et probablement aussi une approche ouverte du management au sein de l’entreprise, une forme d’exigence bienveillante, qui ne renie pas les enjeux de performances, mais voit la valeur comme plus large que la seule production monétaire, qui refuse de considérer que le rôle de l’entreprise s’arrête à son activité mais au contraire juge qu’elle prend son sens dans un engagement auprès et avec les tiers qui sont touchés directement ou indirectement par ce qu’elle fait.

Un conseil à ceux qui n’arrivent pas à faire bouger leur structure ?

Les changements les plus forts viennent de l’extérieur. Les grandes structures réagissent rarement à des mobilisations internes, elles réagissent à des pressions concurrentielles, technologiques, de marché, de règles, qui bouleversent les processus structurés existants. Il faut chercher à faire rentrer la diversité, la disruption par le dehors. Cela signifie des gouvernances ad hoc, des capacités d’agir qui sont “de coté”, mais connectées (pour qu’il existe des points d’entrée du dehors vers le dedans, des points de passage), l’appui de structures agiles, et la nécessité de trouver des exemples, des succès qui fassent réagir l’intérieur. Cela fonctionne d’autant mieux que le top de l’entreprise soutient cette disruption du dedans / dehors, cela renvoie inévitablement aux convictions propres du sommet.
Cela est d’autant plus essentiel que le degré d’incertitudes au quel nous faisons face est très élevé de par justement la somme des connaissances qui s’accumulent et conduisent de jour en jour à mieux nous faire saisir nos interdépendances. Il n’est plus possible de simplement dire la batterie réduit les émissions de polluants pour avancer, car toute une théorie d’analyses vient très vite amender, pondérer, contester les bénéfices de la solution.

Ainsi l’ignorance des autres n’est plus un paramètre qui peut permettre d’avancer, car la connaissance est partout et potentiellement infinie. Mais le divers qui sourd de la connaissance creuse un monde d’incertitude permanente qui ne permet plus d’avancer sur de seules bases rationnelles. C’est donc in fine l’éthique de conviction et de responsabilité qui doivent guider les choix entrepreneuriaux, ce qui est profondément neuf et contre intuitif dans notre monde actuel. Et qui engage plus fortement encore aujourd’hui qu’hier la force d’âme des dirigeants, ce que j’appelle la vertu.

Un mot et une oeuvre enfin pour caractériser l’engagement ?

Persister. L’oeuvre encore non achevée de Bertrand Piccard présente beaucoup de ces facettes dont le monde a besoin, un mélange d’audace, d’optimisme actif, de technologie et d’exemplarité qui produit une très belle illustration de ce que veut dire changer de monde. “C’était impossible, alors ils l’ont fait”, pour reprendre Mark Twain.

 

/par