Loïc Blondiaux : Il faut penser différemment le processus de décision

Loïc Blondiaux est intervenant à l’ENGAGE University et enseignant à l’Université Paris I Panthéon-Sorbonne. Chercheur reconnu sur les questions de démocratie participative, il nous partage sa vision des évolutions démocratiques et de la refonte de la participation citoyenne.

De quoi souffre notre démocratie ? Pourquoi cette désaffection croissante ?
Les symptômes d’épuisement de notre modèle démocratique sont connus. Le sentiment selon lequel les gouvernements démocratiques ne sont plus en mesure de protéger leurs populations ou ne cherchent plus à les représenter de manière équitable domine désormais dans la population. Le sentiment également selon lequel le pouvoir politique est de plus en plus impuissant face aux pouvoirs économiques (grandes entreprises, banques, marchés, GAFAM….) gagne lui aussi du terrain.  A quoi sert-il d’aller voter si, au final, ce seront toujours les mêmes politiques qui seront adoptées ? Cela se traduit très concrètement par une forte impopularité des acteurs politiques, une défiance à l’égard des institutions, une abstention électorale croissante et, chez certains, à une tentation autoritaire. Les mouvements d’extrême droite profitent aujourd’hui directement de ce malaise démocratique. A cela s’ajoutent d’autres phénomènes, plus structuraux, comme l’élévation du niveau d’éducation général de la population qui conduit à ne plus accepter les discours d’autorité. Des capacités de critique sont présentes dans la société qui rendent difficile pour les autorités le passage en force. Cela s’observe notamment à l’échelle locale, lorsque ces dernières veulent imposer aux populations des projets dont celles-ci ne veulent pas. Il faut souligner les effets d’un changement d’attitudes politiques chez les jeunes : une partie de la jeunesse ne se reconnaît plus dans les institutions de la représentation classique, aspire à des modalités de participation différentes, plus horizontales, plus contributives, plus inclusives et se sert notamment des outils numériques pour cela.

Nous ne vivons donc pas aujourd’hui en France dans une réelle démocratie… A l’heure de la montée des ‘démocratures’, notre situation semble pourtant enviable, non ?
A certains égards nous pourrions affirmer que nous n’avons jamais été en démocratie, au sens où les inventeurs du régime qui est le nôtre, à savoir la « démocratie représentative », à la fin du XVIIIe siècle haïssaient la démocratie et rejetaient clairement toute perspective de voir le peuple se gouverner lui-même, qu’il s’agisse des révolutionnaires français ou américains. Ils ont inventé une forme de gouvernement qui repose certes sur le principe de la souveraineté du peuple mais organise le transfert du pouvoir de décision à des représentants, supposés plus vertueux et plus sages. Cela a été clairement théorisé. De fait, ce n’est qu’avec l’avènement du suffrage universel et la création des partis de masse au début du XXe siècle que ce régime s’est stabilisé sous la forme que nous lui connaissons, avec une possibilité pour l’ensemble des citoyens, en particulier ceux des catégories populaires, d’être intégrés au système politique. Aujourd’hui, certes notre situation politique apparaît plus enviable que bien d’autres. De fait, le glissement vers l’autoritarisme touche aujourd’hui toutes les sociétés. Il est frappant de voir que pour la première fois depuis la seconde guerre mondiale, au cours de ces cinq dernières années, le nombre de démocraties authentiques dans le monde régresse. Les évolutions en Europe de pays comme la Hongrie, la Pologne ou l’Autriche est inquiétant. L’affirmation de pouvoirs forts, sinon dictatoriaux, en Russie et en Chine et surtout leur contestation du modèle de la démocratie libérale l’est tout autant. Dans un pays comme la France, le renforcement des moyens gouvernementaux de surveillance (inscription de l’Etat d’urgence dans le droit courant), de même que le rétrécissement des espaces de délibération démocratique (recours aux ordonnances, renforcement du pouvoir exécutif au détriment du parlement, prise du pouvoir par les experts, “gouvernement par les nombres” au sens d’Alain Supiot), méritent tout autant que l’on s’interroge sur la fragilité de nos institutions démocratiques.

Pourquoi insistez-vous sur cette notion et ce besoin de démocratie participative, directe ?
Dès lors que l’on définit l’idéal démocratique comme un idéal d’égale possibilité pour chaque citoyen d’influencer la décision politique, il faut s’interroger sur les limites de l’élection et les travers oligarchiques de nos systèmes démocratiques et prendre au sérieux cette idée de démocratie participative. Dans quelle mesure, aujourd’hui, chaque citoyen a-t-il la possibilité d’influencer le pouvoir de décision ? Dans quelle mesure est-il même informé correctement des choix qui se posent à la collectivité ? Peut-on accepter que les décisions se prennent hors de tout contrôle des citoyens, dans le huis clos confortable de cénacles exclusivement fréquentés par les experts, les élus et quelques représentants de groupes d’intérêt influents ? Ce sont là les véritables enjeux de la démocratie participative : penser différemment le processus de décision et faire en sorte que tous ceux qu’elle affecte puissent avoir la même chance d’y faire entendre leur voix. Nous en sommes encore très loin. Notre conception monarchique du pouvoir et nos institutions interdisent le plus souvent l’ouverture aux citoyens des espaces où se discutent les décisions. Il faut aller vers un processus de représentation véritablement démocratique dans lequel chaque citoyen ou chaque point de vue puisse avoir la possibilité de s’exprimer dans un processus de délibération ouvert. Les représentants et les experts ne peuvent plus prétendre détenir le monopole de la rationalité et de la vérité. Les citoyens sont parfaitement en mesure de comprendre et de contribuer à ce processus de décision. Certes les élus, dans un régime qui reste représentatif, gardent le dernier mot mais la délibération démocratique nous concerne tous.

Vous participez depuis sa création à l’aventure ENGAGE en intervenant à l’ENGAGE University. Pourquoi est-ce important à vos yeux ?

J’interviens régulièrement à l’ENGAGE University parce que je crois nécessaire de participer, au-delà de l’université et des publics habituels de la science politique, à la diffusion d’un certain nombre d’idées et d’expériences innovantes en matière de participation politique. Depuis quelques années, je conçois différemment mon métier de chercheur et me pense de plus en plus comme un “passeur” entre le monde académique et la société. Je participe à de nombreuses autres initiatives (Démocratie ouverte, Institut de la concertation, 27ème région, Institut de recherche sur la gouvernance, Décider ensemble…) et cherche à favoriser leur mise en réseau. A ENGAGE, j’ai également l’occasion de rencontrer des gens qui cherchent à innover dans d’autres domaines que le politique, dans l’entreprise, l’éducation, l’urbanisme… et cela fait écho à mes propres questionnements. Je me sens par exemple particulièrement en phase avec les travaux qui portent sur les alternatives éducatives qui constituent pour moi une clé pour le changement politique. Le public de l’ENGAGE University est précieux pour moi dès lors qu’il m’invite à me poser de nouvelles questions. J’apprécie aussi beaucoup l’éco-système affectif et humain que constitue ENGAGE et qui s’exprime notamment lors des ENGAGE Days où les rencontres et les découvertes sont toujours remarquables.

Une raison fondamentale de s’engager aujourd’hui, de participer à la vie de la Cité ?
Une seule : faire en sorte que l’effondrement de civilisation qui nous menace (du fait des changements environnementaux, menaces de guerre, crises migratoires, crises financières, montée des inégalités, sortie hors de la démocratie….) n’advienne pas ou, s’il advient, que nous puissions lui survivre humainement. Si nous ne faisons rien pour interpeller nos gouvernants (égoïstes et aveugles) ou pour trouver nous même les solutions,  nous sommes condamnés.

/0 Commentaires/par

Jean-Gabriel Ganascia : L’intellligence artificielle est partout dans nos vies

, ,
Jean-Gabriel Ganascia, professeur d’informatique à l’université Pierre-et-Marie-Curie, est l’un des principaux spécialistes français de l’intelligence artificielle. Ses recherches actuelles portent sur le versant littéraire des humanités numériques, la philosophie computationnelle et l’éthique des technologies de l’information et de la communication. 

Comment définir, de façon simple, l’intelligence artificielle [IA] ?

Jean-Gabriel Ganascia – L’intelligence artificielle consiste à faire exécuter par une machine des opérations que nous faisons avec notre intelligence. De façon encore plus simple, cela veut dire calculer, démontrer des théorèmes, résoudre des problèmes, jouer, traduire, parler, reconnaître une voix, la liste serait longue. La création officielle de l’IA date de 1955, avec le projet d’école d’été de John McCarthy, au cours de laquelle il propose de jeter les fondements d’une nouvelle discipline qui partirait de « la conjecture selon laquelle chaque aspect de l’apprentissage ainsi que n’importe quel trait de l’intelligence pourrait, en principe, être décomposé en modules si élémentaires qu’une machine pourrait les simuler ».

Mais l’IA est le fruit d’une réflexion qui commence bien avant la création des ordinateurs. Elle émane de philosophes comme Leibniz et Hobbes qui affirment que la pensée se réduit à un calcul. Elle devient tangible dès la première moitié du xixe siècle avec Charles Babbage, qui conçoit les plans du premier ordinateur avec sa jeune assistante, l’énigmatique Ada Lovelace, fille du poète Byron, selon laquelle une telle machine ne se limiterait pas à effectuer des calculs mathématiques, mais serait en mesure d’opérer sur des mots ou de la musique. Quelques années plus tard, dans les années 1869, un économiste, William Stanley Jevons, réalise, avec des moyens purement mécaniques, un « piano logique » qui simule des raisonnements en ayant recours à l’algèbre de Boole.

L’idée prend de l’ampleur au xxe siècle, dans les années 1940, avant même la construction des premiers ordinateurs électroniques, au moment de la création de la cybernétique qui étudie, avec des automates, la régulation des systèmes complexes. Cette approche aborde de multiples domaines et dépasse la seule question de la régulation des machines. Elle va notamment influencer la psychologie et l’anthropologie : ainsi, l’école de Palo Alto, fondée par Gregory Bateson, s’appuie beaucoup sur la cybernétique.

Alan Turing va aller plus loin encore. Après avoir posé les fondements de ce qui deviendra l’informatique en 1936, il invente, pendant la guerre, le dispositif permettant de décrypter les messages émis par la machine à coder allemande Enigma. Après cette découverte, Turing se pose la question de savoir ce que penser veut dire, pour une machine. Il imagine alors le test d’intelligence des machines qualifié, depuis, comme étant le « test de Turing » : une machine est dite « intelligente » si elle peut faire illusion en se faisant passer pour un être humain au cours d’un chat, c’est-à-dire d’un échange écrit, par l’intermédiaire de machines.

Après que de grandes espérances, comme celle de la traduction automatique ou du jeu d’échecs, ont été un peu « refroidies », l’IA ne se développe réellement qu’au cours des années 1970, lorsque l’on comprend qu’il ne suffit pas de faire de la logique, mais qu’il faut relier la psychologie, la linguistique et l’informatique. Elle accroît sa popularité ensuite avec l’apparition des « systèmes experts », c’est-à-dire des logiciels visant à simuler le raisonnement dans un champ du savoir restreint, en ayant recours à la connaissance d’hommes de métier pour résoudre des problèmes précis. Ces derniers rencontrent un succès énorme dans les années 1980 avant que l’IA necroise sa course avec le développement du Web.

Aujourd’hui l’IA, c’est quoi ?

L’intelligence artificielle est partout dans nos vies : dans la reconnaissance de la parole, des visages ou des empreintes digitales, dans les apprentissages machines, dans l’hypertexte, les moteurs de recherche, la traduction automatique, les logiciels de recommandation, etc. Tout ce qui est Web comporte de l’IA. Mais il y a aussi de l’IA dans votre téléphone portable, dans la voiture autonome, dans les drones…

Aujourd’hui, quels sont les pays ou les organisations le plus en pointe dans ce domaine ?

Les États-Unis en premier lieu, parce que la discipline s’y est développée beaucoup plus rapidement qu’ailleurs. Pour une simple raison, c’est que les Américains se posent surtout la question du comment, moins du pourquoi, leur côté plus pragmatique les fait avancer plus vite. Au Royaume-Uni aussi, parce qu’ils avaient une tradition logique et informatique forte : n’oublions pas que Charles Babbage, l’inventeur du premier ordinateur, est anglais et qu’il en va de même d’Alan Turing, le précurseur de l’intelligence artificielle.

Au Japon, l’IA s’est développée sous l’impulsion du projet d’ordinateur de cinquième génération, dans lequel les ingénieurs japonais ont souhaité intégrer de l’IA. Ils voulaient concevoir une nouvelle génération de machines intégrant des langages capables d’opérer des déductions logiques. À cette fin, ils ont opté pour le langage Prolog, PROgrammation en LOGique, inventé par un Français, Alain Colmerauer. En France, précisément, malgré de vraies compétences, l’IA a longtemps été méprisée. En Chine, il n’y a rien eu pendant des années, mais les Chinois ont ensuite beaucoup investi en se concentrant notamment sur les questions d’apprentissage machine et sur les applications pour le traitement des masses de données, les mégadonnées.

Connaît-on vraiment les avancées de la recherche dans ces différentes régions ? Des programmes de recherche cachés pourraient-ils exister ?

La recherche a beaucoup changé. Elle avait un côté invisible, caché, restreinte à des cercles d’initiés. Puis des organisations plus étatiques, ont pris le relais, surtout après la Seconde Guerre mondiale. Aujourd’hui, la recherche est financée au plan international. Les communautés de chercheurs sont interdisciplinaires, multinationales. Les financements sont multipartites, privés et publics. On sait donc ce qui se passe. Il y aura toujours des petits groupes construisant des virus informatiques, mais on ne fait pas d’avancées majeures en restant tout seul dans son coin.

Les risques liés à l’IA relèvent-ils alors du fantasme ?

Il faut, je crois, avant tout faire attention aux applications, à la dépendance qu’elles engendrent dans la vie de tous les jours et aux changements sociaux qu’elles induisent. La délégation de certaines tâches aux machines a nécessairement des effets secondaires. Les systèmes informatiques offrent de nouvelles opportunités, tout en en condamnant d’autres. Ainsi, Uber permet de trouver un taxi à proximité, de suivre le parcours de la voiture avant qu’il arrive, puis après, de le noter… De même, on peut craindre que la nature mutualiste des assurances disparaisse progressivement avec le traitement de grandes masses de données qui permettent d’anticiper le risque avec une très grande précision ; en effet, des acteurs promettant des polices d’assurance beaucoup moins coûteuses feront alors leur apparition sur le marché…

Et le débat récent autour des robots tueurs ?

Les questions autour des « robots tueurs », qui reviennent sans cesse, constituent à mes yeux un faux débat. Le but d’une guerre est avant tout de résoudre un conflit. Or, je ne crois pas que les drones, qui engendrent déjà et engendreront immanquablement des bavures, seront en mesure de les résoudre. Une série d’articles parus aux États-Unis en montrent les limites en décrivant toutes les erreurs et les méprises auxquelles l’emploi de drones militaires a conduit. De même, les robots autonomes qui sélectionneront eux-mêmes leurs cibles et commanderont le tir vont générer trop d’hostilité pour s’imposer. À cela, il faut ajouter que ces armes autonomes requièrent des critères objectivables. Or, comment définir formellement un « ennemi » de façon à construire un algorithme qui l’identifie ? C’est là une question d’autant plus délicate que nous avons de plus en plus affaire à des guerres asymétriques où les combattants ne portent pas d’uniforme.

Plus prosaïquement, pourquoi faire compliqué, s’embêter avec des armes autonomes, alors que l’objectif peut être atteint plus simplement avec un drone commandé à distance ?

Et n’y a-t-il pas un lien entre l’IA et la construction d’un homme augmenté ?

Ce qu’on appelle « homme augmenté » recouvre plusieurs aspects. L’augmentation physique, l’augmentation de la perception, par exemple la capacité de voir l’infrarouge, et puis l’augmentation intellectuelle avec les réalités augmentées qui projettent des informations dans notre champ de vision. L’IA peut prendre part dans chacun de ces registres. En revanche, la question des implants et de leur effet sur notre intelligence en général et sur notre mémoire en particulier reste très spéculative.

Et le risque de l’autonomisation d’un programme ?

Cela dépend de ce qu’on entend par autonomie. Un système déjà programmé va se réadapter en fonction des informations données par ses capteurs. En cela, il y a bien autonomie, puisque le programme ne se comporte pas de façon prévisible, et s’adapte au contexte, mais le danger de dérive reste limité.

Avec l’IA et les systèmes d’apprentissage embarqués, le programme va se modifier en fonction de l’expérience du robot. Du coup, on entre dans l’imprévisible. La machine va en effet être capable de s’améliorer et son efficience peut aller contre nos valeurs. Comment faire pour que cela n’outrepasse jamais des limites morales ou éthiques ? Comment et à quels niveaux placer des barrières ?

C’est de ces interrogations qu’émane la lettre publiée par certains spécialistes de l’IA, cosignée par Stephen Hawking et Elon Musk, en janvier 2015, alertant sur la conception de systèmes autonomes avec des techniques d’apprentissage machine. Le programme de recherche qu’ils préconisent apparaît légitime : il s’agit de s’assurer de la sûreté de fonctionnement de systèmes informatiques qui se programment eux-mêmes, à partir de leur propre expérience. Toutefois, derrière cet appel qui se justifie parfaitement d’un point de vue scientifique, se glissent d’autres craintes : celles de voir une machine nous échapper totalement et agir pour son propre compte. Or, rien, pour l’heure, ne légitime de telles inquiétudes.

Bien sûr, des personnes malveillantes pourront toujours essayer de prendre le contrôle de machines. Mais que des machines prennent leur autonomie au sens moral, avec une volonté propre, reste de la pure spéculation.

Que penser justement de ce scénario dit de la « singularité » : le moment où la machine dépassera l’homme. Des chercheurs comme Ray Kurzweil, qui bénéficient de moyens importants, le présentent comme une réalité scientifique.

C’est un scénario qui n’a justement aucun fondement scientifique. Notons d’abord que ceux qui l’énoncent le font en utilisant des arguments d’autorité : ils se présentent toujours avec leurs titres prestigieux, mais ne s’appuient sur aucun fait tangible. De plus, ils n’autorisent pas le débat. Or la science exige que l’on s’appuie sur des observations tout en acceptant le débat et l’échange.

Pour comprendre qu’il n’y a en réalité aucun fondement scientifique, il est bon de revenir à la fameuse expérience de pensée de John Searle dite de la « Chambre chinoise ». Un homme qui ne connaît pas le chinois est enfermé dans une prison. Il voit par la lucarne des caractères chinois, et on lui fait comprendre que, s’il veut manger, il doit présenter à cette même lucarne des panneaux sur lesquels sont écrits des caractères chinois. S’il réagit à ce qu’il voit en présentant les caractères conformes à ce qui est recommandé dans le catalogue de règles syntaxiques qu’on a mis à sa disposition, il aura à manger. Au bout d’un certain nombre d’années, on peut supposer qu’il devient très performant et que, de l’extérieur, les Chinois ont l’impression qu’il réagit comme un Chinois qui comprend le chinois… Mais, d’après Searle, cela ne signifie pas qu’il comprend effectivement le chinois. Il y a en effet une différence radicale entre la syntaxe, qui est de l’ordre de la manipulation des symboles, par exemple des panneaux sur lesquels sont inscrits des caractères, et la sémantique, qui est de l’ordre de la signification.

Searle distingue ainsi l’IA « faible », celle qui reproduit certaines facultés intellectuelles pour les automatiser, de l’IA « forte », qui fait entrer l’intégralité des phénomènes conscients dans une machine. Jusqu’à présent, les progrès impressionnants enregistrés par l’intelligence artificielle relèvent uniquement de l’IA « faible ». Seule une minorité de la communauté scientifique prétend relever ce défi de l’IA « forte ». Mais il n’y a rien pour mesurer ce type d’ambition.

Pourtant, de grandes organisations privées investissent des sommes considérables sur ce type de programmes… Kurzweil lui-même a été embauché chez Google en 2012 comme directeur de la recherche.

Je crains que ces sociétés aient une confiance absolue dans le pouvoir de la technologie. Google, Facebook sont des empires qui se sont montés à toute vitesse. Ils ont réussi au-delà de ce que quiconque aurait pu imaginer, ont changé le monde en quelques années. Leurs dirigeants ne perçoivent plus de limites. Beaucoup ont le sentiment que tout est possible, que la vie peut se transformer, que même la mort peut être « tuée ». Les technologies leur ont conféré un sentiment de toute-puissance. Ils sont aussi persuadés que la technologie a ses propres lois. L’industrie 2.0 fait en effet appel en permanence aux « retours d’usage ». Ces dirigeants ne décident finalement plus de rien. Certes, ils ont une position importante, mais ne se conçoivent pas comme les capitalistes décideurs de l’époque précédente. Ils essayent des choses dans tous les sens. Ils sont en permanence à l’écoute. Ils ont le sentiment d’une deuxième dimension, d’une autodétermination, d’un déploiement autonome de la technologie, hors de toute maîtrise humaine.

Personnellement, je ne pense pas que la technologie soit autonome en ce sens qu’elle ne se déploie pas d’elle-même. J’ai fait le choix de travailler sur l’IA non pas dans le but qu’elle augmente sa propre « conscience », ce qui, à mon sens, n’a pas grand sens, mais afin qu’elle permette d’accroître la conscience de l’homme : que l’on puisse par exemple, grâce à l’IA, mieux apprécier des textes littéraires, mieux saisir les influences mutuelles, mieux en comprendre la genèse… Cela accroît notre propre intelligence, pas celle de la machine.

/0 Commentaires/par