À côté de ses fantastiques promesses (santé, loisirs, transports, etc.), faut-il avoir peur de l’IA? Les robots vont-ils nous attaquer, comme dans les films de notre enfance? Le problème de la science-fi ction, c’est que ses erreurs discréditent les lanceurs d’alerte. Ainsi, la SF de la fin du siècle dernier, dont a été imprégnée la génération actuellement adulte, a popularisé le scénario des robots qui décident consciemment de nous exterminer (Terminator, etc.). Mais, faute d’IA forte[1], cette menace ne semble vraiment pas à l’ordre du jour. Ainsi, les “technophiles” ont beau jeu de se moquer des “technocritiques”: “Ne soyons pas ridicules: le coup de la revanche des robots, c’est de la science-fi ction!”. Mais les menaces possibles de l’IA sont probablement ailleurs, plus subtiles et indirectes qu’un scénario de blockbuster des années 80.
“Fais-moi sourire”
Certes, l’IA n’a pas de conscience… Malgré tout, comme on l’a vu plus haut, l’IA en “apprentissage profond” peut faire preuve d’inventivité pour trouver le meilleur chemin vers le but qu’on lui a donné. Cette marge de créativité comporte un danger possible. En voici un exemple théorique, dû au philosophe N. Bostrom: supposons qu’on donne à une IA l’ordre de nous «faire sourire». «Si cette entité n’est pas trop évoluée, elle pourra l’atteindre en racontant des blagues, par exemple. Mais si elle est plus subtile, elle verra qu’il lui suffit, pour ‘faire sourire’, de paralyser les muscles faciaux des humains, par exemple en leur injectant une drogue. Allons encore un pas plus loin, avec le but plus abstrait de ‘rendre heureux’: à terme, l’agent artificiel pourrait comprendre qu’un moyen d’y parvenir serait de surstimuler en permanence la zone du cerveau humain responsable du plaisir, en y implantant une électrode. Bref, on se rend compte qu’il est très difficile de spécifier des objectifs, même simples, qu’on voudrait attribuer à un système IA, sans avoir aussi des dérives possibles».[2] Science-fiction? Certes, l’exemple fait… sourire. Mais récemment, le robot Cimon, dans la station spatiale internationale, a refusé d’obéir à un astronaute demandant de couper la musique. Cimon jugeait-il qu’elle était bonne pour l’astronaute?[3]
L’humain inutile?
Mais ce genre de craintes sont bien lointaines et fantasmatiques: pour le moment, on peut toujours débrancher. En revanche, le bouleversement évident et immédiat concerne sans doute le marché de l’emploi. Selon McKinsey, 60% de métiers seront concernés par l’automatisation à plus de 30% en 2030, et 90% de métiers seront transformés en profondeur[4]. Les estimations fluctuent d’un cabinet à l’autre, mais personne ne nie que le marché du travail change. Les algorithmes deviennent chaque jour plus fiables que l’humain dans un nouveau domaine: diagnostics de maladie, journalisme sportif, relation client, traduction, taxi, gestion de dossiers… Le remplacement de l’homme par la machine est toujours plus rentable. Fait intéressant, les cols blancs semblent autant concernés que les cols bleus: le juriste prenant des heures à chercher des pièces pertinentes pour un procès est surclassé par un ordinateur entraîné qui trouvera les documents utiles en une seconde.[5] D’après de nombreux/ses expert·e·s, les millions d’emplois disparus seront compensés par à peu près autant (ou même plus) d’emplois nouveaux. En somme, les humains seront encore utiles, à condition qu’ils veuillent bien se former aux nouveaux emplois de l’IA (auront-ils le choix?). C’est ainsi que le rapport français sur l’IA[6] évoque une logique de complémentarité humain-machine plutôt qu’une substitution de l’un par l’autre. Certaines personnes sont moins optimistes sur le prétendu équilibrage des pertes et gains de métiers[7]. Car nul ne sait très bien de quelle nature seront ces fameux jobs créés par l’IA. Métiers de l’informatique bien sûr, supervision de robots comme chez Amazon[8], entraîneur d’algorithme? Au fond, on ne sait pas combien ces secteurs emploieront de personnes. On peut craindre l’apparition d’une cohorte d’humains inutiles, et une caste d’utiles qui pourraient leur octroyer un “revenu universel”[9] - s’ils le veulent bien.
“Chimpanzés du futur”
Difficile d’évoquer l’IA sans parler de transhumanisme. Selon ce courant de pensée, l’humain pourra être “augmenté” artificiellement par les progrès de l’IA; et même, il le devra, s’il ne veut pas être dépassé par l’IA ordinaire!
De nombreux traitements médicaux conçus pour soigner les malades pourraient ainsi, moyennant finance, “augmenter” des bien-portants: amélioration de la concentration, extension de la mémoire, et même implémentation de volonté et de désirs… options dont certaines ne sont plus de la science-fiction[10]. Ceci est parfaitement résumé par cette fameuse déclaration du cybernéticien Kevin Warwick, qui a déjà subi une opération chirurgicale pour relier son système nerveux à un ordinateur: «Au train où vont les choses, c’est bientôt lui (l’ordinateur) qui prendra les décisions, pas nous. Si nous voulons conserver notre avantage, nous devons progresser au même rythme que lui. La technologie risque de se retourner contre nous. Sauf si nous fusionnons avec elle. Ceux qui décideront de rester humains et refuseront de s’améliorer auront un sérieux handicap. Ils constitueront une sous-espèce et formeront les chimpanzés du futur».[11] Dans cette tirade glaçante transparaît la vision de l’homme que propose le transhumanisme: un humain faillible par rapport aux machines supérieures. En somme, l’humain est l’erreur à corriger. En ce sens, le transhumanisme s’apparente à un refus de la condition humaine, nécessairement non idéale, à un bricolage discutable pour fuir les frustrations liées à nos imperfections[12]. L’existence de grandes inégalités intellectuelles entre les humains serait une première dans l’histoire, et laisse craindre un scénario particulièrement sombre: une caste d’hommes augmentés (bien sûr, ce seront les “utiles”) dominant la masse d’hommes ordinaires inutiles, les “chimpanzés”. Science-fiction? Peut-être, mais techniquement à portée de main, et donc plus angoissante que Terminator.
Surveillance et prise de pouvoir: avec le sourire!
Sans aller si loin dans les suppositions, et en restant strictement à 2019, je trouve étonnant à quel point on sous-estime généralement la prise de pouvoir et la surveillance par les machines, et ce avec le consentement de presque tous et toutes. Pour bien saisir comment cette authentique prise de pouvoir a lieu petit à petit, voici un exemple illustratif: celui des algorithmes proposant en temps réel l’itinéraire le plus court entre deux points[13]. À l’heure actuelle, personne ne m’oblige à suivre ce chemin: c’est le premier stade, où l’aide à la décision n’est qu’un avis. Mais très vite, vu son utilité, la machine gagne ma confiance. Et lorsque je disposerai d’une voiture autonome (d’ici peu sans doute), je la laisserai s’occuper de tout: plus que conseiller, le système devient agent. L’étape suivante? Le parc automobile entièrement autonome et connecté à un puissant algorithme d’optimisation globale du trafic. Chacun a alors entièrement abandonné toute liberté sur son itinéraire, imposé par l’impératif de fluidification à l’échelle du pays. L’algorithme, devenu souverain, décide des trajectoires, et connaît chacun de nos déplacements. Le tout avec notre consentement - car qui voudrait abandonner un tel service? Autre exemple, bien connu de tous. En échange de services “gratuits”, nous livrons chaque jour des milliers de données aux GAFA[14]: lieu où l’on se trouve, avec qui, préférences culinaires, vestimentaires, politiques, sexuelles, et même données médicales en temps réel pour les plus connecté.e.s qui se font surveiller le pouls, la tension, etc. Une part grandissante de ce qu’on lit, écrit, écoute, regarde, fait, bref, de ce qu’on est, est connu de ces entreprises. Supposons alors que je me demande où aller ce week-end, que manger ce soir, qui aller voir demain. L’analyse soigneuse de mes données, rendue chaque jour plus facile par l’IA, permettra à Facebook ou Google de répondre de plus en plus précisément à ces questions. “Italie, champagne, amis” ou “Salle de sport, pâtes, entraîneur”, selon mes paramètres de santé ou mon budget. Ce n’est plus de la science-fiction: nous déléguons de plus en plus de décisions à nos objets connectés, et il sera de plus en plus difficile de se priver de ce genre de service. En somme, dans un nombre croissant de domaines, GAFA me connaîtra sans doute bien mieux que moi-même. Or, qui dit connaissance, dit évidemment surveillance. Cette surveillance permanente avec notre consentement (et même avec le sourire, puisque ces services sont si utiles et gratuits!) est un phénomène alarmant que 1984 n’avait pas bien prévu, au contraire d’autres dystopies fameuses. Orwell (1984) évoquait en effet une surveillance étatique brutale et une vie triste et grise. En revanche, Huxley (Le meilleur des mondes) et Bradbury (Fahrenheit 451) nous parlent d’une société presque sans violence apparente, où la surveillance générale est consentie par tous, avec le sourire.
Fin de l’humanisme?
Au fait, où est le problème si les algorithmes “savent mieux que nous ce qui est bon pour nous”? Après tout, il serait assez confortable qu’un programme décide de ce que je dois manger ce soir, où je dois aller dimanche, voire avec qui je dois faire des enfants dans les dix prochaines années. Si une puissance malintentionnée prend les commandes de ces outils, la menace est évidente: une dictature aux moyens extrêmement puissants, face à laquelle résistance et clandestinité deviennent quasi-impossibles. Mais ce qui est intéressant (et paniquant), c’est l’idée selon laquelle, même sans intention maligne aux commandes, la société pourrait bien aller vers ce que l’historien Harari redoute: la “fin de l’humanisme”. Car, explique-t-il[15], si les algorithmes me connaissent mieux que moi-même, si je les laisse décider dans un nombre croissant de domaines où ils sont bien meilleurs que nous pour l’optimisation, je suis en train de tuer petit à petit mon libre arbitre: le “je choisis ce qui est bon pour moi car je me connais” devient doucement obsolète face à la puissance de décision de l’algorithme. Sciencefiction? Regardons YouTube qui décide quelle musique “pourrait vous plaire”. La perte de sens de l’orientation, et donc de décision, avec le GPS. L’addiction au smartphone, dont les utilisateurs reconnaissent avoir du mal à se décider sans[16]. Si de plus on prend en compte le projet transhumaniste selon lequel la volonté, les goûts et les désirs deviennent des produits achetables et manipulables, on doit conclure que les fondements même de l’humanisme (existence d’individus ayant des goûts et des désirs autonomes, qui visent la connaissance de soi pour pouvoir choisir librement) pourraient s’effondrer. Sans qu’aucune puissance maligne n’ait pris les commandes (Mark Zuckerberg et ses équivalents sont paraît-il gentils, ce dont je ne doute pas un instant), nous pourrions donc aller vers une une société où l’individu, quoique nageant dans la satisfaction, a perdu la souveraineté sur ses actions. C’est ce qu’on pourrait appeler la “dystopie par le bonheur”: comme dans Le Meilleur des Mondes, où, mis à part John le Sauvage qui revendique le droit à être triste ou en colère, chacun est parfaitement heureux et satisfait. En somme, le contrat implicite que nous passons avec les entreprises possédant l’IA ressemble à ceci: “Abandonne de plus en plus de souveraineté sur ta vie, et elle se passera bien.” Il n’est pas inintéressant de réfléchir aux termes de cet accord que nous n’avons jamais vraiment signé en termes clairs!
Cultiver notre IH
Plus que jamais, il faut réfléchir. Certes, Terminator, le robot tueur, n’est pas une menace sérieuse. Les ordinateurs sont encore loin de rendre les humains obsolètes. Les gens normaux ne sont pas des chimpanzés. Nous sommes toujours capables de choix. Mais les évolutions rapides de l’IA et les problèmes inédits qu’elle soulève doivent nous inciter à exercer notre esprit critique, notre libre arbitre, notre inventivité, bref, notre… IH (intelligence humaine).
[1] Dans le cadre de l’IA forte, les “créatures” sont dotées de conscience. [2] www.letemps.ch/sciences/ esprit-telecharge-une-machine [3] www.huffingtonpost.fr/2018/12/03/cimon-lerobot-de-liss-a-des-airs-de-hal-9000-de-2001- lodysee-de-lespace_a_23607128/ [4] www.mckinsey.com/featured-insights/future-ofwork/jobs-lost-jobs-gained-what-the-future-ofwork-will-mean-for-jobs-skills-and-wages [5] The Future of employment: how susceptible are jobs to computerisation? consultable sur www. oxfordmartin.ox.ac.uk/downloads/academic/ The_Future_of_Employment.pdf [6] www.economie.gouv.fr/files/files/PDF/2017/ Rapport_synthese_France_IA_.pdf [7] Par exemple l’informaticien américain M Ford: www.thelightsinthetunnel.com/Comm_ACM_ Martin_Ford.pdf [8] www.theguardian.com/money/2017/nov/25/ cobot-machine-coming-job-robots-amazonocado [9] https://medium.com/@Kairon/ai-the-uselessclass-and-the-feasibility-of-a-universal-basicincome-3a5d6a249a03 [10] Y. N. Harari, Homo Deus, Vintage Books, London, 2015, p. 335 [11] www.liberation.fr/week-end/2002/05/11/ kevin-warwick-l-homo-machinus_403267 [12] Le groupe PMO propose une critique du transhumanisme: www.piecesetmaindoeuvre. com/spip.php?page=resume&id_article=960 [13] Y. N. Harari, op. cit. p. 398 [14] Google, Apple, Facebook, Amazon [15] Y. N. Harari, op. cit., p. 356 [16] P-M De Biasi, Le troisième cerveau, CNRS Éditions, Paris, 2018 Illustration: Couverture du livre Le Meilleur des mondes d’Aldous Huxley. Titre original: Brave New World, 1932.
