Intelligente ou non, l’Intelligence Artificielle? L’association de ces deux mots est elle encore une de ces bêtes oxymores modernes, comme «destruction créatrice» ou «nouvelle recette à l’ancienne»? L’IA est-elle capable de créativité ou ne fait-
elle qu’obéir aux ordres? Petit voyage dans l’IA, où nous croiserons une programmeuse, un joueur de go malpoli et les ennuis du goulet Louise.
Qu’est-ce que l’intelligence?
Qu’entend-on par intelligence? Le terme est difficile à définir, mais accordons-nous au moins sur ces aptitudes: pouvoir s’adapter à l’imprévu, notamment par l’apprentissage et l’invention de stratégies inédites; créer des idées nouvelles; distinguer l’important de l’accessoire; comprendre des messages ambigus grâce au contexte; repérer des liens entre des choses apparemment éloignées, ou des différences entre des choses apparemment proches; avoir un sens de la beauté, de l’harmonie; présenter et décoder des réactions émotionnelles. Voici donc notre question: un algorithme (c’est-à-dire une série d’instructions exécutées par un système informatique) peut-il prétendre rassembler au moins quelques-unes de ces qualités?
L’objection de Lady Lovelace…
Voici un fait méconnu à raconter aux petites filles pour les encourager à exercer une profession très masculine, souvent misogyne: Lady Lovelace, mathématicienne du 19e , pionnière enthousiaste de l’informatique, est considérée comme la première programmeuse de l’histoire! Dans un essai publié en 1842 au sujet d’un projet de «machine analytique» (une machine programmable à calculer, une sorte d’ancêtre de l’ordinateur), elle pressent les développements futurs de ce qu’on n’appelle pas encore l’informatique, imaginant en particulier qu’une telle machine «pourrait peut-être ne pas traiter que des nombres». Remarquable intuition: 180 ans plus tard, nous calculons peu sur nos ordinateurs, mais nous les utilisons pour manipuler des mots, des sons, des images, etc. Mais, craignant peut-être d’avoir été trop audacieuse dans la spéculation, elle écrit ensuite: «la machine analytique n’a pas la prétention de créer quoi que ce soit, elle peut faire uniquement ce qu’on peut lui commander d’exécuter». Ce qu’on appelle parfois «l’objection de Lady Lovelace» consiste donc, en matière d’IA, à rappeler que la machine ne fait qu’obéir aux ordres: «Il n’en sortira que ce qu’on lui a mis dedans». Cette objection courante, qui sert à se rassurer quant aux pouvoirs de nos propres créations, est souvent mise en avant pour conclure qu’une «IA vraiment intelligente» n’existera jamais. Car enfin, intelligence suppose création de stratégies inédites: comment une machine obéissant à des ordres écrits par un programmeur (ou une programmeuse donc!) pourrait-elle créer des stratégies inconnues de cette personne?
… est dépassée
Nous allons voir pourquoi cette idée semblant pleine de bon sens est quelque peu dépassée. Certes, la machine exécute les ordres donnés, et elle prend toujours des chemins déterministes. Face à un million de possibilités, elle choisira la plus efficace au regard de critères objectifs que des humains lui ont donnés, sans poser de choix fantaisiste ou aléatoire. Elle ne peut donc pas inventer quelque chose de tout à fait étranger à sa programmation. Si on lui demande de jouer aux échecs, elle ne va pas composer une valse en do mineur! En ce sens, elle semble privée de créativité. Mais ce qui est nouveau, que Lady Lovelace ne pouvait imaginer dans ses rêves les plus fous, c’est que, à l’heure de l’«apprentissage profond», une fois l’ordre donné, la machine et son programme sont devenus bien trop complexes pour que leurs au teurs puissent prévoir les chemins qu’ils vont suivre pour exécuter cet ordre. Il est donc vrai que la machine obéit aux commandes qu’on lui donne, mais souvent, lorsque ce sont des tâches complexes de niveau élevé nécessitant une multitude d’étapes (comme «gagner une partie d’échecs» ou «écrire une valse en do mineur»), on ne peut dire dans les détails comment elle va s’en tirer pour atteindre ce but! Ainsi, elle se comporte comme tout système complexe déterministe: au niveau microscopique, les flux d’électrons sont prévisibles, mais au niveau supérieur, elle devient imprévisible, et semble «prendre des libertés». En ce sens, on conçoit qu’une machine donne des résultats inattendus, et que l’on peut, dans une certaine mesure, la qualifier de créative. Comme le disait un des spécialistes de l’IA en 1979: «On sera sur la voie de la créativité dès lors que des programmes cesseront d’être transparents à leurs créateurs»[1]. Un acte créatif de la part d’une machine? Cet événement surprenant évoqué en 1979, des millions de personnes y ont assisté en direct il y a trois ans.
Le 37e coup de la deuxième partie
Début mars 2016, Lee Sedol, considéré comme un des meilleurs joueurs mondiaux de go, affronte à Séoul une machine, AlphaGo, et, à la surprise générale, perd. C’est sans doute le 10 mars, pendant la deuxième partie, qu’a lieu le moment symbolique, fascinant et inquiétant, de cette défaite (ou de cette victoire, c’est selon!). Au 37e tour, il se passe en effet quelque chose d’étrange pour le non-initié: AlphaGo joue, et les commentateurs, jusqu’alors sérieux, rient. Incrédules, ils montrent cet amusement gêné qu’un hôte distingué a généralement devant un invité grossier qui vient d’exhiber son inculture. Visiblement, AlphaGo a joué un coup stupide, et personne ne comprend pourquoi, pas même les programmeurs.
Et pourtant, ce coup, qu’aucun bon joueur humain n’aurait commis, qui semble ignorer des siècles de sagesse du go, mène à la victoire. Or le programme n’a pu apprendre cette technique par imitation des grands maîtres, puisqu’aucune des parties qu’AlphaGo a étudiées ne montre ce genre de coup. Cette stratégie, il l’a apprise par l’apprentissage profond en jouant contre lui-même: en quelque sorte, il a élaboré une façon de jouer nouvelle!
Quand on regarde cette minute symbolique des progrès de l’IA[2] , il est difficile de ne pas avoir obscurément la sensation qu’un pas est franchi, que, d’une certaine façon, la machine nous échappe … Pour la première fois peut-être, on envisage l’idée dérangeante que l’ordinateur a fait preuve de créativité - même si on peut discuter longtemps sur ce qu’on entend exactement par ce terme. Qu’aurait dit Lady Lovelace si elle avait suivi cette partie? Sans doute aurait-elle admis que, bien que «faisant ce qu’on lui demande» (bien sûr, puisqu’on lui a demandé de gagner!), AlphaGo a tout de même un peu créé quelque chose, dans les limites étroites, bien sûr, des règles du jeu. L’«objection de Lady Lovelace» risque donc d’être dépassée par les récents progrès de l’IA, notamment «l’apprentissage machine»: du point de vue de l’adaptation à l’imprévu, de la mise au point de stratégies nouvelles, et même si on est très loin d’autres critères d’intelligence comme le sens du beau et les réactions émotionnelles, le terme d’Intelligence Artificielle ne semble pas totalement usurpé.
Mauvaise foi: l’intelligence, c’est toujours «autre chose»
Il y a 60 ans, on disait: «l’IA, ce sera quand une machine battra un champion de dames». Et quand cette victoire a eu lieu, on a dit, peut-être pour se rassurer: «En fait, cette machine n’est pas vraiment intelligente. Elle a juste gagné aux dames. L’intelligence, ce sera une victoire aux échecs». Puis l’ordinateur Deeper Blue bat Kasparov aux échecs (1997), et on dit: «Deeper Blue n’est pas intelligent. Il a juste gagné aux échecs. En revanche, trouvez-moi une machine qui batte les meilleurs champions de go et reconnaissent des images, et on en reparle.». Depuis quelques années, des machines gagnent au go, reconnaissent des images, conduisent des voitures en terrain accidenté ou en ville. Et l’intelligence, c’est de nouveau autre chose. On a l’impression de vieux membres d ’un club qui diraient à un nouvel arrivé: «Tu feras partie du club quand tu auras payé 10.000 dollars». Quand le brave bizuth s’acquitte de la somme, les anciens disent: «Tu feras vraiment partie du club quand tu auras rapporté une peau d’ours tué à mains nues». Puis les vieux réclament un nouvel exploit: «Il faut supprimer les embouteillages du goulet Louise et les conflits linguistiques en Belgique». A chaque nouveau travail d’Hercule, l’appartenance au club est définie de façon à ce que le nouveau ne puisse, finalement, jamais entrer.[3] De même, à chaque progrès de l’IA, «l’intelligence, c’est autre chose». A ce compte là, en effet, l’IA ne sera jamais intelligente. Cette attitude me semble proche de celle de l’autruche: à force de vouloir se rassurer sur notre supériorité, on nie les progrès troublants de l’IA, ce qui dispense de réfléchir à ses conséquences.
Avenir de l’IA, IA forte et IA faible
Jusqu’où l’IA ira-t-elle? Existe-t-il vraiment un noyau dur de compétences humaines, qui résistera à la machine? Pour certains, oui: il y a quelque chose dans le vivant qu’on ne pourra reproduire avec de la matière inanimée; et la complexité de notre cerveau sera toujours hors de portée de notre… cerveau! En somme, nous ne serons jamais assez intelligent·e·s pour comprendre notre intelligence. Pour d’autres, au contraire, il n’existe aucun argument physique valable qui empêche un agencement de métaux et de semi-conducteurs de faire aussi bien - ou mieux - qu’un agencement de chair et d’os. Pourquoi y aurait-il une différence fondamentale? À partir du moment où on met l’«âme» dans les poubelles de la science, il s’agit de matière ordinaire et de circulation d’information, dans les deux cas. Entre les deux, beaucoup de spécialistes pensent que l’IA peut encore aller très loin en termes d’apprentissage, de capacités créatives, de compréhension de l’environnement, sans pour autant acquérir de conscience:
l’IA sera toujours dépourvue d’un sens de soi, de tristesse et de doutes, d’une vision du monde… C’est ce qu’on appelle l’IA faible (intelligence sans conscience), par opposition à l’IA forte (machines intelligentes douées de conscience), totalement hors de portée pour le moment.
Singularité?
Pour des personnes comme R. Kurzweil, à partir du moment où l’IA est capable de créer de nouvelles idées, d’apprendre de façon autonome sans notre secours, on peut imaginer qu’elle crée une IA de deuxième génération qui nous dépasserait totalement, qui créerait une troisième génération, et ainsi de suite jusqu’à un point de super-intelligence quasi-infini. C’est l’hypothèse de la «singularité», située par certains auteurs vers 2045. Sous sa forme positive: un monde parfait dominé par l’IA qui résout enfin tous les problèmes de l’humanité (circulation goulet Louise, conflits linguistiques, et les quelques autres) grâce à sa méga-intelligence… Sous sa forme négative, une domination totale de l’humain, devenu totalement stupide par rapport à la moyenne nationale. Cette hypothèse est fortement discutable, voire farfelue, pour plusieurs raisons. D’une part, ce n’est pas parce que l’IA progresse qu’elle progressera encore 30 ans selon la même courbe croissante: cent ans de succès ne prouvent rien pour l’avenir. Par exemple, la vitesse des transports de personnes, qui a augmenté pendant 100 ans, plafonne depuis 50 ans à 900 km/h. Ensuite, pour réaliser des percées technologiques, il faut avoir des idées neuves. Une IA peut-elle trouver des idées neuves? La création de la nouvelle stratégie de jeu de go, certes impressionnante, est sans commune mesure avec la créativité d’un Galilée, qui se situe peut-être dans le noyau dur des compétences strictement humaines. Enfin, la «singularité» oublie les lois de la physique qui, dans l’état actuel des choses, limitent la miniaturisation des composants, et donc la puissance de calcul des machines. Bien sûr, les tenants de la «singularité» diront que précisément, l’IA inventera une nouvelle physique pour résoudre ces problèmes, mais cet argument circulaire ne repose sur rien de sérieux, à part une croyance fortement millénariste. Je parie pour ma part qu’en 2045, l’IA n’aura pas résolu les conflits linguistiques. Quant au goulet Louise dans 25 ans, on peut tout de même rêver: moins de bruit, plus d’air frais, et surtout moins d’écarts de richesses en ce lieu où les mendiant·e·s côtoient les diamants. Mais, pour ce genre de problèmes comme pour beaucoup d’autres, l’intelligence humaine ne suffit-elle pas?
[1] D. Hofstadter, Gödel, Escher, Bach, version française de J. Henry et R. French ; Dunod, Paris, 2000, page 756. [2] La vidéo de ce moment: www.youtube.com/ watch?reload=9&v=JNrXgpSEEIE. [3] Le même genre de mauvaise foi se retrouve en intelligence animale: à chaque fois qu’un animal réalise ce que l’on pensait strictement humain, on redéfinit l’intelligence humaine (le fameux “propre de l’homme”) autrement.
