Compte-rendu d’une conférence donnée le 5 février 2020 à l’Institut de l’ENS.

Le projet d’intelligence artificielle naît en 1943 avec la publication d’un article du mathématicien Walter Pitts et du neurophysiologiste Warren McCulloch dans lequel ils montrent qu’un ensemble de neurones reliés entre eux est capable de réaliser des opérations logiques. Cette première tentative d’explication mathématique du fonctionnement du cerveau ouvre la voie aux réseaux de neurones, un type de machine censé l’imiter.

Lors de la seconde guerre mondiale, l’effort scientifique et industriel (cryptographie, bombe atomique…) permet la mise au point de l’ordinateur. En 1950, Alan Turing pose la question : les machines peuvent-elles penser ? « Penser » étant difficile à définir, il propose de remplacer la question par un test : si une machine arrive à passer pour un humain lors d’une conversation par écrit, alors il faudrait admettre qu’elle peut penser.

En 1956 le terme intelligence artificielle est inventé par un groupe de jeunes scientifiques réunis à l’université de Dartmouth dans le but de travailler à ce que les « machines utilisent le langage, forment des abstractions et des concepts, résolvent des problèmes aujourd’hui réservés aux humains, et s’améliorent. » C’est aussi l’acte de naissance de l’intelligence artificielle en tant que champ scientifique : les membres du groupe fondent des laboratoires, reçoivent des financements publics et entament des travaux basés sur l’hypothèse commune que « toutes les caractéristiques de l’intelligence peuvent en principe être décrites d’une façon assez précise pour qu’une machine puisse les simuler ».

Le choix du terme « intelligence artificielle » a été fait pour frapper les esprits et emporter l’adhésion des financeurs et du public. Par la suite, les chercheurs multiplient les promesses audacieuses et persuadent la presse et le grand public que les machines intelligentes sont pour demain. L’enthousiasme qui en découle leur permet de récolter une manne d’attention et de financements, mais finit par se retourner contre eux. En 1970, lorsqu’est tiré le bilan des vingts premières années de recherche, on constate de très belles inventions dans de nombreux domaines (premiers programmes en résolution de problèmes, reconnaissance de forme, jeux d’échecs, assistants de preuve mathématique, chatbots…), mais aucune trace de machine intelligente. Cela provoque un premier hiver de l’IA pendant lequel l’enthousiasme retombe et les financements sont coupés.

Dans les années 80, l’enthousiasme reprend grâce aux systèmes experts. On interroge les experts de manière à formuler leur pratique dans des règles qui sont implémentées sur du hardware dédié. Les systèmes experts connaissent un succès commercial et permettent à certaines entreprises de réaliser des économies substantielles. Mais ils coûtent très cher, n’arrivent pas à gérer les exceptions et peuvent devenir d’une complexité qui les rend inutilisables. Dès la fin des années 80, l’intelligence artificielle entre dans un nouvel hiver. Le grand public et les financeurs lui préfèrent l’ordinateur personnel, puis Internet, les réseaux sociaux et les smartphones.

Aujourd’hui, nous traversons un troisième printemps de l’intelligence artificielle dû à l’invention du deep learning, lointain descendant des réseaux de neurones de McCulloch et Pitts. Suite au premier hiver de l’IA, la recherche sur les réseaux de neurones n’intéresse plus qu’une minorité de chercheurs. Dans les années 80, ceux-ci inventent une méthode qui permet au réseaux de neurones de se calibrer par essai-erreur sur une base de données d’exemples.

Un réseau de neurones est un extracteur de caractéristiques : les premières couches reconnaissent des formes élémentaires (lignes, angles…), ce qui permet aux couches suivantes de reconnaître des formes plus élaborées (nez, oreille…) qui seront ensuite utilisées par les couches suivantes pour rendre une décision (« c’est un chat »). Le programme fonctionne comme un arbre de décision capable de reconnaître la présence d’une forme donnée, à la différence que les critères de l’arbre n’ont pas été définis par le programmeur mais se sont constitués par essai-erreur.

Des bases de données assez importantes pour entraîner les réseaux de neurones sont constituées à la main dans les années 2000. Dans les années 2010, un jeune chercheur a l’idée d’utiliser des processeurs destinés aux jeux vidéos pour que cet entraînement ait lieu en un temps raisonnable. En 2012, lors d’une compétition de vision artificielle, une équipe utilisant le deep learning l’emporte haut la main. De très nombreux succès s’ensuivent dans différents domaines (signal sonore, optimisation, voiture autonome, jeu de Go…), forçant la communauté informatique à admettre la supériorité du deep learning dans de nombreux domaines.

Le deep learning présente plusieurs inconvénients. D’une part, on ne peut l’utiliser qu’à condition de renoncer à l’explicabilité des résultats : on ne connaît pas le détail des critères mobilisés, ceux-ci ayant été inférés des exemples de la base de données et encodés dans un réseau complexe de paramètres interdépendants. D’autre part, les programmes sont fragiles : certains outils permettent d’induire les systèmes de reconnaissance en erreur en ne modifiant que quelques pixels bien choisis.

Si le deep learning est aujourd’hui le fer de lance de l’intelligence artificielle, il n’est qu’une des nombreuses techniques de machine learning (l’ensemble des programmes qui se calibrent par apprentissage sur des données), le machine learning n’étant lui-même qu’un des sous-domaines de l’intelligence artificielle : il y a également les systèmes experts, les bases de connaissances, la robotique…

Aujourd’hui, il est difficile de tracer une ligne claire délimitant l’intelligence artificielle et le reste de l’informatique. Si certains programmes sont qualifiés d’ « intelligence artificielle », c’est uniquement parce que les scientifiques pensent qu’il représentent une bonne direction de recherche pour fabriquer, à terme, une machine intelligente. A cause de cette ambiguité de fond, des logiciels de types différents ont reçu puis perdu le qualificatif d’IA, au gré des époques et du consensus des chercheurs.

L’invention du deep learning a permis la mise aux points d’outils de reconnaissance faciale qui n’auraient pas été envisageables auparavant. Si on en trouve de nombreux cas d’usage en Chine (paiement par le sourire, accès aux bureaux, verbalisation automatique…), leurs fragilités et leur caractère intrusif ont amené de nombreuses villes (San Francisco, Oakland, San Diego…) à les bannir.

L’intelligence artificielle a trouvé de nouvelles applications dans le recrutement, avec des logiciels (Hirevue) de préselection des candidats qui analysent le langage corporel, la richesse du vocabulaire, les mouvements oculaires, le délai de réponse, et le niveau de stress de la voix. Ce type d’outils est controversé car il entraîne une standardisation excessive des candidatures, mais aussi car le champ de la « détection des émotions » fait l’objet de controverses du fait des bases scientifiques trop fragiles.

Les réseaux antagonistes génératifs (ou GANs) mettent deux réseaux de neurones en compétition. Un discriminateur est entraîné à partir d’une base de données à reconnaître un type d’images (par exemple les visages humains), puis un générateur lui soumet des images produites au hasard. Le générateur adapte les images produites à partir des réponses du discriminateur. Par essai-erreur, il en arrive à produire des images validées par le discriminateur. Autrement dit, en se calibrant à partir du discrimintateur qui distingue le vrai du faux, le générateur fabrique de fausses images qui passent pour vraies. Les GANs sont utilisés pour créer des visages de personnes inexistantes (Icons8), pour proposer des scénarios de consommation, ou encore de nouveaux médicaments.

En 2016, Google propose le premier outil de traduction basé sur du deep learning. L’amélioration est telle que le New York Times titre « The Great A.I. Awakening ». Cependant, si les systèmes traduisent correctement la majorité des expressions, il existe une longue traîne de cas qui lui échappent. De la même façon, il a fallu revoir l’ambition initiale des chatbots à mener une conversation. Ils peuvent apporter des réponses aux questions prédéfinies mais leurs performances s’effondrent dès qu’il faut s’écarter des cas prévus. Il est possible que cela évolue grâce à de nouvelles approches (les « transformers ») qui bouleversent actuellement le domaine du traitement du langage naturel.

Les algorithmes de machine learning ont le défaut de reproduire les biais de la base de données sur laquelle ils se calibrent. Chez Amazon, un outil de classement des CV a été abandonné car il discriminait les femmes. L’algorithme était censé ignorer le genre mais l’inférait à partir d’autres signaux puis produisait une recommandation conforme à l’historique misogyne du recrutement. Si certains biais peuvent être corrigés en améliorant la représentativité de la base de donnée, cela devient délicat quand il s’agit d’une discrimination ancrée dans nos pratiques et notre histoire. Ainsi, les archives de textes servant à entraîner les algorithmes de traitement du langage encodent si bien ces discriminations que « he is a nurse » et « she is a doctor », une fois traduit vers une langue où les termes sont neutres, deviennent une fois retraduits vers l’anglais, « she is a nurse » et « he is a doctor ». Les bonnes manières de concevoir les bases de données et les algorithmes de manière à ce qu’il ne servent pas à perpétuer et à renforcer les inégalités existantes en les faisant passer à l’échelle est encore un champ de recherche ouvert, si bien que certains cas d’usage sont à éviter.

Ces dernières années, de nombreuses études ont annoncé une destruction massive d’emplois du fait de l’IA, avec des chiffres très variés : 47% des emplois sont menacés pour Frey & Osborne (2013), et ‘seulement’ 9 % pour l’OCDE (2016). Ces chiffres sont difficiles à établir dans la mesure où nous ne savons pas, en amont, quelles tâches seront faciles à automatiser. C’est un paradoxe connu que les tâches apparemment faciles ont été difficiles à automatiser (ouvrir une porte) et inversement (jouer aux échecs). D’autre part, automatiser une majorité de tâches d’un métier ne signifie pas que celui-ci va disparaître : il faudra bien que quelqu’un réalise les tâches restantes, qui peuvent être cruciales. S’il est difficile de chiffrer la disparition des emplois, il est certains que les emplois restants seront profondément transformés par les nouveaux outils (étude du Conseil de l’orientation pour l’emploi, 2017).

Le récit de l’automatisation et du remplacement ne permet donc pas de saisir les enjeux en cours, qui se trouvent plutôt du côté de la conception de la collaboration homme-machine. Les tentatives d’automatisation complète (centres de stockage Amazon) montrent que lorsque les humains sont les « bouche trous » d’une automatisation incomplète, leur conditions de travail sont si mauvaises que cela coûte probablement plus cher à long terme (fort turnover, lésions dues aux gestes répétitifs, accidents du travail, mauvaise réputation…) que les gains attendus de l’automatisation. Il vaut mieux prendre acte dès le départ du fait qu’il y aura toujours un « humain dans la boucle » (human in the loop) et designer le travail en conséquence plutôt que de chercher à s’en débarrasser. Ainsi, les développeurs de voitures autonomes promettent la fin de la conduite depuis dix ans mais sont contraints de garder un conducteur dans la mesure où les systèmes ne peuvent gérer tous les cas. Pendant ce temps, certaines startups plus discrètes (Mobileye) conçoivent des outils au service du conducteur (détection de piéton, de ligne blanche, régulateur de vitesse…) avec un impact bien plus fort puisqu’ils sont déjà en cours de déploiement sur le parc automobile.

Le récit de l’automatisation complète oblitère les problèmes de collaboration homme-machine autour de la répartition des tâches et de la reprise en main des systèmes défaillants. L’enjeu n’est pas tant celui du remplacement de l’humain par la machine, que le fait qu’on observe une démission de l’humain en présence de la machine. Des études sur les pilotes d’avions et de nombreux cas de crashes montrent notre tendance à surestimer la fiabilité des machines (« biais d’automatisation ») et à suivre leurs recommandations, à se fier à leur fonctionnement sans remise en cause. Les programmeurs et designers pensent fabriquer des outils de recommandation, alors qu’une fois déployés ils ont plutôt un rôle de prescription. Pour l’opérateur, il semble moins risqué de s’en remettre aux outils (qui intègrent des savoirs experts) que de s’en remettre à son propre jugement – en oubliant que l’outil résulte de décisions humaines aussi faillibles que les siennes.

Plus généralement, la délégation de tâches à des algorithmes risque d’aggraver la dissolution de responsabilité individuelle déjà entamée par le fonctionnement procédural des grandes organisations et de favoriser les décisions aberrantes (affaires Midas au Michigan ou Robodebt en Australie). Il importe de concevoir les nouveaux métiers en n’oubliant pas le rôle de garde-fou que peut et doit jouer l’individu.

_________

Notes

*Algorithme : Description d’une opération en une succession d’étapes suffisamment simples pour que n’importe qui puisse l’effectuer sans avoir à réfléchir (par exemple, une recette de cuisine). A partir du vingtième siècle, le mot désigne une suite d’instructions données à un ordinateur.

*Machine learning : Sous-discipline de l’intelligence artificielle désignant les programmes qui se calibrent par apprentissage sur des données.

*Deep learning : Sous-discipline du machine learning désignant des réseaux de neurones comportant de nombreuses couches et se calibrant automatiquement sur une base de données d’exemples ou par feedback de l’environnement.

*Hiver de l’IA : périodes historiques pendant lesquelles le projet d’intelligence artificielle, à la suite de promesses excessive, peine à trouver de la crédibilité auprès du public et des financeurs.

*Loi de Moore : Il ne s’agit pas d’une « loi » à proprement parler mais d’une observation empirique, faite par Moore en 1965, selon laquelle la densité des transistors double à peu près tous les deux ans, pour un coût constant. En d’autres termes, le matériel électronique est de plus en plus puissant et de moins en moins cher, selon une progression régulière.

N.-B. : Il n’y pas consensus sur la définition de l’intelligence artificielle. La plupart des chercheurs l’évitent et parlent de leur pratique en se référant à un de ses sous-domaines (machine learning, deep learning…). D’autres avancent la définition suivante : L’IA désigne l’invention de programmes informatiques effectuant des tâches pour lesquelles nous avons besoin d’intelligence.

Petit rappel chronologique

1936 Alan Turing propose la notion fondatrice pour l’informatique de machine universelle.

1943 McCulloch et Pitts démontrent qu’un réseau de neurones peut réaliser des opérations logiques et fonctionner comme une machine universelle de Turing.

1946 Présentation de l’ENIAC, un des premiers ordinateurs programmables.

1950 Alan Turing introduit l’idée d’un test de l’intelligence appliqué aux machines.

1955 John McCarthy invite un groupe de scientifique à réfléchir sur la capacité des machines à reproduire l’intelligence et invente le terme d’intelligence artificielle.

1957 Frank Rosenblatt fabrique le premier réseau de neurone informatique, baptisé Perceptron et capable de reconnaître des formes.

1957-1970 L’intelligence artificielle prend le statut de discipline scientifique : se créent des laboratoires (MIT, Stanford…) qui reçoivent des financements des gouvernements et en particulier de l’armée. Cela permet de nombreuses inventions (programme de jeu d’échecs, chatbot, démonstration mathématique) qui sont abondamment relayées par la presse. Les chercheurs promettent la construction de machines intelligentes en quelques années.

1969-1970 Plusieurs publications critiquent l’enthousiasme public, les promesses excessives des chercheurs et mettent en avant les limites théoriques des machines. Cela provoque un premier hiver de l’IA : le grand public se désintéresse de l’IA et les financements sont interrompus.

Années 1980 Retour en grâce du projet d’IA avec les systèmes experts qui reproduisent le comportement d’experts sous la forme de règles d’action. Les premières startups d’intelligence artificielle apparaissent. Des financements privés s’ajoutent aux financements publics. Après quelques années de succès, le coût élevé des programmes et les limites des moteurs de règles entraînent la déception des financeurs et un deuxième hiver de l’IA.

1986 Les réseaux de neurones, discrédités depuis 1969, sont réhabilités grâce aux travaux de Rumelhart, Hinton et Williams qui inventent de nouveaux algorithmes dit de back propagation.

1989 Yann LeCun invente un type de réseau de neurones capable de reconnaissance d’image, les réseaux convolutionnels : ils sont utilisés dès les années 90 par la poste américaine pour la lecture automatique de chèques.

2006 Hinton et al. proposent le terme de deep learning pour désigner les réseaux de neurones qui comportent de nombreuses couches.

2012 Hinton et al. remportent une compétition de vision artificielle et déclenchent une prise de conscience de la communauté informatique qui adopte massivement le deep learning. Différentes familles d’algorithmes de deep learning s’imposent progressivement dans une grande variété de domaines : traitement du son, traduction, traitement du langage naturel, jeu de go… Les géants du numérique créent leurs laboratoires dédiés et intègrent ces technologies à leurs produits.