Machines intelligentes

Ce livre édité en 2020 brosse un panorama objectif et actuel des développements de l'intelligence artificielle (IA), incluant ceux que la crise du coronavirus accélère. Contrairement à ce que l'on peut attendre, l'aspect technique n'est pas très poussé, il s'agit plutôt d'un ouvrage d'intérêt général, vraiment exhaustif, qui met l'accent sur les possibilités actuelles et futures de ces techniques informatiques, ainsi que sur les dangers de dérives et abus. Les auteurs, père et fils Jakobowicz, se gardent de prendre position, mais ce qui doit être dit l'est sans ambages.

Après une première partie qui brosse l'historique et signale les déceptions et hibernations du secteur, la seconde aborde davantage l'aspect technique. On note que les programmes d'intelligence artificielle, grâce aux performances élevées des machines actuelles, ne sont jamais «que» des algorithmes relativement simples, exécutés très rapidement, qu'on applique à un très grand nombre de données. Dans les requêtes plus complexes, les algorithmes sont superposés en couches successives. L'acquisition de grands volumes de données est la base indispensable aux systèmes d'IA. Tous les moyens sont bons pour les récolter, depuis les cookies qui mémorisent nos activités et nos goûts jusqu'aux "CAPTCHA" : on apprend que lorsque l'on clique sur ces images, l'on travaille gratuitement pour Google, car ceci permet de gonfler le stock d'informations pour la reconnaissance d'images en IA.

Apprentissage : les expressions "machine learning", "deep learning" et "transfer learning" sont succinctement expliqués. Ainsi, en reconnaissance visuelle, la machine ne «voit» pas, elle mémorise les caractéristiques des pixels d'un tas d'images représentant tel sujet, un chat par exemple, afin d'apprendre à détecter l'animal en question sur n'importe quelle image. Il ressort surtout de ces techniques que si la machine est capable d'apprentissage, l'explication des processus déterminant une décision est insatisfaisante : "Ceux qui prônent une adoption massive de l'intelligence artificielle ont tendance aujourd'hui à mettre en avant des arguments visant à accepter cet inconnu lié aux algorithmes plutôt qu'à parier sur une meilleure explicabilité de ces derniers. L'un des arguments évoqués est la difficile explication de nos décisions humaines." Oui, mais on demandera quand même à un médecin d'exposer les symptômes qui lui ont permis de déceler une maladie !

Pour ma part, au plan plus technique, j'ai été intéressé par le système "Hadoop" (p 65) qui permet d'accélérer la recherche d'informations sur d'immenses bases de données en les répartissant sur plusieurs serveurs. Par exemple, un assureur veut connaître toutes les transactions de ses clients en rapport avec l'un de ses produits : la recherche ne s'effectuera pas sur l'ensemble des données en ordre séquentiel, mais en parallèle sur chaque serveur qui en contient une partie, divisant le temps de requête par le nombre de serveurs. Pour certains systèmes, en effet, la vitesse d'accès aux informations est vitale : chez "Amazon", une minute de blocage coûte 6000 commandes et un gros manque à gagner...

On remarque également qu'un système de données distribuées implique une augmentation du nombre de serveurs consommateurs d'énergie. Saviez-vous que l'énergie nécessaire à l'envoi d'un simple courriel avec pièce jointe est comparable à celle d'une ampoule électrique pendant une heure ? (p 207)

Dans la troisième partie, sont exposés les différents types d'IA, de l'assistant personnel qui gère un agenda à la voiture autonome, en passant par les applications dans le domaine de la santé et de l'armée. Du robot qui aide à la consultation médicale au drone tueur, on découvre le tableau étonnant d'innovations qui relevaient hier encore de la science-fiction. Les auteurs ne manquent pas de souligner les dangers et problèmes qu'occasionnent ces applications, tant au niveau de la sphère privée que par l'excessive emprise de grandes sociétés (GAFAM) et d'États totalitaires sur la population (Chine).

S'il fallait absolument lire une partie de cet ouvrage, la quatrième "Quel avenir pour l'Intelligence Artificielle ?" m'a paru la plus significative. Les auteurs s'y montrent circonspects. Certains métiers sont menacés par le développement de l'IA et j'ai été surpris d'apprendre que les programmeurs et les juges sont impactés. Car se développe rapidement aujourd'hui une IA permettant de transformer une description des fonctionnalités d'un programme en code informatique. De même, il existe désormais aux États-Unis des systèmes capables d'automatiser des décisions de justice : "Cet outil reste aujourd'hui une aide à la décision (le juge décide toujours), mais il peut l'influencer, et on imagine bien que ce type de mécanisme peut assez facilement se passer de validation humaine". Les biais de la «boîte noire» des algorithmes évoqués plus haut (explicabilité) peuvent affecter gravement ces dernières décisions. 

Au rang des opportunités, le développement de l'IA permet une plus grande spécialisation des métiers, davantage d'emplois dans la gestion humaine, une baisse de la pénibilité et la valorisation de compétences transverses (relationnel, créativité, ...). 

Les auteurs ne croient guère à la prise de contrôle de la société par la machine (cf "Skynet/ Terminator") et pensent que l'IA telle qu'on la connaît aujourd'hui, malgré d'énormes avancées, souffre de son incapacité à créer une représentation du monde. La recherche en IA est confrontée à l'absence de toute théorie scientifique concernant l'intelligence humaine, de sorte qu'elle avance sans direction précise. (p 216)

Pour conclure, retenons d'abord que "même s'il existe des risques de dérives, presque aucune invention n'a été abandonnée à cause de critères moraux". L'arrivée de l'intelligence artificielle dans nos vies peut être très utile et implique des enjeux et des risques que ce livre nous aide à comprendre avec les bonnes clés. 

Merci à Babelio et aux éditions Leduc.s (opération Masse Critique).