AI vs Être Humain: fantasme ou risque réel?

Soumis par sgraffite le lun 23/10/2017 - 12:50

Depuis quelques années, l'on ne lit plus que des avertissements, des études, des annonces fracassantes sur telle ou telle avancée en matière d'intelligence artificielle, sur telle ou telle tendance d'un gouvernement ou d'une entreprise commerciale à vouloir profiler un public cible le plus finement possible, soit dans un but de surveillance ou de répression, soit dans un but marketing ou purement commercial. Alors, l'intelligence artificielle, graal d'un avenir radieux ou démon tapi dans l'ombre?

AI et Cerveau

Un article publié dans Forbes ([6]) vient ajouter de la matière à un débat qui n'est pas près de se terminer. Il recadre la définition de ce qu'est réellement l'AI dans notre monde connecté, en pointe les possibles dérives sous la houlette de décideurs peu scrupuleux en matière de respect des valeurs humanistes ou humaines tout court...

Facebook, Google, Amazon, Apple, mais aussi l'ensemble du secteur bancassurance, le retail, le secteur de l'e-commerce et du tourisme en ligne... Tous ces acteurs ont en commun de vouloir connaître leur public sur le bout des doigts, en deviner les pensées, besoins, souhaits et actions avant même qu'il n'y pense ou qu'il n'agisse. Connaître son public, c'est s'assurer une forte probabilité de vendre un abonnement, une assurance, un prêt, une voiture, un séjour touristique, etc. 

Les technologies le permettent désormais, avec de moins en moins de ressources pour des résultats toujours meilleurs. 

La promesse varie finalement assez peu d'un type de service à un autre: celle que la technologie bourrée d'algorithmes fera plus, plus vite et mieux que des interlocuteurs humains réels. Que ce soit pour nous "vendre" de l'information, des livres, du matériel informatique, de la vie sociale, des voyages, ces algorithmes sont conçus pour "profiler" l'internaute de manière toujours plus précise.

Mais derrière ce discours, n'y a-t-il pas lieu de se poser quelques questions?

Un apport d'information indéniable

Les algorithmes de recherche et de profilage nous permettent, lorsque nous surfons sur le Web, d'accéder en quelques clics de souris à une masse d'information inégalée dans toute l'histoire de l'Humanité. Tous les sujets, toutes les questions, tous les souhaits à portée de souris... Les fastidieuses recherches manuelles (à la bibliothèque, en magasin, à l'administration, en club, etc.) sont reléguées dans le rayon des pratiques obsolètes. 

Et c'est (devenu) vrai! Qui songerait encore à commencer une recherche d'information en se rendant dans une bibliothèque, un magasin, ou en allant acheter une revue? Je veux me faire une idée sur un modèle de voiture? Hop, j'ouvre mon navigateur et tape par exemple "avis test Audi A3 Hatchback 2017" et je trouverai au moins 2 ou 3 liens pertinents me donnant déjà la moitié de l'information que je recherche! 

Mais quelle est la garantie de qualité de cette collecte d'information? Est-ce que les résultats de recherche sont bien les meilleurs que je puisse avoir? Qu'en est-il de leur pertinence?

Les algorithmes et l'AI vont résoudre tous les problèmes dans le futur

Tout d'abord, ce discours s'appuie sur le postulat implicite que tous ces algorithmes se conçus selon un schéma idéal, sinon parfait ou presque, fonctionnent parfaitement, et génèrent d'erreurs que très exceptionnellement. Que Facebook se défende en argumentant que le taux de fausses informations ("fake news" comme le répète Trump à l'envi) est dérisoire par rapport au flot d'informations global que le réseau social diffuse, que Youtube prétende que le taux d'erreur de diffusion de videos "inadaptées" dans ses contenus filtrés par ses algorithmes de contrôle parental, est bien commode mais noie ces cas "isolés" (en valeur absolue, il ne le sont pas nécessairement) dans des statistiques dénuées de tout bon sens! Dès lors, qu'est-ce qui nous dit que les algorithmes ont été conçus et développés avec toute la volonté éthique requise pour éviter ces cas "isolés"? Les grandes firmes 2.0 n'ont bien évidemment aucun intérêt à divulguer leurs secrets de conception de ces algorithmes et peuvent brandir la carte de leur survie économique si leurs secrets étaient connus publiquement... 

Des conceptions qui s'opposent à l'apport humain

Cela nous amène à la deuxième interrogation: l'être humain, il est où là dedans? Le discours de ces sociétés, si on l'analyse d'un peu plus près, revient systématiquement à argumenter que le maintien d'une intervention humaine, d'un contrôle humain, d'une interaction humaine, soit coûte trop cher, soit est source de trop d'erreurs.

C'est effrayant!!!

Soit les patrons de ces sociétés sont intelligents et le savent - ou s'en doutent au moins - et ils sont au mieux des apprentis sorciers, soit ils sont à se point obsédés par leur vision technophile qu'ils ne se rendent pas compte que leurs algorithmes ont commencé à façonner la société humaine à l'échelle planétaire! La course au clic, au like, au follower nourrit de plus en plus d'internautes affamés de reconnaissance immédiate et facile. Cette course joue de l'émotionnel individuel et collectif qui rend de plus en plus ardue toute approche constructive, raisonnée d'un problème ou d'une situation. Il suffit de voir un fil de commentaire sur un acte raciste, un attentat, une nouvelle people, mais aussi dans les espaces d'expression politique.

Un risque élevé de dérive dangereuse pour la société

L'intelligence artificielle "née" de ces algorithmes de recherche, de profilage, de calculs en tous genres, est devenu le mantra actuel, la nouvelle religion (voir la discussion sur l'étymologie du terme ici) à laquelle l'individu confie des pans de plus en plus importants de sa vie personnelle et sociale. Les GAFAs et leurs recettes sont devenus le Panthéon et les légendes du début du 3ème millénaire: les internautes vont sur leurs sites et leurs applications comme les croyants se rendent à la messe dominicale, à la mosquée, au temple, à la confession. Qui n'a pas acquis avec le temps le réflexe de vérifier son compte Instagram, Facebook, Linkedin, Snapchat ou autre dès son réveil, et de refaire la même chose avant de se coucher? 

D'autre part, les algorithmes qui alimentent les sites que nous visitons deviennent bien trop souvent une caisse de résonance de nos questionnements, de nos souhaits, de nos peurs, à côté de leur fonction première qui est de rentabiliser l'analyse de nos comportements. Leur fonctionnement amène des situations non souhaitées chez l'internaute, ou particulièrement déstabilisantes dans certains cas, comme des suggestions d'amis vers des personnes que nous ne souhaitons plus rencontrer dans la vraie vie et avec lesquelles nous n'avons jamais communiqué sur aucun réseau social (voir un exemple dans [5]).

A force de s'appuyer sur les résultats de nos recherches sur Internet et ses moteurs de recherche, nous en venons à:

  • perdre tout sens de la recherche pertinente. La réflexion qui devrait guider nos recherches est réduite au minimum si quelques mots-clés tapés dans un moteur de recherche suffisent à nous nourrir de références et d'informations.
  • perdre tout sens de la critique des sources d'information. Nombre de résultats de recherche contiennent en fait de l'information redondante, provenant bien souvent d'un nombre très limité de sources indépendantes. Il suffit d'examiner les contenus des journaux en ligne pour s'en rendre compte. Hormis quelques articles de fond (de plus en plus rares), l'essentiel des informations (articles, fil, alertes, dépêches) est repris tel quel (avec même les mêmes fautes de langage!) de média en média (journal en ligne, radio, télévision, etc.), voire recyclé par l'actualisation de fils de commentaires (sur Facebook, c'est devenu très fréquent). Où reste l'approche critique d'une source? L'impression de diversité de l'information n'est-elle pas trompeuse et ne nous conduit-elle pas à prendre pour vraie toute information répétée suffisamment de fois à travers le Web des réseaux sociaux?

L'éducation est la clé

De nouvelles générations d'êtres humains arrivent à l'âge adulte en n'ayant connu "que" cet univers technologique du Web 2.0 et après. A l'heure des crises économiques et des démissions des élites politiques dans les démocraties, mais aussi à l'heure de la résurgence des régimes autoritaires "2.0" (Turquie, Hongrie, Chine, etc.) parfaitement conscients des possibilités offertes par les algorithmes et l'intelligence artificielle, les sociétés civiles ont trop tendance à se replier dans le confort de la satisfaction individuelle à court terme, telle qu'offerte par l'utilisation actuelle de ces technologies.

En réaction heureusement, de nombreux groupements se sont formés dans toute une série de domaines pour recréer des liens humains, et paradoxalement, les réseaux sociaux et leurs algorithmes leurs offrent l'opportunité de rayonner par-delà le monde entier grâce justement à cet effet d'entraînement et de résonance dont je parlais plus haut. Mais que ces initiatives ne nous rendent pas aveugles: Les pays ont trop tendance à négliger un domaine particulièrement critique: l'enseignement. L'enseignement, l'éducation à la connaissance et à la critique sont et resteront nos plus précieux alliés pour exploiter sereinement les formidables opportunités offertes par l'intelligence artificielle.