Aveuglement collectif : l’intelligence des autres est parfois terrifiante.

L'intelligence artificielle, ou la défaite de l'être humain
Par Jean-Michel Besnier

Aveuglement collectif : 5 menaces pour notre futur déjà parfaitement identifiables mais contre lesquelles on ne fait rien
L’intelligence des autres est parfois terrifiante.Mutations génétiques, prolifération nucléaire, obsession du rationnel... De nombreuses dérives liées à la technologie (mais pas que) risquent de déstabiliser l'avenir. Et si ces dernières sont visibles comme un éléphant dans un couloir, la société n'est pas forcément préparée à les affronter.

Chaque page de cet article correspond à l'une des menaces :

Page 1 : L'intelligence artificielle, ou la défaite de l'être humain - Jean-Michel Besnier
Page 2 : Le Big Data, ou la neutralisation de l'intimité - Jérémie Zimmermann
Page 3 : La prolifération nucléaire, risque prégnant dans les relations internationales contemporaines - Cyrille Bret
Page 4 : Remplacer les bibliothèques par des disques durs ? Une évolution qui met en péril les archives de l'humanité - Michaël Dandrieux
Page 5 : Une société déracinée par l'obsession du rationnel - Michaël Dandrieux

Quand elle vous surprend par sa clairvoyance dans une situation compliquée, quand elle suggère avec élégance des solutions à des problèmes qui vous décourageaient. Un sentiment d’injustice vous saisit alors : « le bon sens n’est pas la chose du monde la mieux partagée ». Mais on se console, en se félicitant que la nature humaine accueille aussi le génie.

L’intelligence exceptionnelle reste humaine, l’autre qu’on admire demeure un alter ego. Qu’en est-il, par contre, de cette intelligence dite artificielle dont Bill Joy, Stephen Hawkin, Elon Musk et Bill Gates redoutent qu’elle mette un terme à l’espèce humaine ?

On s’est amusé d’abord des prétentions des cybernéticiens des années 1950 qui envisageaient de fabriquer un humain artificiel. La reprise de vieux fantasmes issus du Golem s’inscrivait alors dans la dynamique d’un progrès technique dont on attendait qu’il satisfasse les attentes de l’humanité. L’IA était un adjuvant qui devait fournir des moyens de nous épanouir : les premiers jeux électroniques assuraient les divertissements nécessaires aux hommes modernes ; les premiers systèmes-expert relayaient efficacement le savoir-faire des médecins ou des plombiers ; on attendait de machines à traduire qu’elles nous offrent de communiquer par-delà les frontières nationales…

L’artificialisation des comportements, réputés intelligents quand ils sont effectués par des humains, fut d’abord circonscrite à ces trois domaines. Mais l’enthousiasme déclina assez vite, notamment quand on s’aperçut que le traitement automatique du langage n’était pas aussi aisé que cela. La victoire de Deep Blue sur Kasparov fut évidemment un choc : une machine triomphait du champion du monde d’échecs ! Mais on admit que les capacités humaines de calcul devraient rendre des points aux automatismes dont seront de plus en plus capables les ordinateurs, et l’on se dit que le jeu d’échecs était un terrain trop facile pour eux. Le jeu de Go serait, par exemple, une autre paire de manche !

L’idée s’imposa un temps que l’intelligence devrait se définir comme ce dont les machines ne seront jamais capables, qu’elle devrait donc être conçue comme le point de fuite que n’atteindront jamais les ingénieurs en informatique. Les conclusions du test de Turing n’impressionnèrent plus beaucoup : oui, c’est vrai, il est possible qu’une machine puisse être confondue avec un humain dans les réponses données à un questionnaire fermé. Les prouesses d’Eliza, le programme informatique écrit par Joseph Weizenbaum pour démontrer qu’une machine peut très bien remplacer un psychanalyste, servirent surtout à railler les stratégies thérapeutiques à la mode dans les années soixante. Personne ne songeait alors à sonner l’alarme et à proclamer que nos technologies cognitives étaient en train de menacer les prérogatives de notre intelligence. Il ne pouvait y avoir que les auteurs de science-fiction pour continuer à imaginer une prise de pouvoir par les robots et la mise en servage des humains. La société pouvait continuer à s'informatiser tranquillement, l’école à intégrer des plans « Informatique pour tous », les entreprises à investir dans les systèmes d’information. Nous étions bien aux commandes et nous développions de formidables outils pour améliorer le confort de notre quotidien.

Puis est venu le temps d’une certaine irritation : les administrations et les services se dotèrent d’infrastructures informatiques de plus en plus sophistiquées et encombrantes. Les usagers commencèrent à se plaindre de n’être plus accueillis que par des serveurs vocaux imbéciles. On leur expliqua que les contraintes de productivité imposaient qu’on écartât les standardistes à la voix suave et à l’humour narquois. On justifia aussi abondamment les ratés de communication ou les délais de traitement de leurs demandes par des pannes informatiques bien compréhensibles n’est-ce pas ? La colère des otages de l’IA mise au service de la communication avec le public ne trouva jamais à s’exprimer autrement que sur un plan individuel, et les entreprises purent continuer à s’équiper de dispositifs de plus en plus déshumanisants. Reste que les choses sont peut-être en train de prendre une autre allure…

Le Krach boursier de 2008 a eu sur certains un effet traumatisant : quand on sut le rôle que jouèrent quelques robots traders qui prirent de vitesse les meilleurs courtiers, on dut se dire que nous n’étions plus au contrôle et que cela pouvait être encore plus conséquent que la remise des clés de l’avion de ligne au pilote automatique. La prise de conscience d’une menace liée à la réactivité de nos machines devint tangible et l’on prit la mesure du fait que le sens du mot « intelligence » avait bel et bien changé : être intelligent, ce n’est plus être capable de se représenter un problème et de réfléchir, aux fins d’élaborer une solution adéquate – mais c’est seulement être capable de recevoir des signaux qui appelleront immédiatement une réponse comportementale susceptible de modifier un environnement. L’ère des objets intelligents pouvait naître : nous serons bientôt entourés et envahis de capteurs d’informations qui rétroagiront et communiqueront entre eux et nous n’aurons d’autre solution que celle consistant à accepter d’être l’un d’eux. Notre richesse, dit-on déjà, tiendra à la quantité de data que nous pourrons porter et livrer à nos machines.

...........

Read more at www.atlantico.fr