Une catastrophe bien singulière

Peut-être n’en avez-vous pas encore entendu parler : la race humaine pourrait s’éteindre dans 20 ou 30 ans. Pas à cause des bouleversements climatiques mais des progrès en intelligence artificielle. La puissance des ordinateurs est en effet en croissance exponentielle, les avancées en matière d’apprentissage automatique et d’exploitation du big data sont vertigineux, si bien que nous nous approcherions du point où les machines pourraient non seulement se passer de nous mais prendre la planète en main pour l’emmener sur une course imprévisible, inarrêtable. Ce point a été baptisé « singularité technologique ».

Un tel scénario, imaginé au siècle dernier par des auteurs de science-fiction, est devenu un spectre plus concret depuis que des personnalités – et non des moindres : des entrepreneurs comme Bill Gates ou Elon Musk, des physiciens comme Stephen Hawking ou le prix Nobel Frank Wilczek – se sont mises à clamer que la catastrophe pourrait se produire à un terme beaucoup plus proche qu’on ne l’imaginait et qu’il devenait urgent de l’anticiper. Certains pensent même qu’elle n’est plus évitable.

Que faut-il penser de ce nouveau millénarisme ? Sommes-nous effectivement condamnés à laisser la place aux machines, au mieux à verser dans un transhumanisme où la part humaine ne serait plus qu’accessoire ? Et à quelles fins ses chantres agitent-ils cet épouvantail ? Le progrès alimente beaucoup de fantasmes, bien que l’histoire ait prouvé que les révolutions techniques se produisaient rarement là où on les attendait, en tout cas pas de la manière prévue. Il n’empêche que les discours sur la technologie, quelle que soit leur validité, agissent sur l’inconscient collectif et les politiques publiques, à commencer par les allocations de budgets de recherche. À ce titre au moins, cela valait la peine de s’interroger sur la pertinence de cette fameuse Singularité. Jean-Gabriel Ganascia vient de le faire dans un ouvrage remarquable, Le Mythe de la Singularité, dont le titre résume le propos : oui, nous sommes ici face à un mythe. Dans un essai accessible et fluide, Ganascia, figure de proue française de l’intelligence artificielle, par ailleurs président du comité d’éthique du CNRS et essayiste accompli, démonte pièce par pièce cette nouvelle grande peur avec les outils de sa discipline mais aussi ceux de la philosophie. À la vision affolée de la Silicon Valley et à sa culture nourrie de mirages grandioses, il oppose un humanisme serein, rationnel et éclairé. L’auteur ne s’emploie certes pas à minimiser les progrès accomplis ces dernières années qui, admet-il, peuvent susciter de légitimes inquiétudes. Oui, les machines peuvent désormais construire elles-mêmes leurs propres connaissances et se reconfigurer en écrivant leurs propres programmes. Oui, leurs comportements sont de plus en plus difficiles à anticiper, basés qu’ils sont sur des quantités de données qu’aucun homme ne sera jamais en capacité d’analyser. Dans tous les rouages de la société s’immiscent ainsi des « agents artificiels » qui n’ont que faire de l’éthique ou de la morale. Il faut donc veiller à ne pas se laisser déborder (des programmes de recherche sur ce thème sont d’ailleurs déjà en cours).

Faut-il pour autant craindre la fin de l’humanité ? Jean-Gabriel Ganascia n’y croit absolument pas, pointant les limites de la technique et celles de la prospective. Plus intéressant encore, il s’interroge sur les motivations et ressorts des prophètes de ce millénarisme new age, ainsi que sur les contradictions internes de leurs discours. Si la Singularité technologique reste très hypothétique, le fait qu’elle enflamme des esprits brillants est lui tout à fait réel. Aussi était-il opportun de s’interroger autant sur la nature humaine que sur la machine. « Étrangement, écrit Jean-Gabriel Ganascia, la technique qui, jusque-là, se présentait comme le vecteur majeur de la modernité, retourne sa veste pour se départir de la volonté de savoir et d’agir, et de succomber devant le succès des légendes populaires. Elle renonce à l’idéal de modernité qui naquit à la Renaissance. » Il ne faudrait pas, conclut-il, que l’humanisme cède le pas au posthumanisme technologique, que la liberté abdique, que le futur se dissipe. Au terme de cet essai fort ellulien, l’auteur rappelle à tous les propagandistes de la Singularité l’aphorisme d’Emil Cioran : « Être moderne, c’est bricoler dans l’Incurable. »

Édouard Launet
Littératures

Le Mythe de la Singularité, de Jean-Gabriel Ganascia, Éditions du Seuil, collection Science Ouverte, 137 p., 18 euros

EnregistrerEnregistrer

EnregistrerEnregistrerEnregistrerEnregistrer