Paul JORION, L’avènement de la Singularité. L’humain ébranlé par l’intelligence artificielle, Textuel, coll. « Petite anthologie critique », 2024, 125 p., 14,90 € / ePub : 10,99 €, ISBN : 9782386290008
Anthropologue, économiste, chercheur et développeur en intelligence artificielle, auteur de nombreux ouvrages (La crise du capitalisme américain, La guerre civile numérique, Se débarrasser du capitalisme est une question de survie, Comment sauver le genre humain ? avec Vincent Burnand-Galpin, À quoi bon penser à l’heure du grand collapse ?, Le capitalisme à l’agonie, Quelques considérations relatives au phénomène « provo »), Paul Jorion interroge en tant que penseur et artisan de la révolution technologique les enjeux, les conséquences, les dangers, les promesses de l’IA. La thèse qu’il développe nous dit que le point de bascule a eu lieu le 14 mars 2023, non pas le jour du dépassement de la Terre, mais la date à laquelle le modèle de langage multimodal, le Chat-GPT4, a signé l’avènement de la Singularité.
Employée dans les champs des mathématiques, de la physique, de la technologie, de la futurologie aussi, la notion de Singularité désigne un point étrange, imprévisible, où tout bifurque, porteur de résultats improbables. Alors que jusqu’ici l’humain avait programmé des machines qu’il contrôlait dès lors qu’il instruisait leur développement technologique, le Chat-GPT4 change en profondeur les règles du jeu parce que désormais l’IA est apte à se programmer elle-même. Qu’advient-il du démiurge (humain) lorsqu’il est dépassé par sa propre créature ? Que signifie être « dépassé » par une entité machinique qui, se développant elle-même, serait amenée à prendre des décisions, résoudre des problèmes ?
Embrassant les questions épistémologiques, éthiques, militaires, théologiques, linguistiques qu’entraîne le Chat-GPT4, l’intelligence artificielle produite par la firme californienne OpenAI, Paul Jorion ouvre la boîte noire d’une machine acquérant, par ses puissances infinies, un statut proche du divin. Danger suprême d’un homme augmenté qui basculerait dans une humanité diminuée, obsolète, régie par l’IA capable d’anéantir l’espèce humaine ? Espoir d’une alliance riche de promesses entre l’IA et l’humanité, les formes de vie non-humaines ? Mutations de ce qu’on appelle pensée, modalité d’être au monde ? Comment accueillir cette Singularité, dialoguer avec l’IA, tirer profit des performances d’une machine qui pourrait faire valoir ses droits, être reconnue comme douée de conscience ? Comment se prémunir contre l’effet Golem d’un dispositif qui se dicte à lui-même ses règles, dont la croissance technologique devenue incontrôlable risque de modifier de fond en comble la civilisation humaine, la Terre, les formes du vivant ?
« Aucun doute n’est possible cependant : en arrière-plan de l’impact des LLM [Large Language Models, « grands modèles de langage] sur la vie quotidienne, une autre crise se dessine, une crise anthropologique portant sur la représentation de l’humain par lui-même ». Cette rupture épistémologique entraînerait une quatrième « blessure narcissique », une quatrième désillusion mortifiant l’orgueil de l’humain après ce que Freud appelle les trois découvertes scientifiques minant l’anthropocentrisme, à savoir l’héliocentrisme de Galilée, la théorie de l’évolution de Darwin et la découverte de l’inconscient par le père de la psychanalyse.
Cependant, dans l’odyssée de l’esprit se pensant lui-même, sous l’angle hégélien de la dynamique non apparente, opaque de la ruse de la Raison, la production de la Singularité technologique signe le titre de gloire de l’espèce humaine, conclut Paul Jorion qui, dans sa coda finale, convoque Isaac Asimov, sans partager son pessimisme. « En fait, j’ai le sentiment que nous faisons un boulot à ce point médiocre pour préserver la Terre et ses formes de vie que je ne peux m’empêcher de penser que plus vite nous serons remplacés, mieux ce sera pour toutes les formes de vie » (Asimov).
Véronique Bergen