On peut, sans trop craindre l'emploi d'une expression galvaudée ou les démentis des futurs manuels d'histoire, affirmer que nous vivons une révolution. L'arrivée de l'IA bla bli, bla bla ... C'est probablement comme ça que ce post aurait démarré si je m'y étais attelé comme prévu il y a 2 semaines. Mais il a fallu que viennent s'immiscer quelques digressions sur les gens qui déménagent ou qui communient dans la passion du 2 roues.
C'est que nous avions besoin vous et moi de prendre un peu l'air avant ce qui va suivre. Je préviens dès maintenant, si les petites envolées lyriques et les arabesques de la techno critique vous sied, passez votre chemin. On ne donne pas dans le menuet aujourd'hui, on va plutôt descendre à la cave, dans les contrées froides et monolithiques du Doom. Ca va cogner dur, ça ne va pas faire de politesse, les Sam Altman, Yann Le Cunn et consorts seront rhabillés pour l'hiver.
Vous pouvez vous éviter ce mauvais traitement en allant lire à la place ce moratoire, publié par un directeur d'études à l'EHESS, sur les prescriptions qu'il estime salutaire quant à l'usage de l'IA générative en milieu académique. C'est vraiment sport de ma part de balancer le lien dès maintenant. L'auteur me pique une introduction toute trouvée, une notice dont il convient de prendre connaissance avant de se plonger dans un papier pondu par un vieil aigri qu'on aura tôt fait de ranger dans la catégories des technophobes. Sa citation de Douglas Adam, emprunte de pop culture, tombe à point, je partage la plupart de ses objections ... Bref, on pourrait en rester là, bons amis. Si vous persistez en ces lieux, soit vous avez eu la flemme de cliquer, soit vous êtes ma mère. Deux raisons respectables qui me poussent à continuer.
Fulguro-poing
C'est qu'il est difficile de faire valoir une quelconque originalité quand on souhaite avertir sur les dangers supposés de l'IA. En à peine 1 an et demi depuis le lancement de ChatGPT et la découverte par le grand public des prouesses de l'IA générative, cette branche très spécifique de l'informatique a ravi les meilleures places dans la liste des sujets de JT, et de son corollaire, les conversations à la machine à café. L'IA ceci, l'IA cela, on en était presque à se réjouir du retour sur le devant de la scène du président à mèche et de son nouveau side kick transhumaniste, promesse de divertissements sans cesse renouvelés. Et en effet, on peut dire que de ce point de vue, les mecs font le job ...
L'ubiquité, la vitesse de propagation de cette nouvelle technologie en dit long sur son pouvoir de transformation. Bien sûr, on parle de numérique, et donc de cycle de vie très différent de celui des produits manufacturés. Mais ce qui transparaît dans ce mouvement fulgurant, c'est surtout la dimension horizontale, le fait que chaque semaine fleurisse un nouvel outil qui vous invite (nous en sommes encore au stade de l'invitation) à un surplus de confort dans des domaines dont la variété ne cesse de surprendre.
A noter que je parle ici de confort uniquement. Je mets volontairement de côté toutes considérations d'ordre productiviste. Non pas qu'il n'y ait rien à dire sur le sujet, loin s'en faut. On peut évoquer succinctement la cohorte d'emplois voués à disparaître très bientôt, générant d'innombrables reconversions que le gouvernement souhaite pudiquement accompagner, sans qu'il explique exactement comment. On peut opposer l'impact environnemental colossal de l'IA, du fait de ses besoins en propre, mais surtout parce qu'elle nous amène un gain très conséquent de productivité quand la sagesse peut nous inviter à plutôt ralentir. On peut alerter sur les dérives déjà bien visibles dans le domaine de l'éducation, de la désinformation, de l'art ... Bref, on peut trouver 1000 sujets qui peuvent légitimement donner envie de réguler quand nos dirigeants ne pensent qu'à accélérer. Mais toutes ces préoccupations sont déjà largement relayées, et c'est heureux. Pour s'en convaincre, on peut par exemple consulter la curation FramamIA, et on en profitera pour débroussailler un peu nos connaissances sur ce qu'est véritablement l'IA, grâce à leur excellente infographie de présentation.
Pour résumer, on trouvera des promoteurs qui argueront dans une logique toute Schumpeterienne qu'une grande avancée s'accompagne nécessairement d'une phase de transition potentiellement désagréable. Cette destruction créatrice, c'est le prix à payer pour le bien commun - position qu'il est toujours plus facile de tenir quand on se trouve du bon côté de la barrière. Et on trouvera des objecteurs de conscience, des Cassandres, ceux qui se font les relais des perdants. En cela rien de neuf. Ce qui l'est par contre, c'est en quoi cette technologie vient se nicher au cœur de notre psyché, se substituer en partie à ce qui fait de nous des êtres humains.
La démission
Je travaille dans la tech. Je suis entouré de jeunes gens par définition plutôt enclins à s'approprier au plus tôt toute forme de nouveauté. Je n'ai pas été surpris par l'intégration très rapide, dès la fin 2022, de ChatGPT à notre vie quotidienne de développeurs, bien que j'y trouve à redire. J'ai été saisi par contre de surprendre, très tôt également, ce qui me semblait une monstruosité tapie au fond d'une conversation innocente entre 2 collègues : J'ai été invité l'autre jour à un anniversaire, mais je n'avais aucune idée de cadeau, alors j'ai demandé à ChatGPT. Boum ! Une ligne était franchie. On peut ergoter sur nos compétences de développeur vouées à disparaître si on se contente de corriger du code généré par l'IA plutôt que de le concevoir. En généralisant, on peut imaginer de façon optimiste que ce temps de cerveau ainsi économisé sera investi autrement. Mais on ne joue pas du tout dans la même cours quand l'IA vient s'inviter dans l'informel.
Qu'est-ce que cela dit de ma relation avec toi quand je choisis de déléguer à l'IA, par exemple le choix d'un cadeau ? Certes, sur ce sujet particulier, il ne restait plus beaucoup de distance à parcourir avec la pratique de la carte cadeau, ou pire, du virement bancaire. Cette forme de démission face au rituel était cependant encore porteuse d'un sens : je ne te connais pas assez, ou je n'ai pas pris la peine de chercher quelque chose qui te ferait plaisir, je te laisse cette responsabilité. Aparté pour les proches qui lisent peut-être : je comprends le raccourci quand on a une tripotée de petits-enfants éparpillés aux 4 coins du globe, mais je n'en ai pas besoin pour savoir que vous pensez à eux :).
Si j'offre quelque chose, je préfère que ce soit en personne, et autant que possible, je veux que cela dise quelque chose de nous. Soit je te connais suffisamment, et je prends la peine de trouver quelque chose de taillé pour l'occasion. Ou bien à l'inverse, je tente de partager avec toi quelque chose que j'aime. Dans tous les cas, ce que j'offre, c'est un moment d'attention, je construis la relation. En choisissant de laisser l'IA œuvrer à ma place, je relègue l'exercice à un pale succédané qui n'a d'attention que l'apparence, je nous ôte d'une partie de nous même. C'est un exemple tout à fait anodin, mais qui illustre comment on peut s'efforcer de donner du sens à un exercice qui relève trop souvent de la figure imposée. Je préfère cent fois une entreprise sincère et maladroite au résultat qui touche juste par la magie des algorithmes et de la normalisation.
Le glissement de l'usage de l'IA dans des domaines qui devraient à priori lui être interdit ne semble pas émouvoir plus que ça. Nous l'utilisons déjà pour écrire à nos proches, pour composer un discours. Nous la regardons, amusés, nous singer, sans mesurer l'incommensurable tristesse qu'il y a à la laisser s'approprier nos moyens d'expressions. Qu'est-ce que le langage, sinon la seule façon, imparfaite, que nous avons de rompre notre infinie solitude ? Nous sommes condamnés à ne pouvoir qu'essayer de transmettre avec fidélité les pensées qui nous traversent. Nous buttons souvent, du fait de notre vocabulaire limité, des expressions dont nous sommes prisonniers, mais les mots que nous choisissons, dussent-ils donner lieu à des erreurs, des imprécisions, disent des choses de nous. L'IA quand elle parle à notre place, standardise, capture notre singularité.
Ce sont là de bien grands mots. On m'accusera de crier au loup quand ce ne serait qu'un caniche qui s'introduit dans la bergerie. Nous n'en sommes en effet qu'aux balbutiements. Mais si l'on sent un lien de parenté évident entre certaines transformations délétères de nos comportements, et la colonisation du numérique ces 20 dernières années, on ne peut que craindre celles à venir. Si deux décennies de textos, de télé réalité et de réseaux sociaux ont réduit à peau de chagrin le vocabulaire et les capacités d'expression des plus jeunes, les privant de toute forme de nuance, que penser d'une technologie qui peut faire tant à notre place ?
Scarlett et nous
Raphaël Gaillard, dans son essai l'Homme augmenté, considère l'IA comme un prolongement, quoique d'un genre nouveau, de tendances à l’œuvre depuis que l'écriture existe. L'IA générative ne serait qu'une nouvelle hybridation permettant de digérer, rendre accessible une connaissance dont nous n'aurions pas assez d'une vie d'homme pour l'acquérir. En gros une nouvelle voie nous permettant, à nous autres nains, de nous hisser sur des épaules de géants.
C'est juste. Déjà juste, pourrait-on ajouter. Les avis divergent sur le délai qui nous sépare de l'avènement d'une IA forte, consciente d'elle même. 5 ans ? 10 ans ? Je ne me risquerai pas à un exercice de prédiction, et c'est d'ailleurs bien inutile. Premièrement, car le simple fait que l'on s'interroge sur le délai dit beaucoup. Secondement, car on peut déjà facilement dresser les contours de ce que sera un monde dans lequel nous évoluerons conjointement avec cette nouvelle entité. Nous disposons d'un puits sans fond de ressources permettant au moins imaginatifs d'entre nous de se faire une idée : les œuvres de science fiction.
Je ne considèrerai pas ici un scénario apocalyptique à la Terminator où cet avènement est immédiatement suivi d'une lutte à mort avec les humains. Non pas que l'hypothèse me semble farfelue, mais trop éloignée de notre réalité d'occidentaux nimbés dans 70 ans de vie pacifiée pour la rendre prégnante.
Une évolution telle qu'imaginée dans un film comme Her (Spike Jonze) nous semble évidemment plus tangible. Diablement ajouterai-je. Pas de machines avec des vues hégémoniques ou un agenda qui leur est propre. Le parti pris de centrer l'intrigue sur les rapports de l'homme avec des agents conversationnels à peine plus élaborés que ce que nous connaissons déjà rend l'expérience totalement immersive, et d'autant plus flippante ...
Que voit-on ? Des rapports humains qui se délitent, des personnes qui préfèrent le confort de leur relation avec une IA plutôt qu'avec leurs congénères. Et comment leur en vouloir ? Sans même la voix de Scarlett Johansonn, petite cerise sur le gâteaux du geek cinéphile, comment ne pas tomber sous le charme d'une entité capable de clairvoyance, de justesse, de compassion, d'humour, le tout, toujours dans de parfaites proportions ? Mon réflexe premier à regarder cette relation contre-nature est de désapprouver, preuve que j'ai encore quelques progrès à faire pour rallier la galaxie woke. Je suis surement l'IAphobe de demain, qualificatif qui s'accompagnera du même dédain que celui que j'accorde aujourd'hui à mes ainés homophobes. Question de timing.
Triste est le premier adjectif qui me vient pour qualifier cette bluette, tout le contraire pourtant de l'aventure épanouissante et libératrice que traverse le héros à mesure que se déroule la pellicule. Il me faut dépasser cette répulsion initiale, m'ôter de l'idée que ce n'est pas mon fils que j'ai sous les yeux en train de s'enticher d'une IA, pour pouvoir me résoudre à l'exercice de pensée suivant : qu'y a-t-il de triste véritablement ? La relation que vit le héros est-elle moins réelle que celle qu'il aurait tricotée maladroitement avec un avatar charnel ?
Je convoque alors la pensée de Jean-Paul Dubois, héros contemporain d'un secours indéfectible pour traduire ce qui agite le cœur des Hommes : Qu'est-ce qui est vrai dans notre vie ? Ce à quoi nous voulons bien croire. La religion, le travail, l'amour, la confiance, l'argent, la réussite, tout repose sur des mécanismes codés, des imitations culturelles, des simulations tribales qui offrent la représentation d'une réalité, laquelle n'est pas plus fiable que l'empathie scolarisée [de l'IA]. (L'origine des larmes).
Mais oui, Jean-Paul ! Je me vautre complètement quand je pense assister là à une reproduction insipide : ces élans numériques auront le goût du vrai. L'IA forte nous offrira une synthèse parfaite, lovée dans le creux de l'oreille, de toute l'étendue de la connaissance humaine ET du meilleur de ce que nous avons à offrir sur le plan relationnel. Je fais confiance aux ingénieurs pour réussir à doser la chose parfaitement. Et c'est bien de cette perfection, qui vient faire écho à des préoccupations très actuelles, que vient ce sentiment de tristesse dont je ne peux me départir. Car quand nous aurons à disposition le meilleur, le plus performant des avatars, calibré pour répondre à nos besoins les plus intimes, qu'aurons-nous de temps à perdre pour ces relations si humainement imparfaites qu'ont à nous offrir nos semblables ?
Better, stronger, faster
Nous acceptons déjà que le numérique permette d'asseoir la recherche constante d'optimisation de nos sociétés, et que cette tendance s'empare peu à peu de pans entier de notre culture où la contingence devrait régner en maître. En amouuuuuuuur, nous ne tolérons plus les errements nés de rencontres hasardeuses de fin de soirées, ou de flâneries sans but le long d'un quai. Nous préférons nous en remettre à la précision d'un Tinder qui saura suggérer les profils les plus adaptés à une rencontre fructueuse.
Si l'obsession de la performance, bien que discutable, ne surprend pas vraiment dans le monde du travail, ses débordements successifs dans la sphère intime devraient nous alerter. Ce n'est visiblement pas le cas. Nous intégrons peu à peu qu'en tout lieu, tout domaine, bien n'est plus suffisant. Nous favorisons de plus en plus la froide rigueur à la chaleur du hasard.
Pour prendre la mesure de ce qu'a déjà permis l'IA en la matière, j'ai en tête un exemple très concret : les recommandations musicales des plateformes de streaming. Depuis longtemps, les algorithmes sont au cœur de nos incursions dans la jungle des sorties musicales. Mettons de côté la vision désabusée, mais pertinente, d'une sélection influencée par une logique mercantile. J'ai depuis le début été bluffé par la précision des recos de Google Play, dont j'étais utilisateur avant sa disparition. Je ne savais quoi penser face à l'efficacité d'un programme capable de concurrencer à la fois la connaissance encyclopédique des magazines spécialisés, et la pertinence de la reco née de la relation avec ton vieux pote qui connait tes goûts, et saura te faire sortir de ta zone de confort.
La plateforme buttait heureusement sur un obstacle indépassable : l'algorithme a beau me connaître, et viser incroyablement juste, sa reco restera bêtement alignée avec le monceau d'autres nouveautés suggérées tout aussi méthodiquement. Il manque bien sûr du souffle là-dedans, le délice de la conversation avec l'ami passionné, l'enthousiasme de l'interlocuteur qui tente coûte que coûte de pousser sa pépite. Ce manque, l'IA forte y pourvoira, en musique, comme ailleurs. Elle est aujourd'hui pertinente, elle sera demain incarnée, et comme dans Her, nous plongerons peu à peu dans une dépendance viscérale à cette relation parfaite.
Mouiller le maillot
C'est une allégorie sportive que j'ai beaucoup entendue plus jeune à Toulouse, terre de rugby. On a donné du sien, on a pas triché. Je me livre ici à un exercice de prospective forcément casse gueule, je ne triche pas. J'ai passé sous silence tous les prodiges que ne manquera pas de réaliser l'IA, ma lecture comporte de sérieux biais. C'est que, de toutes ces mutations dont nous n'avons qu'une esquisse, se dégage une tendance que je résumerais simplement par : l'IA nous rend moins humains. Cette considération, nous devrions l'avoir en tête pour pondérer certains de nos choix.
J'espère pouvoir relire ce post dans 10 ... 20 ans, soyons fous, et mesurer l'écart entre le tableau, pas forcément réjouissant, que je livre ici, et ce qui sera advenu. Je veux croire que l'histoire fera de cette expérience une déconvenue sévère, et me prouvera qu'il vaut mieux pour tout le monde que je m'en tienne à des petites digressions sans prétentions sur les affres de la vie de quadra, plutôt que livrer une vision prophétique sur les dérives de nos saillies technologiques.