L’humain et la machine qui parle
Et pourtant elle parle ! Voilà ce qu’aurait pu répondre Galilée aux inquisiteurs de l’intelligence artificielle, prompts à critiquer son manque de sens commun, ses hallucinations et sa fâcheuse tendance à aller piocher dans les données des autres matières à étoffer son discours. Il nous faut bien le reconnaître : malgré leurs limites, les modèles d’IA générative, dont ChatGPT s’est fait le héraut, représentent une étape majeure dans l’histoire de l’IA. Et cette étape n’est pas, avant tout, technologique : pour la première fois, nous nous trouvons face à une instance capable de produire un discours véritablement cohérent et plausible, sans être dotée d’intelligence. Et nous devons l’admettre : cela nous déroute, tant nous associons spontanément langage et intelligence. « On pense dans une langue », a-t-on coutume de dire, et les parents guettent avec espoir et appréhension les premiers mots de leur rejeton, qui le feront entrer dans la grande famille des humains. De ce fait, nous avons une fâcheuse tendance à anthropomorphiser cette technologie. C’est probablement l’écho de notre habitude de projeter notre humanité sur tout artéfact, depuis les peluches de notre enfance. Et l’IA générative s’y prête tellement bien que, même si elle nous met sans cesse en garde sur son identité de simple machine, nos contemporains sont des millions à essayer de la prendre en défaut, à lui demander conseil, voire à lui poser des questions existentielles.
Protecteurs de foyers
Certes, ChatGPT n’est pas la première machine parlante : bien qu’ayant fort peu de conversation, Alexa et autre Google Home se sont fait une place de choix dans notre quotidien, et leur histoire projette sur l’IA générative l’éclairage d’une expérience vécue. On interroge ces enceintes bourrées d’IA sur la météo, on leur demande de menus services, comme noter la liste des courses ou nous rappeler un rendez-vous. En fait, plus qu’un interlocuteur, ces enceintes connectées sont progressivement devenues les protecteurs de nos foyers. Elles sont à l’image des lares, ces divinités domestiques qui trônaient dans l’atrium des villas romaines. A l’époque, des trous étaient ménagés dans les cloisons pour permettre à la statuette de surveiller les issues. Le premier système de vidéosurveillance, en somme. Pourtant, il fallait y croire. Et, dans la tradition hébraïque, nombreux étaient ceux qui raillaient, avec les auteurs des psaumes, ces faux dieux qui « ont une bouche et ne parlent pas, des oreilles et n’entendent pas ». Cependant, si vous demandez à Alexa une pizza sans pepperoni, trente minutes plus tard, vous serez exaucé. Connectés au système domotique et à nos indispensables téléphones portables, ces dispositifs sont devenus centraux. Au point que cette technologie numérique, qui tisse progressivement autour de nous un cocon protecteur, suscite une dépendance bien plus redoutable que l’addiction aux écrans. Elle exerce même, de ce fait, un contrôle sur nos vies, à mon sens largement sous-estimé. En occident, on considère le contrôle comme le fruit de la coercition, d’où les nombreuses dystopies dont Hollywood a le secret. On oublie ainsi que d’autres cultures le voient à travers le prisme du jeu de go : un encerclement progressif, sans coup férir. Tel est le contrôle exercé par la technologie sur nos vies : discret et confortable, mais bien réel. Or, si l’on ne peut plus s’en passer, cette technologie, dont l’IA est l’acmé, est-elle encore à notre service, ou est-elle devenue notre maître ? La question est à la fois pratique et symbolique. En consultant ChatGPT comme un oracle, peut-être fait-on droit à la part de pensée magique que nos sociétés scientifiques et rationnelles tentent en vain d’éradiquer. Un relent de chamanisme qui accompagne notre humanité depuis ses débuts. Presque un invariant. Des voix s’élèvent alors pour reprocher aux concepteurs des IA génératives de leur avoir donné la parole. N’aurait-il pas fallu en faire de simples générateurs de textes, avec lesquels nous n’aurions pu dialoguer ? Si, dans un geste prométhéen, ils ont volé l’IA aux sachants pour la partager avec tous les humains, ils n’en ont cependant pas fait un totem ou un fétiche. Souvenons-nous de l’histoire du veau d’or. Cet écrit plein de sagesse raconte comment, Moïse étant allé longuement discuter avec Dieu, le peuple prit peur et fit fabriquer une statue qui les protégerait. Pourtant, ce ne sont pas les orfèvres qui en ont fait une idole, mais bien le peuple, qui l’a investie d’un pouvoir divin. La responsabilité est donc entre nos mains : nous laisserons-nous confortablement dominer par des algorithmes veillant à nos moindres désirs ? Délèguerons-nous à un assistant virtuel les décisions de notre quotidien, sous prétexte de nous concentrer sur l’essentiel ? Ou aurons-nous à cœur de garder notre agentivité intacte et notre faculté de choix sans cesse exercée ? Ce qui se joue ici n’est rien moins que notre capacité à rester aux commandes et même, au fond, notre place en haut de la chaîne alimentaire, notre statut d’espèce dominante. Il n’est nul besoin à la machine de prendre sciemment l’ascendant sur nos vies pour nous remplacer. Si l’IA sait parler, elle peut aussi composer de la musique et produire des images d’une qualité surprenante. « Ayez une profession créative et vous ne serez jamais en compétition avec une intelligence artificielle » entendait-on encore il y a peu. La belle affaire ! Au-delà du langage et de la créativité, à quoi se réduit désormais le fameux « propre de l’homme » ? Avocats, journalistes, comptables, graphistes ou musiciens pourraient aisément rejoindre la grève des acteurs et scénaristes qui paralyse actuellement Hollywood, tant chacun est susceptible de faire les frais de ce grand remplacement. L’enjeu est cependant moins l’emploi, dont on ne peut prédire avec certitude les destructions et les créations dans un processus schumpetérien, mais plutôt le risque d’obsolescence programmée, quoiqu’involontaire, de l’espèce humaine.
Enjeu principal
Il me semble cependant important de remettre ces évolutions en perspective avec notre histoire récente et de nous souvenir de l’émoi qui produisit l’arrivée de la photographie. Nul n’était plus besoin d’avoir recours à un peintre et l’on pouvait, en quelques heures, se faire tirer le portrait. Face à la remise en cause de son quasi-monopole de représentation du réel, la peinture dut se réinventer. L’efflorescence de mouvements picturaux au XXe siècle n’est peut-être pas étrangère à ce défi. De son côté, la photographie s’est aussi imposée comme un art à part entière. De même, existera-t-il peut-être bientôt un art de l’édition des « prompts », par lesquels l’humain amène l’IA à produire ce qu’il désire. Si Socrate s’opposait à l’usage de l’écriture, force est de constater que l’humanité sort toujours par le haut des révolutions épistémologiques qu’elle déclenche et que nous ne sommes jamais aussi forts que lorsque nous sommes mis au défi. Pour peu que l’on s’organise pour cela. Et c’est peut-être là le principal enjeu, face à une technologie à la fois très puissante et désormais largement répandue. Car démocratisation rime avec prolifération. Sortie des laboratoires, l’IA est désormais, au moins en partie, dans la main du public. Or, l’expérience des réseaux sociaux nous l’a malheureusement montré assez crûment : si l’on ne peut que se réjouir de la faculté d’expression publique de chacun, tous n’usent pas de ce pouvoir avec la même bienveillance ni le même discernement. . Il y a fort à parier qu’il en sera de même pour l’IA générative. Sans parler de WormGPT, le chatbot censé assister les criminels, ni des multiples usages déjà découverts par des pirates inventifs, on peut évoquer les quelques tentatives d’IA génératives dérégulées. Il est possible, par exemple, de leur demander sans filtre comment se débarrasser d’un cadavre ou empoisonner discrètement les enfants des voisins. Par leur précision et leur créativité, les réponses mettent Hitchcock à la retraite ! Cela explique la nécessité qu’ont éprouvée les concepteurs de ChatGPT de doter leur création de cadres, régulièrement révisés à mesure que le public arrive à les contourner. Même le modèle LLaMA 2, que le groupe Meta propose en mode « ouvert » n’est pas totalement open source et garde ses contraintes internes, destinées à en limiter les mésusages. Or, une part des critiques visant ces algorithmes tient au secret jalousement gardé de leur paramétrage. J’ai dans l’idée que ce voile pudique n’a pas seulement pour objet de rendre plus complexe le contournement de ces sécurités, mais qu’il évite surtout aux entreprises du numérique d’être attaquées de toutes parts pour obliger ou empêcher tel ou tel comportement. D’aucuns les trouveraient trop complaisants ou trop restrictifs. Comme toujours, l’informatisation d’un process implique son objectivation : on ne peut s’en remettre au cas par cas ; c’est 0 ou 1. Et pour obtenir un consensus sur le paramétrage, il nous faudrait nous mettre d’accord sur les valeurs qui le sous-tendent. Nous en sommes loin et, faute d’accord, les entreprises parent de leur côté au plus pressé. Une situation peu satisfaisante, que nous ne pourrons changer qu’au prix d’un large débat de société. Nous obliger à nous mettre d’accord sur la teneur de notre langage, ce sera finalement peut-être cela, le plus grand apport de la machine qui parle. Eric Salobir
Fr. Eric Salobir, OP
Président du comité exécutif de la Human Technology Foundation
Fondateur d’OPTIC
Eric Salobir est frère dominicain et le président du comité exécutif de la Human Technology Foundation ainsi que le fondateur d’OPTIC, réseau international de recherche et d’action plaçant l’humain au cœur du développement des technologies. OPTIC rassemble plusieurs milliers de chercheurs, d’entrepreneurs et de développeurs de technologies.
