Qui est le « Alexis Le Trotteur » de l’intelligence artificielle ?

Lu dans le journal Le Devoir ce matin, cet article sur le centième anniversaire de la mort du mythique personnage folklorique québécois Alexis Lapointe dit Alexis le Trotteur. Voici l’extrait qui a attiré mon attention :

Société d’histoire du Lac-Saint-Jean, Public Domaine public, via Wikimedia Commons

« Figure légendaire québécoise, il évoque la résistance de l’humanité contre la mécanisation (…) Au début du XX^e siècle, une lutte contre la modernité se joue. « La machine remplaçait la force humaine plus que jamais. Le fait de s’identifier à un homme qui avait les caractéristiques d’un cheval, c’était dire que, quoi qu’il arrive, l’être humain ne se laisserait jamais dépasser. »

Comme on peut le lire, les changements technologiques font des vagues depuis fort longtemps. Depuis quelques années, c’est le domaine de l’intelligence artificielle qui symbolise cette plus récente déferlante. Dans ce contexte, je me demande bien qui (ou quoi) pourrait symboliser « la résistance de l’humanité » face au phénomène ? Les penseurs en éthique ? Les gouvernements ? Les autrices et auteurs de science-fiction ?

En passant, je n’aime pas quand les journalistes associent directement « modernité » et « avancées technologiques » . Ça ne va pas toujours de pair.

Ursula K. Le Guin : « Any human power can be resisted and changed by human beings »

Découvert cette semaine, grâce à cette balado de France Culture, le magnifique discours de la romancière Ursula K. Le Guin au National Book Awards en novembre 2014.

Hard times are coming, when we’ll be wanting the voices of writers who can see alternatives to how we live now, can see through our fear-stricken society and its obsessive technologies to other ways of being, and even imagine real grounds for hope. We’ll need writers who can remember freedom – poets, visionaries – realists of a larger reality.

Right now, we need writers who know the difference between production of a market commodity and the practice of an art. Developing written material to suit sales strategies in order to maximise corporate profit and advertising revenue is not the same thing as responsible book publishing or authorship.

Yet I see sales departments given control over editorial. I see my own publishers, in a silly panic of ignorance and greed, charging public libraries for an e-book six or seven times more than they charge customers. We just saw a profiteer try to punish a publisher for disobedience, and writers threatened by corporate fatwa. And I see a lot of us, the producers, who write the books and make the books, accepting this – letting commodity profiteers sell us like deodorant, and tell us what to publish, what to write.

Books aren’t just commodities; the profit motive is often in conflict with the aims of art. We live in capitalism, its power seems inescapable – but then, so did the divine right of kings. Any human power can be resisted and changed by human beings. Resistance and change often begin in art. Very often in our art, the art of words.

Vous trouverez le texte complet du discours sur le site du journal The Guardian et la version vidéo sur YouTube.

Barbara Cassin : « J’ai la nostalgie de cet hier où je pouvais croire que ce serait mieux demain »

Je reviens à ces réflexions sur la nostalgie de la philosophe Barbara Cassin dans Le Monde de la semaine dernière et dont je traitais dans mon plus récent billet.

Elle écrit :

Hier, on pouvait encore croire à demain. Et c’est de cela, précisément, que j’ai aujourd’hui la nostalgie. L’avenir hier, l’avenir d’hier, on croyait, je croyais, que ce serait mieux, que ça ne pourrait être que mieux, plus libre, plus intelligent, plus partageable que l’aujourd’hui d’hier. On croyait peut-être au progrès, par exemple celui de la science, des arts, de la sagesse, de l’humanité. 

Elle ajoute aussi pour que nous comprenions mieux ce qu’elle exprime : « [Cette nostalgie] n’a pas grand-chose à voir avec la nostalgie de tous ceux qui pensent que c’était mieux avant.  »

À ma petite échelle individuelle, je comprend ce que Barbara Cassin exprime. Professionnel du monde technologique, baignant dans cette lumière depuis mon adolescence, j’ai longtemps cru bien naïvement que l’informatique et le Web amènerait énormément de progrès dans nos sociétés (démocratie, fraternité, équité, etc.). L’émergence des barons du Web, tels que Zuckerberg ou Musk, nous a bien montré que la technologie n’était qu’un outil et que derrière la science, il y a des humains qui choisissent d’avoir un impact positif ou négatif sur la société. Au cours des dix dernières années, j’ai dû vivre un deuil de cette image d’Épinal. Mon refuge est alors devenu la philosophie pour mieux comprendre l’humain derrière (d’où l’émergence de ce blogue il y a quelques années).

Mais revenons au propos exprimé par Barbara Cassin. Il me semble qu’il s’agit ici d’une nostalgie liée à une perte de repères, presque une perte d’espoir, directement liée à l’incertitude qui nous entoure et qui floute nos boules de cristal. C’est souvent le cas dans les périodes charnières de l’histoire.

Cet état d’esprit me donne envie de citer les cahiers de prison du philosophe Antonio Gramsci. Il écrivait au début des années 30, période trouble s’il en est une : « La crise consiste justement dans le fait que l’ancien meurt et que le nouveau ne peut pas naître : pendant cet interrègne on observe les phénomènes morbides les plus variés »  mais il ajoutait aussi « Je suis pessimiste avec l’intelligence, mais optimiste par la volonté ». Ne pas baisser les bras.

Face à un futur incertain, on peut aussi se motiver en réfléchissant à la dialectique de Hegel (pour Hegel, c’est le conflit qui fait avancer le monde, voir mon billet de février 2020) ou on peut citer le Dr. Martin Luther King : « the arc of the moral universe is long, but it bends toward justice. » et avoir confiance en l’évolution humaine.

On peut aussi réfléchir comme le philosophe Charles Pépin dans cette intervention en 2020 sur l’espoir : « Espérer revenant à se projeter vers un avenir plus souriant que le présent, on pourrait craindre que la fin d’une telle projection empêche de vivre. Pourtant, ne plus espérer peut aussi signifier que nous pouvons consentir à notre présent, même imparfait, que nous sommes capables de ce « grand oui à la vie » dont parle Nietzsche. Dire oui à la vie, c’est dire oui au bon comme au mauvais, au bien comme au mal, à nos réussites comme à nos fiascos : c’est dire oui au présent, et c’est peut-être cela, « vraiment vivre ». »

Être chez soi parce qu’on est accueilli

Un peu en lien avec mon billet du 8 octobre dernier sur la poétique de l’espace et la joie d’habiter, la philosophe Barbara Cassin dans cet article du journal Le Monde réfléchit au volet « espace » de la nostalgie en nous expliquant qu’ « on veut revenir là où on était, où on est né, où on a fait sa vie, où on a été heureux. »

Photo par tomislav medak — CC BY-SA 2.0

Elle ajoute :

Quand donc est-on chez soi ? J’avais réfléchi, il y a maintenant dix ans, à partir de trois destins emboîtés. Ulysse, le « revenable », avec son lit conjugal creusé dans le fût d’un olivier encore enraciné ; mais il repart aussitôt pour un extrême ailleurs – là où l’on connaît si peu la mer qu’on prendra la rame qu’il porte sur son épaule pour une pelle à grains –, avant de pouvoir rentrer pour de bon vivre entre les siens le reste de son âge. Enée, l’exilé sans retour, qui abandonne, non seulement l’espoir de construire une nouvelle Troie, mais jusqu’à sa langue pour pouvoir fonder en ­latin ce qui deviendra Rome. Et Hannah Arendt, la naturalisée américaine, qui n’appartient à aucun peuple, mais n’est vraiment chez elle que dans sa langue, l’allemand plutôt que l’Allemagne, dans la chancelante équivocité du monde. Serait-on ainsi chez soi, non parce qu’on a là ses racines, mais parce qu’on est accueilli ?

Être accueilli. Cette formule mérite réflexion et pas uniquement au premier degré. Oui, on peut penser aux expatriés, au migrants volontaires ou non, qui arrivent dans un nouveau pays et que l’on doit accueillir avec le plus de bienveillance possible. Mais, dans un vingt-et-unième siècle soit-disant moderne qui, malgré toutes les avancées sociétales, tolère souvent mal la singularité, des citoyennes et citoyens ne se sentent pas tout à fait « accueillis » chez eux, parce qu’ils et elles sont perçus comme étant « différents ». Chacun, chacune, sans clivage, mérite d’être « accueilli » dans sa propre contrée.

Instavidéastes PNJ : un simulacre de simulation

Lu dans le New York Times ce weekend, cet article à propos du phénomène d’internautes imitant des personnages non-joueur (PNJ) de jeux vidéo dans des vidéos TikTok.

Extrait :

As our screen-filled world seems more like a video game, and sophisticated video games seem more like real life, social media savants have found success with content that deliberately confuses the two. Over the summer, the mainstream internet was both thrilled and flummoxed to discover NPC streamers, creators who earn very real money by repeating the formulaic phrases uttered by video games’ “non-player characters,” or NPCs.

But while NPC streaming highlights games’ unnatural speech, dancers are particularly adept at moving like a machine’s version of a human. That helps creators like Shema and his brothers — and the Polish dancers Nicole Hoff and Oskar Szymkowski, who create videos in which they move through the world as NPCs — capture more of what makes video games distinctive, weird and funny. NPC streaming content tends to provoke befuddlement among non-gamers. 

Je trouve fascinant ce phénomène d’imitation du monde virtuel (vous pouvez en lire plus ici). On y voit d’abord l’impact du numérique dans la culture globale. De la même façon que le jeu de table Dungeons & Dragons a influencé les jeux vidéos à leurs débuts, ceux-ci sont devenus une sphère culturelle incontournable qui influence à son tour les autres écosystèmes culturels (cinémas, vidéos, etc.)

Deux philosophes peuvent aussi nous aider à mieux le comprendre. D’abord, nous sommes en plein dans le « simulacre de simulation », un des trois ordres de simulacre prédit en 1981 par le philosophe Jean Baudrillard dans son livre « Simulacres et simulations » (p.177). Quant à l’hyperréalisme des jeux vidéos, Baudrillard nous le prédisait dans le même livre : « Ainsi partout l’hyperréalisme de la simulation se traduit par l’hallucinante ressemble du réel à lui-même » (p.41).

Dans un même ordre d’idée, Guy Debord dans La société du spectacle écrivait que « le spectacle n’est pas seulement le serviteur du pseudo-usage, il est déjà en lui-même le pseudo-usage de la vie » (p.45).

« La poétique de l’espace » de Gaston Bachelard

Je termine la lecture du livre « La poétique de l’espace » du philosophe Français Gaston Bachelard [1884-1962]. J’ai été attiré par le livre à cause de sa proposition d’analyse de la dimension imaginaire de la « joie d’habiter », « l’étude de l’intimité heureuse », sujet qui me touche particulièrement. En effet, pour moi, la maison (passée et présente) revêt une importance clé dans mon édifice personnel (oui, j’ose la blague).

Une belle découverte : Bachelard utilise la poésie et les poètes dans son approche philosophique, ce qui me permet de découvrir plusieurs d’entres eux pour la première fois.

Une des thèses explorées, c’est que « la maison est comme un instrument d’analyse pour l’âme humaine ». Bachelard écrit : « À travers les souvenirs de toutes les maisons où nous avons trouvé abri, par-delà toutes les maisons que nous avons rêvé habiter, peut-on dégager une essence intime et concrète qui soit une justification singulière de toutes nos images d’intimité protégée ? »

Quelques pistes évoquées :

« Nous nous réconfortons en revivant des souvenirs de protection »

« Les souvenirs du monde extérieur n’auront jamais la même tonalité que les souvenirs de la maison »

Bachelard explique que nos maisons à jamais perdues vivent en nous et qu’une « sorte de remords de ne pas avoir vécu assez profondément dans la vieille maison vient à l’âme, monte du passé, nous submerge ». Il cite Rainer Maria Rilke :

Ô nostalgie des lieux qui n’étaient point
assez aimés à l’heure passagère,
que je voudrais leur rendre de loin
le geste oublié, l’action supplémentaire !

Il cite aussi Henry David Thoreau : « Devant toutes les maisons solitaires que je rencontre dans la campagne, je me dis que je pourrais, satisfait, passer là ma vie, car je les vois, à leur avantage, sans inconvénients. Je n’y ai pas encore apporté mes ennuyeuses pensées et mes prosaïques habitudes et ainsi je n’ai pas gâté le paysage. »

Au-delà de la maison, Bachelard explore les tiroirs, les coffres et les armoires (« il y aura toujours plus de choses dans un coffre fermé que dans un coffret ouvert »), le nid (« découvrir un nid nous renvoie à notre enfance, à des enfances que nous aurions dû avoir »), la coquille, les coins (« le coin est un refuge qui nous assure une première valeur de l’être: l’immobilité ») et la miniature (« la miniature est un des gîtes de la grandeur »).

Bref, plusieurs sujets intéressants, quelques pistes de réflexions géniales, mais Bachelard reste assez impénétrable dans ses réflexions.

Comment « Understanding Comics » de Scott McCloud m’aide à décoder le phénomène ChatGPT

OpenAI a récemment lancé ChatGPT, un agent conversationnel spécialisé dans le dialogue qui utilise les plus récentes techniques d’intelligence artificielle. Depuis son lancement il y un mois, toute la sphère technologique (et même plus) est survoltée. En effet, les réponses de cet agent sont « remarquablement détaillés » et « semblables à ceux d’un être humain » selon les extraits d’analyses que l’on retrouvent sur Wikipedia. Par contre, plusieurs personnes ont déjà remarqué que les réponses ne sont pas toujours exactes et factuelles. Toujours est-il que ça n’empêche pas plusieurs utilisateurs/trices d’être en émoi face à ce nouvel outil, y projetant espoir et peur à la fois. Il est vrai que l’outil est fort impressionnant technologiquement et que celui-ci nous permet d’imaginer un certain futur de la recherche d’information, mais je trouve que la réaction face à lui est somme toute démesurée. C’est souvent le cas dans le domaine de l’intelligence artificielle. On cherche l’humain là où il n’y en a pas.

Une lecture récente du fabuleux « Understanding Comics » de Scott McCloud m’a donné une piste de réflexion. Expliquant les rouages de la bande dessinée, McCloud mentionne qu’on se voit soi-même quand on regarde des versions caricaturale (« cartoons » en anglais) de personnages. Il écrit : « we just don’t observe the cartoon, we become it » (voir l’extrait ci-dessous). Je pense que les humains ont le même ressenti face à ChatGPT et autres outils du même genre. Pour la première fois, on se retrouve devant un agent conversationnel qui nous ressemble, mais c’est une version caricaturale d’un être humain. On y met donc ce qu’on veut.

Extrait de « Understanding Comics » de Scott McCloud.

Habermas : « le numérique fragmente les opinions publiques nationales au point que les citoyens ne se confrontent plus autour des mêmes sujets »

Source : Wikipedia CC-BY-SA-3.0.

Le plus récent numéro du magazine Philosophie nous propose un entretien avec le grand philosophe allemand Jürgen Habermas. À 92 ans, Habermas demeure encore une source précieuse pour éclairer nos réflexions. Tout l’entretien vaut la peine d’être lu, mais une question (et la réponse d’Habermas) a particulièrement retenu mon attention :

Q: Votre Théorie de l’agir communicationnel [1981] promeut l’idéal d’un débat rationnel ouvert entre toutes les citoyennes et tous les citoyens. Les conditions d’un dialogue apaisé sont-elles encore réunies ?

A: Avec votre question, vous touchez un thème de fond – le risque que les réseaux sociaux délitent l’organisation même du débat politique et que la communication publique ne soit plus le lieu où s’établit la distinction entre le « vrai » et le « faux ». En effet, le débat public devrait être structuré de telle sorte que des opinions concurrentes soient exprimées sur des questions identifiées par tous les camps comme pertinentes et partagées. Les plateformes numériques encouragent cependant la formation d’une quantité d’îles de communication tournant sur elles-mêmes et tendant à séparer les participants des flux d’informations qui ont fait l’objet d’une vérification rédactionnelle. De ce fait, le numérique fragmente les opinions publiques nationales au point que les citoyens ne se confrontent plus autour des mêmes sujets et, dans les cas extrêmes, ne vivent même plus dans le même monde politique.

Le « regret du futur » et « l’espoir du passé »

Depuis quelques semaines, je suis dans la lecture de « L’irréversible et la nostalgie » du philosophe français Vladimir Jankélévitch [1903-1985]. Publié une première fois en 1974, le livre explore l’impact philosophique de l’irréversibilité du temps sur la vie humaine.

À la page 176, on y retrouve le passage suivant :

Seuls des monstres comme le « regret du futur » et « l’espoir du passé » (…) marcheraient à reculons, ou la tête en bas; la vraie conscience à l’endroit est celle qui espère le futur et regrette le passé, et qui est, sans chiasme, orientée des deux côtés dans son sens naturel.

Dans le contexte de l’irréversibilité du temps, il est d’une logique philosophique imparable que nous ne pouvons espérer le passé (déjà vécu et donc « mort ») ou regretter le futur (pas vécu encore). Mais ne semble-t-il pas dans l’air du temps chez certains de nos concitoyen.nes de regretter le passé (et qui, peut-être, « espèrent » y retourner). Ne ressentons-nous pas aussi le contrecoup, le ressac, de la numérisation intensive du monde au cours des quarante dernières années, numérisation ayant mené à de grands changements de société ? Une frange de la population en viendrait peut-être à « regretter » ce futur qui laisse plein de gens derrière, en peine ? Cette dichotomie vaut la peine d’être approfondie.

Laurence Devillers : « l’urgence ne doit pas devenir pour [les géants du web] l’occasion de prendre un trop grand pouvoir »

Sortie cette semaine du court essai « La souveraineté numérique dans l’après-crise » de Laurence Devillers, spécialiste en intelligence artificielle et éthique, professeure à La Sorbonne. Publié dans la série « Et après ? » des Éditions de l’Observatoire, le livre nous invite à réfléchir sur la mainmise des technologies américaines dans le contexte de la crise vécue cette année et lance un cri d’alarme.

En début de lecture, Laurence Devillers remarque que la crise sanitaire « a fait exploser l’utilisation du numérique dans tous les domaines ». Elle nous explique ensuite que c’est un secteur clé de pouvoir, « car celui qui maîtrise l’information et la technologie dépasse ses concurrents » et cela touche tous les secteurs de la société civile. Cela devient donc un enjeu de souveraineté nationale car ce sont les géants technologiques états-uniens (les GAFAM) et chinois (les BATX) qui contrôlent la donne. Elle craint que si tous « les opérateurs qui exploitent nos données (…) sont situés sur le sol américain », il y aura « de réelles conséquences sur nos libertés ».

Elle souligne évidemment les bénéfices de l’utilisation des technologies dans le secteur de la santé, mais elle propose quelques exemples de perte de souveraineté numérique liée à l’urgence et à la nouveauté de la situation, dont notamment la vidéoconférence, les applications de traçage, les enceintes connectées, la sélection de la solution d’infonuagique de Microsoft pour les données de santé française, etc.. Elle écrit que « l’urgence ne doit pas devenir pour [les géants du web] l’occasion de prendre un trop grand pouvoir » et elle signale qu’ « il est temps de nous désintoxiquer ou de négocier plus clairement avec les géants du net ».

Elle pense que ces décisions de travailler dans l’urgence avec les grands joueurs américains vient du fait qu’il y a «une absence de stratégie souveraine de nos gouvernements » dans les domaines essentiels de la société. Son cri d’alarme est sans équivoque : « les géants du numérique sont en train de nous aliéner, prenants nos marchés et nos données. Nous devenons de plus en plus dépendants d’eux. »

Elle propose une sortie de crise avec une vision nouvelle du numérique :

Le monde de demain doit remettre la science et les humanités au coeur de la Cité. Avec un double effort à faire : à la fois pédagogique, pour expliquer l’intérêt et l’utilité des technologies, et de transparence, en créant des outils numérique « éthique by design », qui favorisent leur compréhension, et en vérifiant leurs usages dans le temps, respectant nos droits et libertés.

Bref, un livre qui résume bien les enjeux numérique qui turlupinent plusieurs experts du numérique, mais dans sa finalité s’avère trop court et sans pistes de solution précises vraiment exploitables.