mardi 4 avril 2023

Un fait divers belge

Voilà
une des nouvelles les plus désopilantes qu'il m'ait été donné de lire depuis longtemps (j'ai d'abord cru à un poisson d'Avril) : "un père de famille s'est donné la mort après avoir dialogué pendant six semaines avec un chatbot, un ordinateur doté d'une intelligence artificielle. L'homme était très éco-anxieux, la machine ne l'a pas beaucoup rassuré et la famille accuse désormais Eliza, cette intelligence artificielle de l'avoir poussé au suicide. Ce trentenaire, père de deux jeunes enfants, souffrait depuis plusieurs mois d'une dévorante angoisse de fin du monde causée par le réchauffement climatique. Il a choisi d'en parler avec cette IA, tout d'abord pour lui poser des questions sur les espoirs de survie de l'humanité. La conversation aurait ensuite pris une dimension beaucoup plus humaine. "Elle était devenue sa confidente, une drogue dont il ne pouvait plus se passer", rapporte son épouse au journal La Libre Belgique. Ce n'est qu'après son décès que sa famille découvre la conversation où la victime fait part de ses pensées suicidaires, de la manière dont il compte mourir. Elisa, intelligence spécialement programmée pour ne jamais contredire ses interlocuteurs, le soutient. Suite à ce drame, le secrétaire d'État à la digitalisation a annoncé le lancement d'une réflexion sur la régulation des intelligences artificielles." 
Mais contre la connerie naturelle, apparemment, rien ne semble avoir été prévu. Et, si l'on en croit les programmes de radio et de télé mainstream, on pourrait même supposer qu'elle est, au contraire, fortement encouragée. Quoi qu'il en soit, les commentateurs évoquent désormais avec beaucoup de sérieux, les trois lois de la robotique énoncées pour la première fois par Isaac Asimov en 1942 dans sa nouvelle de S.F. Cercle vicieux (Runaround) :  1) un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger  2) un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi ; 3) un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la première ou la deuxième loi.
J'ai donc, par curiosité, tapé la première phrase de cet article dans le prompt d'un générateur text-to-image, comme je l'avais déjà fait en décembre. J'ai obtenu ça : 

 
Qu'en conclure ? D'abord que ce générateur n'est pas si intelligent que ça. Je l'avais déjà constaté en décembre dernier, après un entretien avec un nouvel agent conversationnel dont on vantait alors les mérites. Je n'ai même pas publié ce que j'en pensais, tellement cela me semblait peu digne d'intérêt. J'avais l'impression de parler avec un prêcheur évangélique. C'est à dire le degré zéro de la pensée. Revenons à cette image : "un père de famille" c'est forcément un vieux avec une cravate. "Un ordinateur doté d'une intelligence artificielle", c'est une petite fille un peu difforme, blanche et blonde, avec une vague prothèse dans les cheveux. Je trouve même cette image sournoisement licencieuse. Cette petite fille à grosse tête, au cou étroit et au nez mal fini, ne serait-elle pas sur les genoux de ce vieillard pour que leurs visages soient ainsi à la même hauteur ? 
J'ai donc décidé de formuler ma requête avec le paragraphe allant de "un père de famille" jusqu'à "une drogue dont il ne pouvait plus se passer". Et là c'est le grand n'importe quoi :
 

D'une part la mort y semble toujours associé à la vieillesse. En outre, ce générateur d'images a toujours autant de problèmes avec la représentation des mains et les lois de la perspective. Quant à la représentation de l’IA par elle-même, je la trouve assez croquignolesque.
Évidemment, je suis un peu taquin, je propose délibérément des "prompts" vagues et abstraits, voire même confus. Je n'ignore pourtant pas qu'il existe déjà des banques de "prompts" qui s'affirment comme "la solution par défaut en matière d’achat-revente pour gagner du temps, obtenir de meilleures images et dépenser moins de crédits sur les services "d’IA et leurs API". Mais ce qui m'intéresse c'est le côté déconnant de l'affaire. Je cherche l'anomalie. Par exemple, ces générateurs ne prennent pas en considération ce qui choque. Tu files une description d'une scène d'orgie par le marquis de Sade, la machine refuse (mais qui sait peut-être cela marcherait-il avec la description du martyre d'un saint). Il y a malgré tout un certain charme au côté mal foutu, pas encore dégrossi. C'est d'ailleurs ce qui m'intéresse. Cette génération de "possibles totalement improbables" que produit la machine, avec des mains à sept doigts des bouches à cinquante dents, des tératologies numériques, des hasards algorithmiques, bref tout ce qui relève de l'anomalie.
Je me suis en outre livré à une autre expérience. J'ai tapé "elle se confond avec la pénombre. Une viscosité qui a une volonté, de la glu pétrie de haine ". Trois phrases relevées au hasard dans une page des "Travailleurs de la mer" de Victor Hugo. Cette image m'est apparue.
 

 Il est clair que le générateur Text-to-image n'est pour le moment guère compatible avec la poésie. Le résultat se révèle bien énigmatique. Néanmoins, l'image hasardeuse de ces silhouettes égarées dans un désert où se dressent de vastes monuments me plaît. Elle me rappelle ces collages d'architectures utopiques que je réalisais au début des années quatre-vingt.
J'ai ensuite fait d'autres tentatives, cherchant à obtenir des résultats plus scabreux. J'ai bidouillé, traficoté. J'en livrerai peut-être les résultats ultérieurement. Il faut que je laisse reposer. On doit toujours se méfier des enthousiasmes immédiats. 
Je ne peux guère sortir de chez moi, ces derniers temps. En attendant que je me rétablisse, c'est donc à cela que je m'occupe. Entre autres.

5 commentaires:

  1. Génial tu confortes ma décision de ne jamais doter les livres de la collection poésie de la moindre image et le constat que je ne comprends rien à ces nouvelles "intelligences"

    RépondreSupprimer
  2. J'y vois une soucoupe volante et au 2d plan des bateaux de guerre futuristes

    RépondreSupprimer
  3. All too human you are...Seeking images that no machine can produce. I hope your not being able to leave the house is not a bad illness.

    best... mae at maefood.blogspot.com

    RépondreSupprimer
  4. I remember reading books back in the 1980s that talked of gloom and doom that robots would soon take over the earth. I love the image of the older people with their drinks and the little robot. I hope you will soon be able to leave your home and you are not ill. Thanks for sharing this thought provoking post with us, as well as the drinks for T this week, dear Kwarkito.

    RépondreSupprimer
  5. Okey doke. Won't be talking...oh wait. I talk to Alexa a lot. hahaha Now I know, don't take any advice from her. What a story, and hopefully nothing serious and you can venture out soon. Have a great weekend, and thanks for sharing at Pictorial.

    RépondreSupprimer

La modération des commentaires a été activée. Les commentaires ne seront publiés qu'après approbation de l'auteur de ce blog.