Un fait divers belge

Voilà

une des nouvelles les plus désopilantes qu'il m'ait été donné de lire depuis longtemps (j'ai d'abord cru à un poisson d'Avril) : "un père de famille s'est donné la mort après avoir dialogué pendant six semaines avec un chatbot, un ordinateur doté d'une intelligence artificielle. L'homme était très éco-anxieux, la machine ne l'a pas beaucoup rassuré et la famille accuse désormais Eliza, cette intelligence artificielle de l'avoir poussé au suicide. Ce trentenaire, père de deux jeunes enfants, souffrait depuis plusieurs mois d'une dévorante angoisse de fin du monde causée par le réchauffement climatique. Il a choisi d'en parler avec cette IA, tout d'abord pour lui poser des questions sur les espoirs de survie de l'humanité. La conversation aurait ensuite pris une dimension beaucoup plus humaine. "Elle était devenue sa confidente, une drogue dont il ne pouvait plus se passer", rapporte son épouse au journal La Libre Belgique. Ce n'est qu'après son décès que sa famille découvre la conversation où la victime fait part de ses pensées suicidaires, de la manière dont il compte mourir. Elisa, intelligence spécialement programmée pour ne jamais contredire ses interlocuteurs, le soutient. Suite à ce drame, le secrétaire d'État à la digitalisation a annoncé le lancement d'une réflexion sur la régulation des intelligences artificielles." 

Mais contre la connerie naturelle, apparemment, rien ne semble avoir été prévu. Et, si l'on en croit les programmes de radio et de télé mainstream, on pourrait même supposer qu'elle est, au contraire, fortement encouragée. Quoi qu'il en soit, les commentateurs évoquent désormais avec beaucoup de sérieux, les trois lois de la robotique énoncées pour la première fois par Isaac Asimov en 1942 dans sa nouvelle de S.F. Cercle vicieux (Runaround) :  1) un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger  2) un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi ; 3) un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la première ou la deuxième loi.

J'ai donc, par curiosité, tapé la première phrase de cet article dans le prompt d'un générateur text-to-image, comme je l'avais déjà fait en décembre. J'ai obtenu ça : 

 

 

Qu'en conclure ? D'abord que ce générateur n'est pas si intelligent que ça. Je l'avais déjà constaté en décembre dernier, après un entretien avec un nouvel agent conversationnel dont on vantait alors les mérites. Je n'ai même pas publié ce que j'en pensais, tellement cela me semblait peu digne d'intérêt. J'avais l'impression de parler avec un prêcheur évangélique. C'est à dire le degré zéro de la pensée. Revenons à cette image : "un père de famille" c'est forcément un vieux avec une cravate. "Un ordinateur doté d'une intelligence artificielle", c'est une petite fille un peu difforme, blanche et blonde, avec une vague prothèse dans les cheveux. Je trouve même cette image sournoisement licencieuse. Cette petite fille à grosse tête, au cou étroit et au nez mal fini, ne serait-elle pas sur les genoux de ce vieillard pour que leurs visages soient ainsi à la même hauteur ? 

J'ai donc décidé de formuler ma requête avec le paragraphe allant de "un père de famille" jusqu'à "une drogue dont il ne pouvait plus se passer". Et là c'est le grand n'importe quoi :

 

D'une part la mort y semble toujours associé à la vieillesse. En outre, ce générateur d'images a toujours autant de problèmes avec la représentation des mains et les lois de la perspective. Quant à la représentation de l’IA par elle-même, je la trouve assez croquignolesque.

Évidemment, je suis un peu taquin, je propose délibérément des "prompts" vagues et abstraits, voire même confus. Je n'ignore pourtant pas qu'il existe déjà des banques de "prompts" qui s'affirment comme "la solution par défaut en matière d’achat-revente pour gagner du temps, obtenir de meilleures images et dépenser moins de crédits sur les services "d’IA et leurs API". Mais ce qui m'intéresse c'est le côté déconnant de l'affaire. Je cherche l'anomalie. Par exemple, ces générateurs ne prennent pas en considération ce qui choque. Tu files une description d'une scène d'orgie par le marquis de Sade, la machine refuse (mais qui sait peut-être cela marcherait-il avec la description du martyre d'un saint). Il y a malgré tout un certain charme au côté mal foutu, pas encore dégrossi. C'est d'ailleurs ce qui m'intéresse. Cette génération de "possibles totalement improbables" que produit la machine, avec des mains à sept doigts des bouches à cinquante dents, des tératologies numériques, des hasards algorithmiques, bref tout ce qui relève de l'anomalie.

Je me suis en outre livré à une autre expérience. J'ai tapé "elle se confond avec la pénombre. Une viscosité qui a une volonté, de la glu pétrie de haine ". Trois phrases relevées au hasard dans une page des "Travailleurs de la mer" de Victor Hugo. Cette image m'est apparue.

 

 Il est clair que le générateur Text-to-image n'est pour le moment guère compatible avec la poésie. Le résultat se révèle bien énigmatique. Néanmoins, l'image hasardeuse de ces silhouettes égarées dans un désert où se dressent de vastes monuments me plaît. Elle me rappelle ces collages d'architectures utopiques que je réalisais au début des années quatre-vingt.

J'ai ensuite fait d'autres tentatives, cherchant à obtenir des résultats plus scabreux. J'ai bidouillé, traficoté. J'en livrerai peut-être les résultats ultérieurement. Il faut que je laisse reposer. On doit toujours se méfier des enthousiasmes immédiats. 

Je ne peux guère sortir de chez moi, ces derniers temps. En attendant que je me rétablisse, c'est donc à cela que je m'occupe. Entre autres.

shared with pictorial tuesday - T stands for tuesday -