Des octogénaires dépouillés par la racaille, la réalité dégénérée par l’IA
Les images frappantes d’un couple d’octogénaires attaqué et dépouillé par des manifestants d’ultra-gauche et des racailles ont parcouru les réseaux sociaux. Cette situation de non-droit est hallucinante: quand va-t-on enfin encadrer la désinformation et les deep fakes ?
Mon accroche un peu provocatrice passée, cet exemple parmi bien d’autres rappelle combien la frontière entre le réel et l’artificiel se brouille et avec elle notre capacité de recul et de compréhension des enjeux politiques.
Manipulation des images: usage millénaire
La distorsion du réel par la manipulation des images n’est en rien nouvelle.
Le premier exemple qui me soit venu à l’esprit était la damnatio memoriae, méthode par laquelle, afin de reléguer à l’oubli absolu un individu, on efface toute trace de son existence, par la destruction des écrits, mais aussi de ses représentations picturales, sculpturales. Une vidéo de Charlie Danger donne plusieurs exemples de la pratique, notamment celui de Hatchepsout, reine pharaon de la 18e dynastie effacée de l’histoire pour être remplacée par le nom de son père et de son frère. (La Pire Condamnation de l'Histoire - RDM #24 )
S’il n’y a pas destruction, il y a au moins distorsion jusqu’à presque méconnaître l’image tant elle est poussée à la… Caricature. Bien que le terme et sa forme contemporaine soient liés aux frères Caracci, la caricature sévissait déjà à l’antiquité. D’une statuette qui raillait l’empereur Carcalla au graffiti d’Alexamenos qui se moque d'une étrange secte juive avec un dieu à la tête d’âne sacrifié sur une croix, la pratique est depuis longtemps politique et satirique. (France Info)
Avant d’aborder le sujet épineux de l’IA, je voulais mentionner un ensemble technologique moderne a été selon moi un premier pas vers le brouillage du réel à travers la technique: le montage et le collage photographique. L’usage du photomontage par les régimes autoritaires, notamment par Staline, est révélateur de la capacité d’illustrer des faits et d’en modifier leur substance selon le besoin idéologique et la nécessité de contrôler les récits politiques. Frisant la damnatio memoriae, ainsi disparurent d’une photo avec Joseph Staline Nikolaï Antipov, Nikolaï Chvernik et enfin Serguei Kirov, chacun tombé dans la disgrâce du dictateur.
Une vulgarisation de la manipulation
La nature ambivalente de l’IA réside dans sa vulgarisation, son accessibilité au plus grand nombre. Lorsqu’il fallait un bon coup de crayon, de burin, de ciseau pour du découpage-collage, une expertise dans un logiciel de montage, il suffit maintenant d’une simple commande vocale ou d’un clavier pour générer ce que de nombreux activistes et politiques ont créé ou fait créer en plusieurs heures, jours, voire années.
Au-delà de ce rapt des compétences et des œuvres de nos aînés, l’IA dépasse la capacité de brouiller les frontières du réel de la photographie, de ses montages, de ses collages. Il n’est même plus question d’angle de vue, de lumière, puisque tout est façonné, généré par le biais d’une machine entraînée sur une large quantité de données. Or aussi inhumaine qu’elle semble être, cette intelligence reste une création anthropologique avec nos propres biais. Des biais couplés avec une capacité à gérer une masse d’informations inégalée à une vitesse inégalée.
Aujourd’hui, on estime que 9,6% des nouvelles pages webs créées ont des traces prononcées d’usage d’IA rédactionnelle (How Much of the Internet Is Written With AI? | Pew Research Center ) et que désormais l’IA est utilisée dans près de 50% des articles publiés sur internet. (Human vs. AI Content - Google Sheets ). Les données sur le nombre de visuels générés par IA sont insuffisantes et ne permettent pas de connaître la part de ces visuels présents sur la toile. L’IA puise maintenant dans ses propres contenus alors que notre capacité à alimenter internet ne fait plus le poids.
Dégénérer les frontières du réel
Le format de l’image est un des médiums les plus puissants de communication, capable de déclencher davantage d’émotions dans un laps de temps plus court qu’un format textuel. En une fraction de seconde, les images non seulement émeuvent mais aussi restent, se mémorisent plus facilement. (The causal effect of mental imagery on emotion assessed using picture-word cues - PubMed ).
Avec un recul moins scientifique mais quasi philosophique, l’idée d’un homo esthéticus de Michel Maffesoli me plaît. En effet, par esthésis, la sensation, il y décrit le fait que notre société fonctionne aujourd’hui essentiellement sur des émotions partagées. Et par cela, je pense que notre mode de communication, essentiellement visuel, laisse davantage place au pathos qu’au logos. Plusieurs études montrent que notre attention est accrue face à des images, et que nous serions plus à même de les partager qu’un contenu verbal et textuel. Misinformed by images: How images influence perceptions of truth and what can be done about it - ScienceDirect
Suite à la démocratisation des téléphones portables et de leur appareil photo numérique, Carole Anne Rivière, psychanalyste et psychologue clinicienne, parle des photographies comme “un langage hyper-réel”, une façon de s’inscrire dans le monde et la société. Des propos étayés notamment par ceux de Bourdieu dans sa vision des photographies dont leur “qualité de reproduction du réel témoignent et expriment la vérité du souvenir”. Si l’image suffit, marque, les mots ne semblent plus nécessaires, et permettent de revenir selon C.A.Rivière à des “systèmes les plus archaïques de communication où l’on montre et où l’on ne parle plus.” ( Téléphone mobile et photographie : les nouvelles formes de sociabilités visuelles au quotidien | Cairn.info )
La photographie est ainsi un argument d’autorité du réel, confirmé par des études scientifiques, qui montrent que même une image décorative permet d’augmenter le sentiment de véracité des propos qui lui sont rattachés. L’usage délibéré d’une photographie à l’opposé des faits relatés dans le texte influence le lectorat vers le positionnement de l’image. ( Misinformed by images: How images influence perceptions of truth and what can be done about it - ScienceDirect )
Or, à l’aube de l’hyper-réalisme des photos IA, la construction de l’image n’engage plus le souvenir, ni le factuel passé. C’est un construit total, contrôlé par l’émetteur de l’image, sans les brides du réel. Aucun angle à prendre, de rognage, ni de maîtrise de logiciels de photomontage: le prompt suffit.
Roland Barthes disait sur les sociétés avancées qu’elles “consomment aujourd’hui des images et non plus des croyances”. L’IA est dans la capacité de générer les deux.
Cas d’étude 1: des octogénaires victimes de “monstres” qu’on ne nommera jamais
L’image d’un couple d’octogénaires dénudé lors des manifestations a fait le tour des réseaux sociaux et des comptes influenceurs d’extrême droite tels que Alice Cordier militante à la tête d’un groupe pseudo-féministe, Némésis, qui attribue les violences sexistes et sexuelles aux immigrés.
Dans une vidéo additionnelle à son tweet, la militante énonce des propos graves dans leurs sous-entendus et leur nature complotiste:
“les émeutiers ont dépouillé un couple de 80 ans [...] Qui sont ces monstres ? Moi je sais … Je…Je veux pas le dire comme ça mais… On se sait… Je n’ai pas les mots… Ces gens n’ont pas d’âme [...] On n’est pas prêts à cette décivilisation”.
Aucune source, aucune analyse, l’image doit se suffire à elle même pour refléter la réalité de son agenda politique raciste et xénophobe sans l’expliciter, on montre et on ne parle plus. On laisse flotter les sous-entendus, signaux faibles pour des personnes en mal de complots et de haine.
Salhia Brakhlia, journaliste et chroniqueuse à Quotidien relate les faits: le ministère de l’intérieur confirme la génération par IA, BFM TV se rétracte et CNEWS marche sur des œufs tout en laissant ses invités commenter l’image. France info réagit rapidement, en l'espace de quelques heures pour debunker l’image qu’ils ont eux aussi partagé. (La minute nécessaire - Agression artificielle : 6 millions de vues pour un couple qui... n’existe pas ? - Quotidien | TF1+ / AFP)
Mais aucun mea culpa n’est à signaler dans le poste de l’influenceuse de près de 132 700 followers sur X et 250 000 sur instagram. Jamais il ne faudrait contredire cette vérité générée.
Avoir raison réside dans l’image plus que dans le texte, même si cette dernière affiche un homme sans jambes, une femme à 4 doigts et un potelet qui n’existe pas à Paris. La présence médiatique avant tout: plus de 6 millions de visionnage sur le réseau social X.
Cas d’étude 2: une panthère rose qui ternit les revendications
Un autre phénomène plus coloré et cocasse apparaît en parallèle: une certaine panthère rose aurait été aperçue, bravant les forces de l’ordre. Christophe Payet, journaliste et essayiste, explore ce sujet et les risques politiques de ces images générées par IA dans un article de Libération : La panthère rose en manif, du «slop» qui invisibilise la violence intrinsèque du réel – Libération . Il y décrit, comment un “artiste” (permettez ces guillemets), a généré à partir d’images de Paris, de manifestations au Kenya ces visuels, qui ont rapidement été viraux, détournés, montés en vidéos comme symbole pop culturel descendant direct de personnages des Misérables.
Teintées d’humour, des références pop culturelles factuelles et réelles sont à mentionner, entre fanfare entonnant des airs de Star Wars, Sandrine Rousseau en compagnie de spiderman ou encore captain america tentant de résister aux canons à eau avec un bouclier relativement vétuste. La panthère est donc un énième symbole mais ce dernier n’existe pas, et n’est en rien l’héritage et le descendant des revendications. Nous voilà ainsi face à un ersatz de réalité, que le journaliste dénonce comme le résultat d’une vision normée.
J’apprécie le rappel des archives dont Christophe Payet fait part : l’IA générative est un effacement des témoins et témoignages de l’Histoire. Elle brouille le réel et en aseptise les revendications. Le seul levier pour en faire un témoin de l’Histoire ? L’apparition de ce personnage dans les prochaines manifestations, exception faite, idéalement et pour la sécurité de celui ou celle sous le costume, du geste injurieux qui est un “outrage à agent”.
Dégénérer par exacerbation et aseptisation: place à un monde vidé de nuances ?
Les photographies générées par IA brouillent donc le réel et ne laissent plus assez de place aux mots, aux réflexions. Nous sommes dans une inflation du bruit médiatique, à une échelle inégalée par la vitesse et la masse de données que la technologie permet.
L’IA est capable d’essentialiser, à outrance et jusqu’à la caricature, des faits, des peurs. Et dans un extrême inverse, elle vide de sons sens et de son essence des causes et le réel.
Derrière l’humour ou la violence de ces images générées se terre un prompt issu d’un ou d’une internaute pensant avoir le contrôle sur une technologie aux données et algorithmes opaques.
La richesse des pensées et des œuvres humaines disponibles sur internet risque ainsi de se tarir au profit d’images factices qui alimenteront et renforceront les bulles informationnelles dans lesquelles nous sommes déjà enfermés.
La caricature du réel exacerbe donc le manichéisme, ne permet aucune nuance dans les propos, devenus muets face aux images devenues unique levier de vérité. On brouille les frontières et la confiance du réel. Le réel perd son potentiel aspirationnel pour un potentiel vide ou trop plein des horreurs fantasmées dont l’humanité est capable.
