Jeudi, j’ai rapporté la première confirmation que le Département américain de la Sécurité intérieure, qui héberge les agences d’immigration, utilise des générateurs vidéo IA de Google et Adobe pour créer du contenu qu’il partage avec le public. La nouvelle survient alors que les agences d’immigration ont inondé les réseaux sociaux de contenus pour soutenir le programme d’expulsions massives du président Trump, dont certains semblent être réalisés avec l’IA (comme un vidéo sur « Noël après les déportations massives »).
Mais j’ai reçu deux types de réactions de lecteurs qui peuvent tout autant expliquer la crise épistémique dans laquelle nous nous trouvons.
L’une venait de personnes qui n’étaient pas surprises, car le 22 janvier, la Maison Blanche avait publié un modifié numériquement photo d’une femme arrêtée lors d’une manifestation de l’ICE, qui la faisait paraître hystérique et en larmes. Kaelan Dorr, directrice adjointe des communications de la Maison Blanche, n’a pas répondu aux questions sur la question de savoir si la Maison Blanche avait modifié la photo, mais a écrit« Les mèmes continueront. »
La seconde provenait de lecteurs qui ne voyaient pas l’intérêt de rapporter que le DHS utilisait l’IA pour éditer du contenu partagé avec le public, car les médias faisaient apparemment de même. Ils ont souligné le fait que le réseau d’information MS Now (anciennement MSNBC) a partagé une image d’Alex Pretti qui a été modifiée par l’IA et qui semble le rendre plus beau, un fait qui a conduit à de nombreux clips viraux cette semaine, dont un du podcast de Joe Rogan. Autrement dit, combattre le feu par le feu ? Un porte-parole de MS Now dit à Snopes que le média a diffusé l’image sans savoir qu’elle avait été modifiée.
Il n’y a aucune raison de regrouper ces deux cas de contenu altéré dans la même catégorie, ou de les lire comme la preuve que la vérité n’a plus d’importance. L’une impliquait que le gouvernement américain partageait une photo clairement modifiée avec le public et refusait de répondre si elle avait été intentionnellement manipulée ; l’autre impliquait un média diffusant une photo j’aurais dû savoir a été modifié mais prend certaines mesures pour révéler l’erreur.
Ce que ces réactions révèlent au contraire, c’est une faille dans la façon dont nous nous préparions collectivement à ce moment. Les avertissements concernant la crise de la vérité sur l’IA tournaient autour d’une thèse centrale : ne pas être capable de dire ce qui est réel nous détruirait, nous avons donc besoin d’outils pour vérifier la vérité de manière indépendante. Mes deux sombres conclusions sont que ces outils échouent et que, même si la vérification de la vérité reste essentielle, elle n’est plus capable à elle seule de produire la confiance sociétale qui nous a été promise.
