Le pape François a appelé à la vérité. Internet a répondu avec des deepfakes.

Le pape François, décédé lundi à l’âge de 88 ans, était un chroniqueur improbable de la situation mondiale face aux fausses informations en ligne.

François a souligné les méfaits sociétaux de la désinformation en 2018, faisant remonter l'origine des fausses nouvelles aux tactiques du serpent du jardin d'Eden qui ont conduit au péché originel.

Il n’existe pas de désinformation inoffensive ; au contraire, faire confiance au mensonge peut avoir des conséquences désastreuses, a-t-il écrit le 24 janvier 2018.  pour la Journée mondiale des communications . Même une légère déformation de la vérité peut avoir des effets dangereux.

François a applaudi la quête journalistique de la vérité et a appelé à enseigner aux gens comment discerner, évaluer et comprendre nos désirs et nos inclinations les plus profonds, de peur que nous perdions de vue ce qui est bon et ne cédions à toutes les tentations.

Son rôle principal dans les contenus fabriqués et manipulés au cours de la dernière décennie, depuis l'élection présidentielle de 2016 qui a popularisé le terme de fausses nouvelles jusqu'à l'image de la doudoune papale qui a lancé 1 million d'articles de réflexion sur l'intelligence artificielle générative, n'a pas été dit.

Le 21 octobre 2016, moins de trois semaines avant l'élection présidentielle américaine, un site Web appelé WTOE 5 News  a publié le titre Le pape François choque le monde en soutenant Donald Trump pour la déclaration du président.

La nouvelle contenait des traces suggérant un journalisme réputé – un nom et un site Web ressemblant à un média local, une déclaration du Vatican et la signature d’un journaliste – mais  rien de tout cela n'était réel . Le site a publié du contenu satirique qu'il a divulgué dans sa page À propos. Le faux contexte a disparu depuis longtemps à mesure que l’histoire et le titre faisaient le tour du Web.

La fausse histoire de soutien a suscité le plus d'engagement parmi toutes les histoires électorales, réelles ou fausses, sur Facebook au cours des trois derniers mois de l'élection de novembre 2016.  BuzzFeed News a rapporté .

Livre du Pape sur les fausses nouvelles devant la basilique Saint-Pierre à Rome, le mercredi 24 janvier 2018. (AP Photo/Andrew Medichini)

Un an plus tôt, un site Web intitulé National Report  répandre une fausse histoire  que Francis a approuvé la candidature démocrate du sénateur Bernie Sanders à la présidence. Le cycle des fausses nouvelles s’est répété avec des sites Web sommaires et des publications virales sur les réseaux sociaux déformant les propos de François.  opinions sur les armes à feu proclamant qu'il a dit à mange ce que tu veux pour Pâques et le tuer avec des canulars mortels  des années avant  il est mort.

En mars 2023  le moment d’incitation à la désinformation papale  était visuel : des photos de Francis sortant dans une doudoune blanche de style Balenciaga avec une calotte blanche assortie. Seuls les spectateurs studieux remarqueraient le signe révélateur d’une manipulation de l’intelligence artificielle dans les mains mutilées de l’image. Il a été réalisé avec un outil d'IA générative Midjourney et  posté sur Reddit avant de tromper beaucoup de gens.

De nombreux premiers utilisateurs d'outils d'IA générative visuelle ont choisi Francis comme muse, plaçant l'octogénaire dans des situations improbables mais réelles (conduire une moto pour assister à Burning Man) The New York Times  signalé . L’attrait de François était sa large reconnaissance après une décennie en tant que pape et son accessibilité combinée à l’avènement de programmes d’IA faciles à utiliser et facilement disponibles.

Les journalistes s’attendaient à couvrir en 2024 une élection IA dominée par des vidéos deepfake sophistiquées qui pourraient influencer les électeurs lors d’élections serrées. Ça ne s'est pas passé comme ça  nous avions peur parce que les fausses nouvelles électorales reposaient pour la plupart sur les mêmes vieilles astuces. Mais cela ne diminue en rien le pouvoir de la fausse photo du pape pour nous ouvrir les yeux sur ce qui pourrait arriver.

L'arrivée des fausses nouvelles en 2016 a marqué une nouvelle ère dans l'intégrité des informations sur Internet, incitant Facebook, désormais Meta, à faire appel à des vérificateurs de faits indépendants pour l'aider à identifier et à ralentir la portée des faux contenus. Le programme  auquel PolitiFact a participé du début à la fin  a mûri à mesure que de faux liens vers des sites Web ont explosé en faux messages, photos et vidéos, qui se sont ensuite transformés en contenu manipulé par l'IA.

Meta a mis fin au programme tiers de vérification des faits en 2025, en le remplaçant par un système de notes de la communauté qui s'appuie sur les soumissions volontaires des utilisateurs, calqué sur le programme développé par X. TikTok fait son possible.  propre version  bien qu’il utilise toujours également des vérificateurs de faits professionnels.

Dans son message de 2018, François a décrit la responsabilité des journalistes en tant qu’informateurs du monde entier pour promouvoir des reportages précis et fiables. Il a appelé chacun à promouvoir un journalisme de paix.

Plus que jamais, l’avenir de l’intégrité de l’information repose sur la recherche de la vérité par les citoyens ordinaires et la fourniture d’informations correctives sur la place publique.

Extrait du message de François :

Les meilleurs antidotes aux mensonges ne sont pas les stratégies mais les gens : des gens qui ne sont pas avides mais prêts à écouter des gens qui font l'effort d'engager un dialogue sincère pour que la vérité puisse émerger ; des gens attirés par le bien et qui assument la responsabilité de la façon dont ils utilisent le langage.

Cette vérification des faits était à l'origine publié par PolitiFact qui fait partie de l'Institut Poynter.