L’IA s’insinue dans tous les espaces de nos vies, mettent en garde les experts

Au début de la conversation communautaire de Poynter mardi soir, un visuel a été affiché pour le public qui a suscité des rires, de l'amusement et de la confusion. Voici Jésus-Christ sous l'eau. Ses yeux étaient fermés et sa couronne d'épines apparaissait derrière lui comme une auréole. Mais ses bras tendus n’étaient pas en réalité des bras. Ils avaient été transformés en crevettes aux yeux brillants. Son corps était également couvert de crustacés.

Ceci est désormais au cœur de l’expérience en ligne, a déclaré Alex Mahadevan, directeur de MediaWise et membre du corps professoral de Poynter. Il s'agit d'une image générée par l'IA qui a été créée pour recueillir une tonne d'engagement, ce qu'elle a fait. Ceci n’est qu’un exemple de « Jésus aux crevettes ».

Une image tirée d'une présentation de la conversation communautaire de Poynter, The Future of Facts Online. Les images de cette capture d'écran ont été générées par l'intelligence artificielle et ne reflètent pas la réalité. (Capture d'écran/Poynter)

Mahadevan, un expert en IA, a souligné que l'intelligence artificielle s'insinue dans tous les recoins de la vie en ligne, des recherches Google à nos flux de médias sociaux. Le problème qu’il a mis en garde est que les visuels générés par l’IA apparaissent également lors de catastrophes. Il a fait référence à l'image d'un enfant dans un bateau de sauvetage. La jeune fille portant un gilet de sauvetage orange – prétendument une jeune victime de l'ouragan Hélène – pleurait tout en tenant un chiot. Autour d’eux, il semblait y avoir d’importantes inondations.

Vous avez peut-être vu cette image de l'enfant qui pleure qui est devenue virale. Cela semble hyperréaliste, a déclaré Mahadevan. Il a été utilisé politiquement.

Une image tirée d'une présentation de la conversation communautaire de Poynter, The Future of Facts Online. Les images de cette capture d'écran ont été générées par l'intelligence artificielle et ne reflètent pas la réalité. (Capture d'écran/Poynter)

hopie carlson

Aaron Sharockman Poynter, vice-président des ventes et des partenariats stratégiques et modérateur de la table ronde, a demandé au public combien avaient vu cette image. Je l'ai vu sur mon fil d'actualité par un ancien journaliste qui l'a partagé. Et les gens disaient : « C’est ça l’IA », se souvient-il. Et puis leur réponse a été : « Eh bien, peu importe. Je me soucie des gens de Caroline du Nord. » C’est un peu là où nous en sommes.

Mahadevan a souligné que c’est là le cœur du problème de l’omniprésence de l’IA : une volonté de croire que quelque chose est vrai si cela est conforme à vos points de vue.

Cela n’a plus d’importance, dit-il. Si ce que vous voyez en ligne confirme ce que vous pensez du monde et ce que vous croyez et si le gentil a raison et le méchant a tort, cela n’a pas d’importance.

La tristesse autour de la montée actuelle des défis posés à la confiance en ligne par les contenus basés sur l'IA et le démantèlement de la vérification des faits par les plateformes de médias sociaux étaient les principaux objectifs de l'étude. événement organisé mardi soir à l'Institut Poynter de Saint-Pétersbourg . Ils ont également tiré la sonnette d’alarme sur les implications pour la société et les jeunes. Sharockman a dirigé la table ronde entre Mahadevan ; Drew Harwell, journaliste technologique pour le Washington Post ; et Katie Sanders, rédactrice en chef de PolitiFact.

Aaron Sharockman a quitté le vice-président de Poynter pour les ventes et les partenariats stratégiques, modérant un panel mettant en vedette de gauche à droite Drew Harwell, journaliste technologique pour le Washington Post ; Alex Mahadevan, directeur de MediaWise et membre du corps professoral de Poynter ; et Katie Sanders rédactrice en chef de PolitiFact au Poynter Institute de Saint-Pétersbourg en Floride, le mardi 6 mai 2025. (Chris Kozlowski/Poynter)

amanda martin

En réponse à La vision de Mark Zuckerberg des chatbots IA Faire partie de son réseau d'amis Harwell a déclaré qu'il trouvait l'idée absurde, mais que son noyau était intéressant car ces chatbots deviennent de plus en plus importants dans nos vies. Il a fait référence à Gemini, un chatbot à IA générative développé par Google et à la manière dont il était prévu de déployer Gemini sur les comptes enfants. Désormais, les adultes devraient avoir une conversation avec les enfants pour leur expliquer que les Gémeaux n’existent pas.

C’était un peu perturbant pour moi de penser à remplacer des gens parce qu’on ne peut pas remplacer les gens de cette façon. Mais ce sont aussi les entreprises technologiques avec lesquelles nous devons traiter, a-t-il déclaré. C’est la réalité qu’ils imposent en quelque sorte à notre société. Il est donc bon pour nous d’être conscients du fonctionnement de ces entreprises et de comprendre les limites de ces chatbots. Ce ne sont pas des gens.

Bien que les chatbots suscitent des inquiétudes, Mahadevan a souligné que certaines rédactions utilisent ces outils à bon escient. Il a crié Gerbeur de foin un outil exclusif du Washington Post qui permet à ses journalistes de passer au crible de grandes quantités de données.

Sur les chatbots, Mahadevan a déclaré qu'un bon ami vous dira si vous avez quelque chose entre les dents. Ces chatbots ne sont pas conçus pour faire ça. Ils sont conçus pour vous dire tout ce que vous voulez entendre, a-t-il dit. Et en regardant les problèmes du monde, je pourrais dire qu’on vous dit tout ce que vous voulez entendre et que vous êtes le meilleur est probablement au cœur de beaucoup de problèmes que nous avons. C’est donc désormais au cœur de notre expérience en ligne. C'est effrayant.

Les panélistes ont également longuement parlé de l’utilisation de l’IA par l’administration Trump. La Maison Blanche a j'ai sauté sur une tendance qui génère des images IA imitant le style du Studio Ghibli, un studio d'animation japonais bien connu. Il partageait une image d'un mème de style Ghibli de Virginia Basora-Gonzalez, une femme qui avait été expulsée des États-Unis à plusieurs reprises et reconnue coupable de trafic de fentanyl. Sur l'image, la femme porte une chemise noire à manches longues et un pantalon gris et ses cheveux bruns sont enveloppés sous un filet à cheveux. De grosses larmes tombent de son visage. La vraie Basora-Gonzalez a pleuré lors de son arrestation et les photos d'elle ont également été publiées par la Maison Blanche sur X.

Une image tirée d'une présentation de la conversation communautaire de Poynter, The Future of Facts Online. Les images de cette capture d'écran ont été générées par l'intelligence artificielle et ne reflètent pas la réalité. (Capture d'écran/Poynter)

sandy corzine

Le style du travail du Studio Ghibli est souvent considéré comme cosy et chaleureux.

C’était une juxtaposition de cette animation très légère avec ce message politique. Et quand on voit ça, ça m'a paru assez cruel juste sur le plan humain. Mais si vous êtes favorable à ce statut d’immigration, vous allez l’apprécier parce que vous comprenez la blague qu’a dit Harwell. Et donc ce que je trouve vraiment intéressant à ce sujet, c’est que vous n’allez pas croire que c’est quelque chose que quelqu’un a peut-être dessiné à la main. Mais vous voyez le message.

lou sulola samuel

Le président Donald Trump également récemment partagé une photo générée par l'IA de lui-même habillé en pape sur Truth Social puis dit plus tard il n'avait rien à voir avec ça. Harwell a noté que la Maison Blanche dispose de toute une équipe de stratégie numérique – un élément central d’une partie du journalisme du Post.

Ils veulent être vus de toutes les manières possibles, a-t-il déclaré. Et l’IA est idéale pour cela car il faut cinq secondes pour publier une photo comme celle-là. C’est très évocateur.

L’IA rejoint une longue liste de sources de contrefaçons. Sanders a déclaré que de nombreuses vieilles astuces, comme de simples Photoshop, fonctionnent toujours très bien pour les personnes au pouvoir. Elle a évoqué un vérification récente des faits de PolitiFact à propos d'une image de la main tatouée de Kilmar Armando Abrego Garcia, un homme que le gouvernement a expulsé vers le Salvador il y a deux mois malgré une ordonnance du tribunal de ne pas l'expulser vers ce pays d'Amérique centrale. Trump avait publié une image de ce qu’il disait être la main d’Abrego Garcia. Pour Trump et son administration, les images étaient la preuve qu’il était membre du MS-13, le gang criminel international.

Mais ensuite, il a pris ce qui a été créé dans Microsoft Paint – essentiellement le programme le plus ancien qui existe – pour dire que sa main disait littéralement « M-S-un-trois », a déclaré Sanders. Juste parce qu’il dit que cela crée suffisamment de doutes dans notre société sur le fait que cette photo est également réelle parce qu’il le dit. Et donc cela peut être compliqué ou complètement inventé. Et c’est aussi assez simple.

Sharockman a souligné que même si Sanders et son équipe ont vérifié les circonstances autour de l’image de la main d’Abrego Garcia, ils n’ont pas fait de même avec la photo de Trump en robe papale. Dans un moment de légèreté, Sanders a déclaré qu’ils n’y avaient même pas pensé, ce qui a fait éclater de rire la foule.

En dehors de la Maison Blanche, Sharockman a demandé ce qui pourrait être gagné en utilisant l’IA sur les plateformes de médias sociaux. Il s’est demandé ce qui les poussait à vouloir diffuser de faux récits. Harwell a déclaré qu’il y avait une influence politique à gagner. Il a déclaré que de nombreuses personnes utilisent désormais les médias sociaux comme source d’information passive. Ils défilent simplement.

La monnaie des médias sociaux est l’attention, a-t-il déclaré. Tous ces gens veulent de l’attention. L'attention est de savoir comment vous obtenez des abonnés. C’est ainsi que vous obtenez des offres de marque. C’est comme ça qu’on devient célèbre. C’est ainsi que vous construisez la vie que vous souhaitez construire. Et donc, pour certaines personnes, ils le font en le faisant de la bonne manière : en partageant des informations légitimes dans le cadre de reportages journalistiques. Certaines personnes publient n'importe quoi – AI BS. Et donc, cela peut devenir très difficile lorsque vous faites défiler l’écran pour utiliser cette éducation aux médias et comprendre ce que vous regardez.

La conversation de mardi a également porté sur la fin de Meta de son partenariat avec des journalistes américains indépendants, dont PolitiFact, qui servaient à identifier et à dénoncer des canulars ou d’autres informations trompeuses sur ses plateformes. Sanders a déclaré que nous avions l’impression d’avoir perdu un outil vraiment utile pour aider les gens à comprendre ce qui est réel et ce qui ne l’est pas sur des plateformes comme Facebook, Instagram et Threads.

Personnellement, je suis encore un peu triste, dit-elle. Pas seulement pour la perte commerciale, mais aussi pour l’efficacité du partenariat visant à rendre ces plateformes plus conviviales pour le consommateur, pour être honnête.

lauren german conjoint

Mahadevan a décrit le remplacement des journalistes professionnels et des vérificateurs de faits par le grand public comme un échec monumental. L’avenir des faits en ligne, c’est vous, a-t-il déclaré au public. Dans un monde en ligne incroyablement hostile, toutes ces plateformes ont essentiellement dit : « Vous êtes seul. C'est à vous.'

Au cours de la partie questions-réponses de l’événement, un père a fait part de ses inquiétudes concernant ses enfants à l’ère des médias sociaux et de la désinformation généralisée. Si les panélistes avaient une baguette magique, a-t-il demandé, reviendraient-ils en arrière et supprimeraient-ils les médias sociaux ? Harwell a reconnu s'être senti très cynique certains jours, mais a choisi d'être naïf pendant une seconde. Il a décrit avoir vu des gens en colère sur les réseaux sociaux pendant une grande partie de sa journée.

Quand je parle en personne à certaines de ces personnes en colère, c’est incroyable de voir à quel point nous pouvons réellement trouver des points de désaccord sur ces points, a-t-il déclaré. Et donc, quand je vois des jeunes sur les réseaux sociaux, ce qui me passionne vraiment, c'est qu'ils sont toujours déterminés à apprendre.

Il a dit qu’ils parcouraient leurs flux parce qu’ils voulaient apprendre. Ils ne veulent pas qu’on leur mente.

Ils veulent connaître les faits, tout comme beaucoup d'entre nous dans cette salle, a-t-il déclaré. Je pense donc que nous allons peut-être commencer à voir davantage de communautés d’information en personne où nous interagissons réellement avec les gens au lieu de simplement regarder des écrans toute la journée.