L'IA se glisse dans tous les espaces de nos vies, les experts prudent

Au début de la conversation communautaire de Poynter mardi soir, un visuel a été affiché pour le public qui a déclenché un amusement et une confusion. Voici Jésus-Christ sous l'eau. Ses yeux étaient fermés et sa couronne d'épines apparut derrière lui comme un halo. Mais ses bras tendus n'étaient pas en fait des bras. Ils avaient été transformés en crevettes aux yeux brillants. Son corps était également couvert par les crustacés.

Ceci est au cœur de l'expérience en ligne, a déclaré le directeur d'Alex Mahadevan de Mediawise et membre de la faculté de Poynter. Il s'agit d'une image générée par l'AI qui a été créée pour obtenir essentiellement une tonne d'engagement qu'il a fait. Ce n'est qu'un exemple de «Jésus des crevettes».

Une image d'une présentation de la conversation communautaire de Poynter L'avenir des faits en ligne. Les images de cette capture d'écran ont été générées par l'intelligence artificielle et ne reflètent pas la réalité. (Capture d'écran / Poynter)

Mahadevan Un expert en IA a souligné que l'intelligence artificielle se glissait dans tous les coins de la vie en ligne, des recherches Google à nos flux de médias sociaux. Le problème qu'il a averti est que les visuels générés avec l'IA apparaissent également pendant les catastrophes. Il a fait référence à une image d'un enfant dans un bateau de sauvetage. La fille portant un gilet de sauvetage orange - censé être une jeune victime de l'ouragan Helene - pleurait tout en tenant un chiot. Autour d'eux, il semblait être des inondations majeures.

Vous avez peut-être vu cette image de l'enfant qui pleure qui est devenu viral. Il a l'air hyperréaliste Mahadevan. Il a été utilisé politiquement.

Une image d'une présentation de la conversation communautaire de Poynter L'avenir des faits en ligne. Les images de cette capture d'écran ont été générées par l'intelligence artificielle et ne reflètent pas la réalité. (Capture d'écran / Poynter)

hopie carlson

Le vice-président d'Aaron Sharockman Poynter pour les ventes et les partenariats stratégiques et le modérateur de l'événement de panel ont demandé au public combien en avaient vu cette image. Je l'ai vu sur mon flux d'un ancien journaliste qui l'a partagé. Et les gens ont dit «c’est l’IA» qu’il se souvient. Et puis leur réponse a été «bien peu importe. Je me soucie des habitants de la Caroline du Nord. "C'est un peu où nous en sommes.

Mahadevan a souligné que c'est le cœur du problème avec l'omniprésence de l'IA - une volonté de croire que quelque chose est vrai s'il est conforme à vos points de vue.

Peu importe, il a dit. Si ce que vous voyez en ligne confirme ce que vous pensez du monde et de ce que vous croyez et si le bon gars a raison et que le méchant est faux, cela n'a pas d'importance.

La morosité autour de la montée actuelle des défis de contenu axés sur l'IA à la confiance en ligne et au démantèlement de la vérification des faits par les plateformes de médias sociaux a été les principaux objectifs de la événement tenu mardi soir au Poynter Institute de Saint-Pétersbourg . Ils ont également soulevé l'alarme sur les implications pour la société et les jeunes. Sharockman a dirigé la table ronde entre Mahadevan; Drew Harwell un journaliste technologique pour le Washington Post; et la rédactrice en chef de Politifact, Katie Sanders.

Aaron Sharockman a quitté le vice-président de Poynter pour les ventes et les partenariats stratégiques moderne un panel mettant en vedette de gauche à droite Drew Harwell un journaliste technologique pour le Washington Post; Alex Mahadevan Directeur de Mediawise et membre de la faculté de Poynter; et Katie Sanders en chef de Politifact au Poynter Institute de Saint-Pétersbourg en Floride le mardi 6 mai 2025. (Chris Kozlowski / Poynter)

amanda martin

En réponse à La vision de Mark Zuckerberg sur les chatbots d'IA Faire partie du réseau ami de son ami Harwell a déclaré qu'il trouvait l'idée absurde, mais le noyau de celui-ci était intéressant parce que ces chatbots deviennent plus importants pour nos vies. Il a fait référence à Gemini un chatbot d'IA génératif développé par Google et comment il était prévu de déployer des Gémeaux sur les comptes d'enfants. Maintenant, les adultes devraient avoir une conversation avec des enfants pour expliquer que les Gémeaux ne sont pas réels.

C'était un peu énervant pour moi de penser à remplacer les gens parce que vous ne pouvez pas remplacer les gens de cette façon. Mais ce sont aussi les entreprises technologiques que nous devons faire face, a-t-elle déclaré. C’est la réalité qu’ils imposent en quelque sorte à notre société. Il est donc bon que nous soyons conscients de la façon dont ces entreprises fonctionnent et comprennent les limites de ces chatbots. Ce ne sont pas des gens.

Bien qu'il y ait des préoccupations concernant les chatbots, Mahadevan a souligné que certaines salles de rédaction utilisent ces outils pour de bon. Il a crié Porte-foyers Un outil propriétaire du Washington Post qui permet à ses journalistes de passer au crible de grandes quantités de données.

Sur les chatbots, Mahadevan a dit qu'un bon ami vous dira si vous avez quelque chose dans vos dents. Ces chatbots ne sont pas conçus pour ce faire. Ils sont conçus pour vous dire tout ce que vous voulez entendre, dit-il. Et en regardant les problèmes du monde, je pourrais dire qu'on me dit tout ce que vous voulez entendre et que vous êtes le meilleur est probablement au cœur de nombreux problèmes que nous avons. C'est donc au cœur de notre expérience en ligne maintenant. C'est effrayant.

Les panélistes ont également parlé longuement de l’utilisation par l’administration Trump de l’IA. La Maison Blanche a sauter sur une tendance Cela génère des images AI imitant le style du studio Ghibli, un studio d'animation japonais bien connu. Il a partagé une image d'un mème de style Ghibli-de Virginia Basora-Gonzalez, une femme qui avait été expulsée des États-Unis à plusieurs reprises et a été reconnu coupable de trafic de fentanyl. À l'image, la femme porte une chemise noire à manches longues et un pantalon gris et ses cheveux bruns sont enveloppés sous un geste. De grandes larmes tombent de son visage. La vraie Basora-Gonzalez a pleuré lors de son arrestation et les photos réelles d'elle ont également été publiées par la Maison Blanche sur X.

Une image d'une présentation de la conversation communautaire de Poynter L'avenir des faits en ligne. Les images de cette capture d'écran ont été générées par l'intelligence artificielle et ne reflètent pas la réalité. (Capture d'écran / Poynter)

sandy corzine

Le style du travail du studio Ghibli est souvent considéré comme confortable et chaleureux.

C'était une juxtaposition de cette animation très légère avec cette messagerie politique. Et quand vous voyez que cela m'a frappé comme assez cruel juste au niveau humain. Mais si vous soutenez ce statut d'immigration, vous allez aimer ça parce que vous obtenez la blague que Harwell a dit. Et donc ce que je trouve vraiment intéressant à ce sujet, c'est que vous n'allez pas croire que c'était quelque chose que quelqu'un peut-être attiré à la main. Mais vous voyez le message.

lou sulola samuel

Le président Donald Trump aussi récemment partagé Une photo générée par AI-lui-même déguisée en pape sur la vérité sociale alors plus tard dit Il n'avait rien à voir avec ça. Harwell a noté que la Maison Blanche a toute une équipe de stratégie numérique - un objectif de la part du journalisme du poste.

Ils veulent être vus de la même manière que possible. Et l'IA est idéale pour cela car il faut cinq secondes pour publier une photo comme celle-là. C'est très évocateur.

L'IA rejoint une longue liste de sources de contrefaçons. Sanders a déclaré que beaucoup de vieilles astuces comme les photoshops simples fonctionnent toujours très bien pour les personnes au pouvoir. Elle a évoqué un Vérification des faits récents De Politifact sur une image de la main tatouée de Kilmar Armando Abrego Garcia, un homme que le gouvernement a expulsé vers El Salvador il y a deux mois malgré une ordonnance du tribunal de ne pas le déporter vers le pays d'Amérique centrale. Trump avait publié une image de ce qu'il a dit être la main d'Abrego Garcia. À Trump et à son administration, les images étaient la preuve qu'il était membre de MS-13 The International Criminal Gang.

Mais ensuite, il prenait la chose qui a été créée dans Microsoft Paint - essentiellement le plus ancien programme qui soit - pour dire que sa main a littéralement dit que Sanders "M-S-One-Three". Juste parce qu'il dit que cela crée suffisamment de doute dans notre société que cette photo est également réelle parce qu'il le dit. Et donc il peut être compliqué ou complètement inventé. Et c'est aussi assez facile.

Sharockman a souligné que, bien que Sanders et son équipe aient vérifié les circonstances autour de l'image de la main d'Abrego Garcia, ils n'ont pas fait de même avec la photo de Trump dans des robes papales. Dans un moment de Levity, Sanders a déclaré qu'ils ne pensaient même pas que cela faisait éclater la foule.

En dehors de la Maison Blanche, Sharockman a demandé ce qui pourrait être gagné par des personnes utilisant l'IA sur les plateformes de médias sociaux. Il a demandé ce qui leur donne envie de pousser de faux récits. Harwell a dit qu'il y avait un poids politique à gagner. Il a dit que de nombreuses personnes utilisaient désormais les médias sociaux comme source de nouvelles passives. Ils font défiler.

La monnaie des médias sociaux est l'attention qu'il a dit. Toutes ces personnes veulent l'attention. L'attention est la façon dont vous obtenez des abonnés. C’est ainsi que vous obtenez des offres de marque. C’est ainsi que vous devenez célèbre. C’est ainsi que vous construisez la vie que vous souhaitez construire. Et donc pour certaines personnes, ils le font en le faisant de la bonne façon - partageant des informations légitimes faisant des rapports de journalisme. Certaines personnes publient juste quoi que ce soit - AI BS. Et donc cela peut devenir très difficile lorsque vous faites défiler pour utiliser cette maîtrise des médias et comprendre ce que vous regardez.

La conversation de mardi s'est également tournée vers Meta mettant fin à son partenariat avec des journalistes américains indépendants, notamment Politifact, qui a servi à identifier et à appeler des canular ou d'autres informations trompeuses sur ses plateformes. Sanders a déclaré que nous avons perdu un outil vraiment utile pour aider les gens à comprendre ce qui est réel et ce qui n'est pas sur des plates-formes comme Facebook Instagram et les fils.

Je suis personnellement encore un peu triste, a-t-elle dit. Pas seulement pour la perte d'entreprise, mais pour l'efficacité du partenariat pour rendre les plateformes plus conviviales pour être honnêtes.

lauren german conjoint

Mahadevan a décrit le remplacement des journalistes professionnels et des vérificateurs des faits avec le grand public comme un échec monumental. L'avenir des faits en ligne est-ce que vous avez dit au public. Dans un monde en ligne incroyablement hostile, toutes ces plateformes ont essentiellement déclaré: «Vous êtes seul. C'est à vous.'

Pendant la partie de questions et réponses de l’événement, un père a parlé de ses préoccupations concernant ses enfants dans cette ère des réseaux sociaux et de la désinformation généralisée. Si les panélistes avaient une baguette magique, il demandait-il en arrière et supprimerait-il les médias sociaux de l'existence? Harwell a reconnu se sentir très cynique certains jours mais a choisi d'être naïf pendant une seconde. Il a décrit voir des gens en colère sur les réseaux sociaux pendant une grande partie de sa journée.

Quand je parle à certaines de ces personnes en colère en personne, c'est incroyable à quel point nous pouvons réellement comprendre pour s'entendre. Et donc quand je vois des jeunes sur les réseaux sociaux, ce qui m'excite vraiment, c'est qu'ils sont encore fiancés pour apprendre.

Il a dit qu'ils faisaient défiler leurs flux parce qu'ils voulaient apprendre. Ils ne veulent pas être menti.

Ils veulent connaître les faits comme beaucoup d'entre nous dans cette pièce, a-t-il dit. Je pense donc que nous allons peut-être commencer à voir plus de communautés de nouvelles en personne où nous nous engageons avec des gens plutôt que de simplement regarder des écrans toute la journée.