Avis | Sora 2 a fait la une des journaux apocalyptiques. À quel point est-ce vraiment grave ?

Cela fait presque trois semaines qu'OpenAI a lancé Sora 2, le dernier outil d'IA qui permet à quiconque de générer et de partager des vidéos d'à peu près n'importe quoi, avec des restrictions limitées.

Le risque de problèmes était évident dès le début. En quelques heures, les utilisateurs ont créé des représentations racistes de vidéos de Martin Luther King Jr. montrant Pikachu en train de faire un barbecue et Bob l'éponge se faisant passer pour Adolf Hitler .

J'étais curieux de savoir si Sora 2 s'était avéré être une serre de tromperie comme beaucoup le craignaient ou si ses effets avaient été plus atténués jusqu'à présent. J'ai donc contacté le journaliste de PolitiFact Loreben Tuquero et le directeur de MediaWise Alex Mahadevan, tous deux membres de Le nouveau laboratoire d'innovation en IA de Poynter pour entendre parler de leurs expériences.

Ren LaForme : Les gros titres sur le potentiel de méfaits de Sora 2 n'étaient pas très bons, apocalyptiques. Voyez-vous des vidéos générées par l’IA apparaître dans le monde de la vérification des faits ou sommes-nous encore dans une période de préparation à l’impact ? Je me souviens qu'il a fallu un certain temps pour que les images générées par l'IA commencent vraiment à tromper les gens avec l'emblématique swagged-out Balenciaga pop étant l'un des premiers. 

Alex Mahadevan : Je ne peux pas parler spécifiquement de ce que voient les vérificateurs de faits. Mais je dirai que, sur la base d'une expérience de défilement que j'ai faite tous les jours sur Instagram depuis la sortie de Sora, environ 25 à 30 % de mon flux sont constitués de vidéos Sora qui ont été postées sous forme de Reels. Le tout premier jour de sa sortie, j’en ai reçu trois pour de bon. Le filigrane n’est pas très visible lorsque vous faites défiler rapidement. Cela s'est produit à une vitesse fulgurante par rapport à la sortie de Midjourney et au pape fanfaron qui trompait tout le monde.

Loreben Tuquero : La plupart du contenu que j’ai vu est trop manifestement faux ou fantastique pour mériter une vérification des faits, mais il n’est pas difficile d’imaginer avec quelle facilité cet outil peut être utilisé pour induire en erreur. Par exemple, certaines vidéos montrent des personnes ou des objets aspirés par des tornades et je crains que de mauvais acteurs puissent créer un contenu similaire pour induire les gens en erreur lorsque des catastrophes naturelles surviennent.

Et puis il y a les vidéos des caméras corporelles des forces de l’ordre qui semblent montrer des personnes appréhendées. Avec les bonnes incitations, cela pourrait nuire à la réputation et semer davantage de divisions dans un environnement politique tendu. Là sont rapports que les gens utilisent Sora 2 pour créer des vidéos de violence contre les manifestants.

Enfin, de nombreuses vidéos mettent en scène des personnages historiques dans des situations modernes que les gens reconnaîtraient immédiatement comme faux. Mais encore une fois, si vous situez ces personnages historiques dans le bon contexte avec des invites qui leur font dire ou faire quelque chose de suffisamment crédible, ces vidéos pourraient tromper beaucoup de gens. J'ai vu des représentations réalistes de personnages comme Martin Luther King Jr. et John F. Kennedy.

LaForme : Quelques jours après la sortie de Sora 2, OpenAI a ajouté des garde-fous pour empêcher les deepfakes non autorisés. Ils en ont ajouté d’autres ces derniers jours. Quelle a été leur efficacité ? 

Mahadevan : Ils ont réprimé les choses qui toucheraient le plus durement leur portefeuille, à savoir la violation flagrante du droit d'auteur. Vous ne verrez pas Pikachu faire du Pilates ou Mario être traîné hors de sa voiture par les services de l'immigration et des douanes – ou les personnages de South Park Dexter ou Sopranos autant. Mais vous voyez toujours Stephen Hawking se faire aspirer par une tornade ou Kobe Bryant crier six-sept et s'attaquer à Bob Barker. Ce qui est pour moi plus grotesque et nuisible que de voir Cartman faire le robot.

Ils viennent tout juste de commencer à empêcher les utilisateurs de créer des vidéos de Martin Luther King Jr., mais vous pouvez également créer facilement des vidéos de faux journalistes rapportant de fausses catastrophes. Encore une fois, c'est bien plus nocif pour l'écosystème de l'information.

Alors oui, les garde-corps fonctionnent, mais uniquement sur ce qu'OpenAI souhaite.

lacey chabert et son mari

Tuquero : Convenu. Même si les utilisateurs et les représentants de personnalités publiques peuvent consentir à ce que leur image soit utilisée, cela ouvre néanmoins la voie à un large éventail de représentations offensantes et trompeuses pouvant entraîner des préjudices.

 

Voir cette publication sur Instagram

 

tommy gooding

Un post partagé par Poynter (@poynter_institute)

LaForme : Les vidéos Sora 2 sont accompagnées d'un filigrane que les utilisateurs ont trouvé des moyens de supprimer. OpenAI a promis un filigrane plus avancé. Du point de vue de la vérification des faits, quel type de mesures de transparence pourrait réellement faire la différence ?

Mahadevan : Aucun! Il y a trop d’argent à gagner avec les deepfakes et les escroqueries, il y aura donc toujours des outils et des techniques pour supprimer les filigranes ou déjouer les tentatives de transparence. De plus, il est presque impossible de créer un filigrane suffisamment grand pour interrompre le défilement de quelqu’un. C’est mon point de vue pessimiste. Les mécanismes de confiance et de sécurité doivent être du côté de la production.

Tuquero : Outre le fait que les gens trouvent des moyens de briser les garde-corps, il devient également encore plus difficile de développer des méthodes et des outils de détection au rythme de progrès aussi rapides. Une chose qu'OpenAI peut faire est de publier de manière proactive son propre outil pour permettre aux utilisateurs d'identifier si quelque chose a été créé avec Sora 2 et d'investir des ressources pour le rendre aussi précis que possible.

Trump dépose à nouveau une plainte en diffamation d'un milliard de dollars contre le New York Times

Après qu'un juge a rejeté sa première plainte, le président Donald Trump a déposé jeudi son procès en diffamation d'un milliard de dollars contre le New York Times devant un tribunal fédéral.

Trump a d'abord intenté une action en justice contre les journalistes du Times Four Times et de Penguin Random House le 15 septembre. Quatre jours plus tard, le juge Steven Merryday et George H.W. La personne nommée par Bush a rejeté la plainte parce qu'elle était décidément inappropriée et inadmissible. À l’époque, certains critiques avaient souligné que la plainte de 85 pages ressemblait parfois à un discours de rassemblement politique. Merryday a estimé que la plainte violait les règles du tribunal exigeant que les plaintes soient simples, concises et directes et il a donné à Trump 28 jours pour en déposer une nouvelle ne dépassant pas 40 pages.

Le nouvelle plainte fait exactement 40 pages et laisse tomber l'un des journalistes du Times nommés dans le premier. Dans la plainte mise à jour, Trump allègue que les journalistes du Times Susanne Craig Russ Buettner et Peter Baker l'ont diffamé en deux articles et un livre sur son accession au pouvoir qui ont été publiés l'automne dernier.

Les déclarations en question diffament et dénigrent à tort la réputation professionnelle durement gagnée du président Trump, qu’il a minutieusement bâtie pendant des décennies en tant que simple citoyen avant de devenir président des États-Unis, notamment en tant qu’homme d’affaires prospère et star de l’émission de télé-réalité la plus réussie de tous les temps – peut-on lire dans la plainte mise à jour.

Le Times et Penguin Random House ont défendu les reportages des journalistes. Les porte-parole des deux sociétés ont qualifié le procès d'infondé selon le Times .

Il s'agit simplement d'une tentative visant à étouffer les reportages indépendants et à attirer l'attention des relations publiques, mais le New York Times ne se laissera pas dissuader par des tactiques d'intimidation, a déclaré un porte-parole du Times.

Trump a intenté de nombreuses poursuites contre les médias au cours des deux dernières années, ce qui lui a valu des critiques selon lesquelles il tente de faire taire et d'intimider les journalistes. ABC et CBS ont réglé les poursuites auxquelles ils étaient confrontés en promettant des millions de dollars à la bibliothèque présidentielle de Trump, malgré les experts juridiques affirmant que la loi était probablement de leur côté.

Outre le Times, le Des Moines Register et le Wall Street Journal font face à des poursuites judiciaires de la part de Trump. Il a accusé le Register de s'être livré à une ingérence électorale en publiant un sondage défavorable peu avant l'élection présidentielle de 2024 et le Journal de diffamation pour ses reportages sur une note d'anniversaire qu'il aurait envoyée au pédophile Jeffrey Epstein. Le Register et le Journal ont nié ces accusations.

La grève du Pittsburgh Post-Gazette dépasse le cap des trois ans

Samedi marquait le troisième anniversaire du licenciement des journalistes syndiqués du Pittsburgh Post-Gazette.

Il s'agit de la plus longue grève en cours dans le pays, selon la Newspaper Guild of Pittsburgh. Une soixantaine de journalistes commencé grève le 18 octobre 2023 en raison du refus de l’entreprise de négocier un nouveau contrat. Ils protestaient également contre la décision du Post-Gazette de mettre fin à l’assurance maladie du personnel syndiqué de la production, de la distribution et de la publicité. (Ces employés lancé leur propre grève le 6 octobre 2023.)

Aujourd'hui, une trentaine de journalistes restent en grève WESA signalé . Dès le début, la grève a été controversée et le vote de grève a été adopté par une faible marge de 38 contre 36. Le Post-Gazette a continué à paraître avec l'aide d'une quarantaine de journalistes syndiqués qui ont décidé de continuer à travailler. Depuis lors, davantage de journalistes ont franchi la ligne de piquetage et le Post-Gazette a embauché des dizaines de travailleurs de remplacement. D’autres ont arrêté la grève après avoir trouvé du travail ailleurs.

Dans un délai d'un an la stratégie du syndicat s’est ancrée dans le système judiciaire. Alors que les deux parties sont dans l’impasse, une décision de justice sera probablement la seule mesure qui mettra fin à la grève.

En juin, le Conseil national des relations du travail, chargé de faire appliquer la législation fédérale du travail accusé le Post-Gazette d’outrage pour avoir refusé de se conformer à une injonction exigeant que l’entreprise rétablisse l’ancien régime d’assurance maladie de la guilde et négocie un nouveau contrat. Le syndicat attend actuellement que la Cour d’appel du troisième circuit des États-Unis se prononce sur la question.

clytie lane

Entre-temps, les syndicats représentant le personnel de la production, de la distribution et de la publicité qui étaient en grève se sont depuis réconciliés, selon WESA. Un syndicat des Teamsters représentant les chauffeurs de camion a conclu un accord avec le Post-Gazette en avril 2024 et a dissous leur syndicat, suscitant de vives critiques de la part des autres syndicats alors en grève. Puis, plus tôt cette année, les travailleurs de la production et de la publicité ont été rachetés, laissant ainsi les journalistes en grève.

(En fin de compte, ce que représente pour moi la grève, c'est que je ne veux pas que la prochaine génération de journalistes pense qu'ils doivent accepter les restes et se contenter de se débrouiller dans la vie pour réussir dans leur carrière), a déclaré la photojournaliste Alexandra Wimley dans un profil. publié par le journal de grève du syndicat.

Informations médiatiques et liens intéressants

Plus de ressources pour les journalistes

Vous avez un retour ou un conseil ? Envoyez un e-mail à Tom Jones, rédacteur médiatique principal de Poynter, à l'adresse .