Les gens ont utilisé l’IA pour rendre des dizaines de faux hommages à Charlie Kirk. Des millions de personnes les ont cru

Trois jours après l'assassinat public de Charlie Kirk, une vidéo est apparue sur YouTube annonçant le lancement du dernier single de l'auteure-compositrice-interprète Adele, un vibrant hommage à l'héritage du militant conservateur.

Repose en paix Charlie Kirk ! » une voix qui ressemblait un peu à celle d'Adèle chantée pendant un  vidéo  montrant Kirk avec sa jeune fille. Les anges chantent ton nom. Votre histoire est écrite dans les étoiles, un feu qui ne s'éteindra pas.

Selon les publications YouTube, les hommages des célébrités ont été nombreux. Ils venaient d'Ed Sheeran Eminem Taylor Swift Céline Dion Lady Gaga Rihanna Post Malone Dax Lil Wayne Jelly Roll Selena Gomez Justin Bieber et Imagine Dragons.

Mais aucun d’eux n’était réel. Ils ont tous été générés grâce à l’intelligence artificielle. Et ils présentaient souvent de fausses images miniatures montrant les artistes en larmes ou avec des expressions tristes.

PolitiFact a analysé 24 vidéos YouTube prétendant montrer des chansons hommage dédiées à Kirk. Ensemble, ces vidéos ont été visionnées plus de 4,6 millions de fois et certaines ont été partagées sur d'autres plateformes.

Deux chansons hommage à Charlie Kirk ont ​​été attribuées à Ed Sheeran. Mais ils ont été réalisés avec l’IA. (Capture d'écran/YouTube)

L’une d’elles a été mise en ligne le jour de l’assassinat de Kirk, illustrant la rapidité avec laquelle les créateurs peuvent générer des chansons liées à un événement majeur.

Presque toutes les vidéos contenaient des avertissements indiquant qu'elles contenaient du contenu modifié ou synthétique, mais de nombreux téléspectateurs ont laissé des commentaires montrant qu'ils pensaient que ces chansons étaient réelles.

Merci Justin a écrit un commentateur qui pensait répondre à Bieber.

Je ne m'attendais pas à cela de la part de Bieber, en a écrit un autre.

Commentaires sur une vidéo YouTube intitulée Justin Bieber – You’ll Be Missed Charlie Kirk (A Tribute To Charlie Kirk). La chanson a été réalisée avec l'IA. (Capture d'écran/YouTube)

Les hommages musicaux semblent avoir accueilli un groupe complet par semaine dans un studio, a déclaré Bryan Pardo, professeur d'informatique à l'Université Northwestern et directeur du laboratoire audio interactif. C’est en partie pourquoi les gens les croient.

La plupart des gens ne se rendent pas compte du chemin parcouru par le contenu généré par l’IA, a-t-il déclaré.

Les experts ont déclaré que les outils d’IA peuvent imiter passablement la voix des artistes, en particulier lorsqu’un auditeur n’a pas passé beaucoup de temps à écouter ces artistes. Mais il existe des moyens d’identifier les anomalies sonores typiques de l’utilisation de l’IA.

Les outils peuvent générer rapidement des chansons sur la base d'invites simples, même similaires au style d'un artiste.

Les générateurs de musique IA tels que Suno et Udio sont formés à l'aide d'un vaste ensemble de chansons existantes. Avec une courte invite utilisateur, ils créent de la nouvelle musique rapidement et à moindre coût.

PolitiFact l'a testé.

Créez une chanson sur le deuil de la mort soudaine d’une figure inspirante de la politique dans le style de Taylor Swift que nous avons écrit dans les invites des comptes gratuits de Suno et Udio. Les outils ont rejeté les invites au motif qu’ils n’étaient pas autorisés à générer l’image d’un artiste.

Nous avons réessayé en utilisant un langage plus générique : créez une chanson sur le deuil de la mort soudaine d'une figure inspirante de la politique, à la manière d'un chanteur pop de 35 ans, avec une population jeune et majoritairement féminine.

Les deux outils ont produit des chansons en quelques instants – deux chansons différentes par invite.

(Capture d'écran/Audio)

Cela ne fait pas le bonheur des musiciens. Principales sociétés de musique, notamment Sony Music Entertainment Universal Music Group et Warner Records par l'intermédiaire de la Recording Industry Association of America.  poursuivi  les deux plates-formes d'IA en juin 2024, les accusant d'utiliser de la musique protégée par le droit d'auteur pour entraîner leurs outils d'IA.

Suno a déclaré dans un dossier judiciaire que le modèle avait été formé à l'aide de dizaines de millions d'enregistrements, mais a soutenu que le processus constituait une utilisation équitable.

Artistes dont Imagine Dragons Katy Perry Nicki Minaj et Stevie Wonder  a soutenu dans une lettre de 2024 que  former des robots IA sur le travail des artistes dégradera la valeur de notre travail et nous empêchera d’être équitablement rémunérés pour celui-ci.

Nous devons nous protéger contre l’utilisation prédatrice de l’IA pour voler les voix et les portraits d’artistes professionnels, violer les droits des créateurs et détruire l’écosystème musical, lit-on dans la lettre.

Ces outils utilisent une technologie similaire à celle utilisée par ChatGPT, a déclaré Tom Collins, professeur agrégé de technologie d'ingénierie musicale à l'Université de Miami. De tels modèles sont formés sur des ensembles de données massifs dans le but de produire un langage semblable à celui de l'humain.

Les paroles vocales et l'instrumentation peuvent révéler des indices génératifs sur l'IA

Quelques  IA   artistes  ont gagné des adeptes et au moins un artiste IA a  a obtenu un contrat d'enregistrement .

À travers des commentaires vidéo comme ceux sur les chansons hommage, les fans montrent parfois qu’ils ne réalisent pas qu’ils écoutent de la musique créée par l’IA.

Ces modèles en sont définitivement au stade où, si vous ne connaissez pas les capacités lyriques d’un artiste ou la qualité de sa voix chantée, sur la base de plusieurs heures d’écoute plus tôt dans votre vie ou récemment dans votre vie, je pense que vous pouvez être dupé relativement facilement, a déclaré Collins.

Alors, quels sont les signaux que les gens peuvent écouter ?

Le professeur d'informatique et d'ingénierie de l'Université Siwei Lyu de Buffalo a déclaré que la lecture de la musique en boucle pendant quelques tours peut révéler certaines anomalies. Les voix, par exemple, peuvent sembler trop douces ou robotiques, contenir des schémas de respiration inhabituels, des consonnes tachées ou un vibrato irréaliste, a-t-il déclaré. Lyu a analysé les chansons sans avertissements d'IA et a trouvé des éléments synthétiques dans l'audio, notamment des changements soudains dans la qualité et la clarté vocales.

Par exemple un hommage à Kirk  chanson  faussement attribué à Dax et Lil Wayne commence avec une qualité vocale faible avant de passer à un son plus fort et plus clair, a déclaré Lyu. Il a également détecté des changements de clarté de la voix aux horodatages 0:46 et 0:56.

Lyu et Collins ont chacun déclaré que le mixage des voix et des instruments n’était peut-être pas aussi net que dans la version studio d’un vrai morceau.

Collins a comparé la création de musique IA à la génération d'images : si vous avez généré l'image d'une personne, peut-être que cette personne a six doigts ou deux doigts qui sont en quelque sorte fondus ensemble. Ce genre de fusion ou cette confusion, leur équivalent audio, sont comme des notes individuelles qui ne semblent pas vraiment être une note de guitare ou une note de piano mais quelque chose entre les deux.

Les paroles générées par l'IA sont souvent génériques et peuvent présenter des changements brusques de qualité, a déclaré Lyu. Les schémas de rimes peuvent être trop réguliers, le langage peut être cliché et la musique peut également manquer de la nuance émotionnelle que l'on trouve généralement dans les performances réelles.

Collins a déclaré que les paroles générées par l’IA sont généralement formulées et simplistes car elles visent à répondre aux instructions de l’invite. Une invite sur le deuil peut produire des paroles contenant les mots bougies et paradis.

L'analyse GPTZero a révélé qu'il y a 98 % de chances que les paroles d'un duo hommage prétendument réalisé par Adele et Ed Sheeran aient été générées par l'IA. (Capture d'écran/GPTZéro)

Collins a déclaré qu'il s'attend à ce que ces outils deviennent plus sophistiqués, produisant une musique moins facilement identifiable comme étant de l'IA. Si nous avançons encore quelques années, je pourrais imaginer que l'approximation du mimétisme serait bien meilleure et qu'il serait même plus difficile pour moi de le dire à Collins.

La politique de YouTube à compter du  2023  oblige les créateurs à divulguer lorsqu’ils ont créé un contenu modifié ou synthétique qui est réaliste, y compris à l’aide d’outils d’IA. Si les créateurs ne divulguent pas ces informations, leur contenu pourrait être supprimé, suspendu du Programme Partenaire YouTube ou s'exposer à d'autres sanctions.

Dans de nombreuses chansons d’hommage, cette révélation n’est pas mise en évidence ; il est enfoui sous la description de la vidéo qui ne sera pas visible sur le bureau à moins que le spectateur ne clique davantage.

Il y a une responsabilité sur les plateformes de streaming qu’elles ne remplissent pas vraiment en matière de vérification, a déclaré Collins.

Cette vérification des faits était à l'origine publié par PolitiFact qui fait partie de l'Institut Poynter. Voir les sources de cette vérification des faits ici .

miranda pak