Le rapport de santé de RFK Jr. montre comment l'IA glisse de fausses études sur la recherche

Les auteurs de The Make America Healthy Relember publiés par le secrétaire à la Santé et aux Services sociaux Robert F. Kennedy Jr. l'ont présenté comme une évaluation historique fournissant une base scientifique commune pour façonner la politique de santé.

Mais cette base scientifique semble avoir des erreurs générées par un coupable probable: l'intelligence artificielle générative.

Au moins sept des citations du rapport étaient problématiques en tant que NOTUS  signalé pour la première fois . Quatre contenaient des titres d'articles qui n'existent pas et trois ont mal chargé les conclusions des articles.

Interrogé sur le rapport Secrétaire de presse de la Maison Blanche Karoline Leavitt  attribué les erreurs  pour formater les problèmes qui n'annulent pas la substance du rapport. Lorsqu'on lui a demandé si l'IA avait été utilisé pour produire le rapport, Leavitt a repris le département de la santé et des services sociaux.

Le rapport MAHA a depuis été mis à jour en ligne. (Voici le  version archivée .) Politifact a contacté le département de la santé et des services sociaux mais n'a pas entendu.

Les modèles d'IA sont formés pour imiter le langage que les humains utilisent en prédisant un mot après l'autre dans une séquence. Bien que les chatbots d'IA comme Chatgpt réussissent souvent à produire du texte qui se lit comme s'il a été écrit par un humain, ils ne parviennent souvent pas à s'assurer que ce qu'ils disent est factuel.

Les fausses citations ont été formatées correctement les revues réputées et comprenaient des identificateurs d'objets numériques à consonance réaliste ou des DOI.

Mais le fait que plusieurs articles cités n'existaient pas est une caractéristique des citations générées par l'IA qui reproduisent souvent la structure des références académiques sans se lier à des sources réelles ont déclaré Oren Etzioni, professeur émérite de l'Université de Washington et chercheur en IA.

Politifact s'est entretenu avec des chercheurs en intelligence artificielle et en neurosciences des drapeaux rouges liés à l'IA du rapport.

Les erreurs montrent les caractéristiques de l'hallucination AI

Les chercheurs ont déclaré que la présence d'articles fabriqués est probablement le résultat d'hallucinations d'IA ou de résultats qui peuvent sembler plausibles mais ne sont pas réelles.

L'IA avance rapidement mais est toujours sujette aux hallucinations. Lorsqu'il est invité à générer des références académiques, des modèles d'IA génératives inventeront souvent quelque chose s'il ne trouve aucune correspondance exacte, surtout si elle est invitée à soutenir un point spécifique, a déclaré Etzioni.

Steven Piantadosi Un professeur de psychologie et de neuroscience à l'Université de Californie Berkeley qui dirige son laboratoire de calcul et de langage a déclaré que les modèles d'IA n'ont aucun moyen de savoir ce qui est vrai ou ce qui compte comme preuve.

Tout ce qu'ils font, c'est faire correspondre le modèle statistique dans le texte, a-t-il dit. Il est intéressant et important qu'ils puissent très bien le faire, mais les dépendances statistiques entre les personnages ne devraient pas établir une politique publique.

Le Washington Post  signalé  que certaines citations incluaient l'oaicite dans leurs URL qui  Utilisateurs de chatppt  ont signalé un texte qui apparaît sur leur sortie. (Openai possède Chatgpt.)

kristy scott

Résultats sur la consommation de drogues en santé mentale des adolescents et d'autres liés à de fausses citations

Même dans les citations légitimes du rapport, certaines conclusions ont été déformées ou exagérées - une autre erreur commune aux outils d'IA génératifs qui peuvent produire en toute confiance des résumés de recherche, a déclaré Etzioni.

La version mise à jour du rapport MAHA a remplacé les fausses citations par des sources qui ont soutenu ses résultats et, à certains endroits, ont révisé comment il a présenté les résultats précédemment liés aux fausses citations. (Voir notre  tableur .

L'un des faux articles signalés par Notus a été intitulé Changements dans la santé mentale et la consommation de substances chez les adolescents américains pendant la pandémie Covid-19. La ligne qui l'a citée a lue environ 20-25% des adolescents ont signalé des symptômes d'anxiété et 15 à 20% ont signalé des symptômes dépressifs avec des filles présentant des taux significativement plus élevés.

Un examen plus approfondi de la citation montre pourquoi il n'est pas authentique: la recherche du titre ne donne pas un véritable article en cliquant sur le  Deux liens  Dans la citation, conduit à une page d'erreur disant que DOI n'est pas trouvé et regarder le volume de la pédiatrie JAMA et le numéro de numéro référencé conduit à un  article  avec un titre différent et différents auteurs.

Le rapport MAHA mis à jour a remplacé la citation par un  Rapport de 2024  De KFF, qui a déclaré qu'en 2021 et 2022, 21% des adolescents ont signalé des symptômes d'anxiété et 17% ont signalé des symptômes de dépression.

Le rapport original a cité deux articles inexistants dans une section sur la publicité directe aux consommateurs pour la consommation de drogues du TDAH par les enfants et l'utilisation d'antidépresseurs par les adolescents. Le rapport indique que la publicité pour les antidépresseurs chez les adolescents a montré de vagues listes de symptômes qui chevauchent les comportements typiques des adolescents et étaient liés à des demandes parentales inappropriées d'antidépresseurs.

La nouvelle version du rapport lit désormais la publicité DTC est censée encourager une plus grande utilisation des médicaments psychotropes chez les adolescents, notamment les classes antipsychotiques et antidépressives antianxiété citant maintenant un  Étude 2006  Cela a utilisé des données de 1994 à 2001. Les auteurs ont estimé que la publicité directe aux consommateurs a joué un rôle dans l'encouragement d'une plus grande utilisation des psychotropes.

Une autre conclusion dans le rapport MAHA sur les prescriptions de médicaments contre l'asthme a indiqué que 25 à 40% des cas légers sont surévalués, citant un article inexistant. Le paisonologue pédiatrique, le Dr Harold J. Farber, qui a été répertorié comme le premier auteur supposé de l'article, a déclaré à Notus qui était une généralisation excessive de ses recherches.

Le rapport mis à jour a supprimé ces chiffres. Il lit maintenant qu'il existe des preuves de surprescription de corticostéroïdes oraux pour des cas légers d'asthme.

L'incident du rapport MAHA met en évidence les risques d'inclure le contenu généré par l'IA dans les rapports officiels du gouvernement sans examen humain.

Si des outils d'IA étaient utilisés pour générer des citations pour un rapport fédéral qui soulève de sérieuses questions de responsabilité. Sans des processus de divulgation ou de vérification clairs, il n'y a aucun moyen pour les lecteurs de savoir si les informations sont fondées sur des preuves réelles, Etzioni, a déclaré. En matière de santé publique, impliquant particulièrement les enfants et la santé mentale, ces défaillances sont particulièrement troublantes.

Cette vérification des faits était à l'origine Publié par Politifact qui fait partie de l'Institut Poynter. Voir les sources de cette vérification des faits ici .