Votre maire utilise-t-il ChatGPT ? Voici comment utiliser la FOIA et le découvrir

L'année dernière, Nate Sanford a publié une histoire idiote pour l'hebdomadaire alternatif de Spokane, Inlander, à propos de un sénateur d'État se dispute sur Twitter avec un spambot pornographique IA . Le robot a finalement été suspendu après que le maire de Spokane ait signalé le compte.

Mais un employé de la ville a mentionné à Sanford, désormais journaliste chez KNKX et Cascade PBS, qu'ils avaient testé des outils d'IA au travail. Ce commentaire désinvolte a éveillé la curiosité de Sanford quant à la manière dont les gouvernements locaux utilisaient réellement l’intelligence artificielle générative et a conduit à une série d’enquêtes qui a révélé comment les chatbots sont s'intégrer discrètement dans les rouages ​​du gouvernement local .

Sanford a utilisé de nombreux enregistrements publics de journaux ChatGPT et Microsoft Copilot provenant d'employés de la ville pour montrer, entre autres choses, que le projet de politique d'IA de la ville de Bellingham a été rédigé avec l'aide de ChatGPT.

Je suis enthousiasmé lorsque je vois une utilisation intrigante de la FOIA pour démystifier le gouvernement local. Et diriger les travaux de Poynter sur l'IA vous pouvez imaginer à quel point je suis devenu fou quand j'ai vu les enquêtes de Sanford.

michel rodriguez couple

Voici comment ils commencent :

Lorsque la nation Lummi a demandé un financement pour embaucher un coordinateur des victimes de crimes l'année dernière, le maire de Bellingham, Kim Lund, a envoyé une lettre encourageant le ministère du Commerce de Washington à accorder à la nation une subvention d'État.

La nation Lummi a une solide histoire de leadership communautaire et un profond engagement envers le bien-être de ses membres, lit-on dans la lettre. L’ajout d’un coordonnateur renforcera la capacité de la Nation Lummi à lutter contre la violence et à soutenir les victimes d’une manière significative et culturellement appropriée.

Mais ce n’est pas la maire qui a écrit ces mots elle-même. ChatGPT l'a fait.

Les archives montrent que l’assistante de Lund a introduit la demande de propositions du ministère du Commerce dans le chatbot à intelligence artificielle et lui a demandé d’écrire la lettre à sa place. Veuillez inclure quelques faits sur la violence dans les communautés autochtones aux États-Unis ou dans l'État de Washington en particulier, a-t-elle ajouté dans son message d'invite.

Les histoires mettent en lumière la nécessité d’une maîtrise de l’IA à mesure que la technologie s’intègre plus profondément dans nos vies, même d’une manière que nous ne verrons peut-être jamais. J'ai donc contacté Sanford lors d'une conversation par e-mail pour savoir pourquoi et comment il a utilisé la Freedom of Information Act pour obtenir les journaux ChatGPT et ce qu'ils disent sur la direction que nous prenons.

Alex Mahadevan : Alors pourquoi avez-vous pensé à la FOIA pour les journaux de chatbot ? Avez-vous reçu un pourboire ? Juste curieux ?

Nate Sanford : Après l'histoire du spambot porno, j'ai fait des recherches en ligne pour voir s'il était possible d'utiliser les demandes d'enregistrement pour obtenir plus d'informations sur l'utilisation de l'IA par les gouvernements locaux. J'ai trouvé un message de quelqu'un sur MuckRock qui avait essayé de demander des enregistrements d'IA à son service de police local. J’ai eu envie d’essayer quelque chose de similaire pour voir ce qui se passerait avec les dirigeants du gouvernement de la ville de Washington.

J'ai fini par déposer des demandes d'enregistrement recherchant des enregistrements de chatbot dans près d'une douzaine de villes de Washington. Je testais principalement le système pour voir si c'était même possible.

pere des enfants de jodie foster

Mahadevan : Quelle a été la réaction du gardien ? Est-ce qu'il vous a fallu beaucoup d'allers-retours pour obtenir ce que vous vouliez ?

Sanford : Cela variait selon les villes. Beaucoup ont nécessité pas mal d’allers-retours. Il était clair que la plupart des juridictions n’avaient jamais traité ce type de demande auparavant.

J'ai reçu un appel d'un agent des archives qui voulait en savoir plus sur ce que je cherchais et comment il pouvait m'aider. Ils ont dit que c’était la première fois qu’ils traitaient une demande de ce type et qu’ils ne savaient pas vraiment comment la traiter. J’ai eu des questions similaires de la part de plusieurs agents des archives.

Mahadevan : Avez-vous été surpris qu’ils aient obéi ? Surpris qu'ils aient même conservé les dossiers ? 

Sanford : Je ne savais vraiment pas à quoi m’attendre.

L'histoire que j'ai publiée s'est finalement concentrée sur deux villes de Washington : Bellingham et Everett. Nous avons fini par nous concentrer sur ces villes car elles étaient les plus rapides et les plus réactives à ma demande de dossiers. Ils ne sont pas nécessairement des cas aberrants dans leur utilisation de l’IA.

Bellingham et Everett méritent tous deux beaucoup de mérite pour avoir agi de bonne foi et fait de leur mieux pour fournir une réponse complète à ma (très longue) demande de dossiers. Certaines villes n’ont pas été aussi coopératives ou transparentes. Je suis conscient que ce type de demande est coûteux et représente un avantage considérable pour les agents des archives et les intimés. Mais je pense aussi que c’est important pour la transparence. Les citoyens ont le droit de savoir comment leurs représentants utilisent ces outils.

Mahadevan : Avez-vous été surpris par l'utilisation généralisée de ChatGPT que vous avez constatée ?

Sanford : Je savais que la technologie était répandue dans le secteur privé. Je m’attendais à ce qu’il soit également présent au sein du gouvernement, mais je ne m’attendais vraiment pas à ce qu’il soit aussi répandu. Je n’avais entendu aucune communication publique de la part des gouvernements sur la manière dont ils l’utiliseraient ou s’ils l’utiliseraient.

Mahadevan : Quels conseils donneriez-vous à un autre journaliste local souhaitant faire la même chose ?

Sanford : Lorsque j’ai essayé pour la première fois de déposer ces demandes d’enregistrement, j’ai essayé de demander des journaux de discussion à tous les employés de la ville de chatbot IA utilisés. Les agents des archives m'ont dit que c'était trop vague et trop expansif. Pour plus de simplicité, j'ai fini par limiter les requêtes à ChatGPT, le chatbot le plus populaire au monde.

Demander des journaux ChatGPT a été fructueux, mais à l'avenir, je pense que demander des journaux de discussion Copilot sera encore plus précieux. Microsoft a mis son chatbot à la disposition des clients gouvernementaux plus tôt cette année et de nombreuses juridictions demandent désormais à leur personnel d'utiliser uniquement Copilot. Je recommanderais aux journalistes de rechercher des enregistrements de Copilot ainsi que de ChatGPT. (En fonction du temps dont vous disposez, cela pourrait également valoir la peine de déposer des demandes supplémentaires de dossiers auprès de Claude Grok, etc.)

Lorsque j'ai commencé à déposer des demandes, certains employés de la ville ont répondu en prenant simplement des captures d'écran de chaque conversation ChatGPT qu'ils avaient eue, parfois sur leur téléphone mobile. C’était incroyablement chaotique et difficile à comprendre. Cela signifiait également que je ne pouvais pas voir la date à laquelle les messages avaient été envoyés ni l’ordre dans lequel ils étaient censés être.

Pour faciliter les choses, j'ai commencé à demander aux agents des archives d'envoyer au personnel municipal des instructions sur la façon d'exporter leurs historiques ChatGPT dans un dossier zippé. Le format de fichier .ZIP est idéal car il vous offre :

Les horodatages sont à l’heure Unix, vous devrez donc utiliser un convertisseur en ligne gratuit pour les déchiffrer.

Si la demande prend du temps, je vous recommande absolument d'appeler les agents des dossiers pour expliquer ce que vous recherchez et demander comment vous pouvez les aider à faciliter leur travail. Les villes qui ont été les plus réactives à ma demande jusqu'à présent – ​​Bellingham et Everett – ont répondu en envoyant un e-mail à littéralement tous les employés de la ville pour leur demander de remettre leur historique ChatGPT. Il leur a fallu environ cinq mois pour finaliser la demande.

Le volume de documents renvoyés en réponse à mes demandes était de . Je recommanderais aux journalistes de trouver dès le début un système de gestion de fichiers qui fonctionne pour eux afin de ne pas perdre la trace des documents. J'ai organisé les choses en prenant une capture d'écran de chaque message intéressant que je rencontrais et en enregistrant ces captures d'écran dans un groupe de dossiers de bureau organisés par ville/sujet. La plupart des journaux de discussion sont revenus sous forme de fichiers HTML qui vous permettent de rechercher des mots-clés.

Mahadevan : À quoi ressemblaient vos demandes ?

Sanford : Voici un modèle. Je recommanderais de restreindre un peu la portée si vous recherchez quelque chose de spécifique et espérez obtenir une réponse plus rapide.

Conformément au Washington Public Records Act, je demande les documents suivants :

Historiques de discussion de toutes les sessions ChatGPT menées par les employés de la ville sur des appareils appartenant à la ville ou utilisées dans des fonctions liées à l'emploi dans les services suivants : Conseil municipal Bureau du maire Police Procureur municipal Travaux publics Technologies de l'information TKTKTK et TKTKT.

Le délai pour cette demande est du 1/6/2023 à la date à laquelle cette demande est traitée. Les documents demandés seront mis à la disposition du grand public et cette demande n'est pas faite à des fins commerciales. Veuillez rendre les enregistrements disponibles en plusieurs versements dès qu'ils sont prêts à être publiés.

robie uniacke

Si cela s'avère utile, veuillez partager avec les personnes interrogées les instructions suivantes pour exporter les historiques ChatGPT :

Mahadevan : Des journaux de discussion intéressants qui n’ont pas été intégrés à l’histoire ?

Sanford : Il y en avait tellement !

Je pense que le brouillon original que j'ai rendu comptait près de 10 000 mots. Je remercie mes éditeurs de m’avoir aidé à le couper.

Il y avait plein de petites bêtises. De nombreux exemples très intéressants ont également mis en lumière la façon dont les dirigeants municipaux réfléchissent à diverses questions politiques. Il était intéressant de voir quels sujets revenaient le plus fréquemment. (Washington connaît une énorme crise du logement et il existe de nombreux exemples de responsables demandant à ChatGPT des conseils sur la façon d'augmenter l'abordabilité du logement.)

De nombreuses discussions contenaient des informations personnelles sensibles qui étaient vraiment intéressantes mais pas nécessairement suffisamment dignes d'intérêt pour que nous puissions les publier.

Nous conservons quelques journaux de discussion car ils soulèvent des questions juridiques et nécessitent davantage de rapports avant de pouvoir les publier.

dee williams âge

Mahadevan : Quel genre d’accueil avez-vous reçu de la part de la communauté ?

Sanford : L'accueil a été vraiment positif ! Il est clair que la plupart des gens ne savaient pas que les dirigeants de leur gouvernement local utilisaient l’IA de cette manière. L'histoire a donné lieu à des éditoriaux dans les journaux des deux pays. Bellingham et Everett appelant les dirigeants des villes à aborder l’IA avec plus de prudence.

L’IA générative est une technologie tellement nouvelle qu’il n’existe pas de véritable consensus sur ce que devraient être les normes. Est-il important que l'assistant du maire ait utilisé ChatGPT pour écrire une lettre à un membre du Congrès ? Ou que le personnel des communications l'a utilisé pour répondre aux courriels des électeurs ? Nous avons entendu de nombreux lecteurs mécontents de cela, mais nous avons également entendu des personnes dire qu’elles s’en moquent. Je pense que les deux perspectives sont valables. C’est vraiment intéressant de voir les gens se demander où devrait être la limite.

Il est clair que les gouvernements locaux expérimentent cette technologie depuis un certain temps, mais il n’y a pas eu beaucoup de débat public à ce sujet. Je suis heureux de voir que l’histoire a déclenché un débat vraiment intense.

J’ai également entendu de nombreux journalistes dans les salles de rédaction de tout le pays qui envisageaient de copier la demande d’enregistrement dans leurs juridictions respectives.

Mahadevan : Avez-vous d'autres suivis prévus ?

Sanford : J'ai plusieurs suivis prévus. Je continue de recevoir régulièrement de nouveaux versements d’autres juridictions de Washington. Nous avons obtenu quelques enregistrements de discussions spécifiques qui nécessitent davantage de rapports avant de pouvoir être publiés.

Mahadevan : Utilisez-vous personnellement l’IA générative pour quoi que ce soit ?

Sanford : Ce n’est pas techniquement une IA générative mais j’utilise Otter.ai tous les jours pour transcrire des entretiens. C’est incroyablement utile.

J'ai expérimenté ChatGPT pour générer des idées de titres, mais je n'ai été très impressionné par aucune de ses suggestions. Je l'ai trouvé utile pour quelques questions liées à l'informatique/au codage, mais je ne me sens pas à l'aise de l'utiliser pour écrire.

Je pense qu’il existe probablement des moyens par lesquels l’IA générative peut être utile aux rédactions, mais je m’en méfie encore assez. Je m'inquiète de l'exactitude, de la confiance du public et du plagiat.