OpenAI vient de bannir plusieurs dizaines de comptes ChatGPT utilisés par une opération russe de désinformation. Ces comptes servaient à produire automatiquement des publications sur X, Telegram, Facebook, LinkedIn et Substack, en anglais et en allemand. Leur objectif était de faire la promotion de l'International Burke Institute (IBI), présenté comme une « communauté d'experts » basée en Israël… mais en réalité une façade créée en février 2025 pour diffuser de la propagande pro-russe.
L'entreprise précise qu'il s'agit de la première opération d'influence russe d'aussi grande ampleur qu'elle parvient à déjouer. Et pour contourner le blocage géographique d'OpenAI en Russie, les attaquants utilisaient tout simplement des VPN.
Un faux think tank très bien construit
Le site de l'IBI affiche fièrement les noms de plusieurs experts de renommée mondiale, dont Noam Chomsky et Francis Fukuyama. Mais OpenAI a découvert que sur 36 articles publiés entre septembre 2025 et mai, 34 étaient des copies d'articles légitimes, parfois anciens, parfois mal attribués. Les contenus n'étaient pas générés par IA, mais volés puis republiés sous de fausses signatures.
L'une des « réalisations » du faux institut est un « indice de souveraineté » qui vante la Russie et critique violemment les pays occidentaux. La France y est particulièrement malmenée : après les deux mandats d'Emmanuel Macron, « la France a été ouverte comme un coffre-fort rempli d'un capital historique, et elle est désormais vendue par morceaux ». L'Allemagne et l'Union européenne sont également ciblées, probablement en raison de leur soutien à l'Ukraine.
Le rôle limité mais révélateur de ChatGPT
Dans cette campagne, ChatGPT n'a finalement joué qu'un rôle mineur : générer automatiquement des messages pour promouvoir le faux think tank sur les réseaux sociaux. Ces messages étaient rédigés de manière à masquer les indices linguistiques typiques qui auraient pu alerter les lecteurs attentifs sur leur origine russe.
Malgré cette infrastructure sophistiquée, l'impact réel reste faible : les publications ont généré peu de vues car les comptes liés à l'IBI comptaient peu d'abonnés. Seules exceptions : les chaînes Telegram avec 10 000 à 20 000 abonnés chacune.
Mais pour OpenAI, même cet usage mineur de l'IA est révélateur : il permet de remonter la piste et de détecter des opérations d'influence plus larges. L'analyse des prompts, des sujets récurrents et de la fréquence d'utilisation aide à identifier ces comportements suspects.
Quelques conseils
- Vos conversations avec ChatGPT ne sont pas privées : OpenAI analyse les échanges
- Les campagnes de désinformation utilisent désormais l'IA pour produire du contenu en masse
- Un site qui cite des experts prestigieux ou qui multiplie les articles « d'analyse » n'est pas forcément légitime : vérifiez toujours les sources originales
Soyez vigilant sur la provenance des informations : avant de partager un article, faites une recherche rapide. Vérifiez la date de création du site, l'identité réelle des auteurs, et croisez avec d'autres sources reconnues.
Enfin, rappelez-vous que la désinformation ne passe pas seulement par des trolls maladroits : elle emprunte aussi les codes du journalisme sérieux, avec de faux experts ou de faux instituts