Dans un contexte numérique en pleine expansion, la Chine exploite discrètement ChatGPT pour diffuser des publications de propagande sur les réseaux sociaux. Cette stratégie soulève des préoccupations majeures concernant la désinformation, alors que des plateformes comme Weibo et WeChat deviennent des outils clés pour influencer les opinions publiques.
Sommaire :
Utilisation clandestine de ChatGPT par la Chine pour des posts de propagande sur les réseaux sociaux
OpenAI a découvert des preuves que la Chine utilise de manière secrète ChatGPT pour générer des posts de propagande sur des plateformes de médias sociaux telles que Reddit, TikTok, Facebook et X. Cette utilisation concerne également des opérations de surveillance numérique.
Blocus par OpenAI
L’entreprise d’intelligence artificielle a réussi à bloquer dix opérations de ce type, dont quatre provenaient probablement de la Chine. D’autres pays, comme la Russie, l’Iran et la Corée du Nord, sont également soupçonnés d’exploiter la plateforme de cette manière.
Selon un rapport de NPR, le chatbot a été utilisé non seulement pour générer des posts originaux, mais aussi pour engendrer de l’engagement vis-à-vis de ces derniers. Dans un retournement ironique, les auteurs de cette manipulation ont même utilisé ChatGPT pour rédiger leurs propres évaluations de performance concernant l’exploitation de l’outil.
Opérations de propagande
Des propagandistes chinois s’appuient sur ChatGPT pour rédiger des posts et des commentaires sur des sites de médias sociaux. Ils créent également des évaluations de performance pour rendre compte de leur travail à leurs supérieurs, comme l’ont rapporté les chercheurs d’OpenAI.
Ben Nimmo, enquêteur principal de l’équipe d’intelligence et d’investigations d’OpenAI, a déclaré lors d’un appel avec des journalistes que "ce que nous observons en provenance de la Chine est un éventail croissant d’opérations secrètes utilisant des tactiques variées."
L’opération "Sneer Review"
Une des opérations chinoises, nommée "Sneer Review", a utilisé ChatGPT pour générer de courts commentaires publiés sur TikTok, X, Reddit, Facebook et d’autres sites en anglais, chinois et ourdou. Les sujets de ces posts variaient de l’analyse des politiques de l’administration Trump, notamment la dissolution de l’Agence des États-Unis pour le développement international, à la critique d’un jeu taïwanais où les joueurs devaient vaincre le Parti communiste chinois. Dans plusieurs cas, chaque publication était accompagnée de commentaires générés pour interagir avec les utilisateurs.
De manière ironique, les évaluations de performance générées par l’IA ont fourni un aperçu des opérations.
Évaluations de performance révélatrices
Les acteurs derrière "Sneer Review" ont également utilisé les outils d’OpenAI pour des travaux internes, y compris la rédaction d’une "évaluation de performance décrivant, en détail, les étapes nécessaires à l’établissement et à la gestion de l’opération." OpenAI a déclaré que "les comportements observés sur les réseaux sociaux correspondaient étroitement aux procédures décrites dans cette revue."
Opérations d’intelligence
Un autre aspect de cette stratégie consistait à utiliser ChatGPT pour générer des courriels destinés à des journalistes, analystes et politiciens dans le cadre d’une opération de collecte d’informations.
L’impact de ces opérations sur l’information publique et l’opinion est immérité, car il soulève des questions sur la manière dont des technologie avancées peuvent être détournées pour influencer les perceptions à l’échelle mondiale.
Pour approfondir le sujet, vous pouvez consulter cet article sur NPR.
Réflexions sur l’usage de l’IA
L’utilisation des intelligences artificielles comme ChatGPT dans des opérations de manipulation soulève des préoccupations éthiques. Les implications de telles pratiques peuvent affecter non seulement la manière dont l’information est partagée, mais aussi la façon dont la confiance en ces plateformes est perçue par le public.
Les éléments de compréhension sur la guerre de l’information contemporaine évoluent rapidement, et il est essentiel de rester vigilant face à ces manipulations.
Qu’est-ce que l’utilisation de ChatGPT par la Chine pour la propagande ?
OpenAI a découvert que la Chine utilise discrètement ChatGPT pour créer des publications de propagande sur les réseaux sociaux et mener une surveillance numérique.
Quels pays sont impliqués dans l’abus de ChatGPT ?
Outre la Chine, des pays comme la Russie, l’Iran et la Corée du Nord sont également soupçonnés d’abuser du service de manière similaire.
Comment ChatGPT est-il utilisé pour créer de faux contenus ?
Les propagandistes chinois utilisent ChatGPT pour rédiger des publications et des commentaires sur des sites comme TikTok, X, Reddit et Facebook, dans plusieurs langues.
Quels types d’opérations ont été observés avec ChatGPT ?
Une opération appelée « Sneer Review » a impliqué l’utilisation de ChatGPT pour générer des commentaires courts et des évaluations de performance liées à ces activités.
Bonjour, je m’appelle Manu Dibango et j’ai 37 ans. Cadre supérieur dans l’administration, je suis passionné par la gestion et l’organisation. Bienvenue sur Camernews où je partage ma veille sur les nouvelles technologies et l’innovation.
