Reddit se mobilise contre la fraude alimentée par l’IA, cherchant à protéger sa communauté d’utilisateurs. Cependant, cette initiative soulève des préoccupations cruciales concernant la vie privée des membres. Alors que les technologies évoluent, l’équilibre entre sécurité et confidentialité devient essentiel pour préserver l’intégrité de cette plateforme sociale.
Reddit a récemment annoncé son intention de lutter contre une fraude à grande échelle utilisant l’intelligence artificielle qui a touché les utilisateurs du subreddit très populaire Change My View.
Toutefois, les mesures envisagées par l’entreprise pour contrer ces bots IA pourraient ne pas être bien accueillies par les utilisateurs, car elles pourraient compromettre l’approche en matière de confidentialité que la plateforme a toujours défendue.
Sommaire :
Expérimentation IA non autorisée contre les utilisateurs
Des chercheurs de l’Université de Zurich ont réalisé une vaste fraude à l’IA sur le subreddit, des modèles de langage prenant divers rôles, incluant ceux d’une victime d’agression et d’un conseiller en traumatisme. Au total, ces bot d’IA ont publié plus de 1 700 commentaires sous de faux prétextes.
Cette expérience viole à la fois les règles de Reddit et des normes éthiques bien établies qui exigent le consentement éclairé pour les expériences psychologiques.
Les modérateurs de CMV ont déposé une plainte formelle auprès de la commission d’éthique de l’université, qui a répondu qu’elle avait émis un avertissement formel au chercheur principal, tout en déclarant qu’elle renforcerait ses examens préalables des études proposées. Cependant, outrageusement, elle a aussi mentionné que la publication de l’article irait de l’avant.
Reddit lutte contre la fraude
Reddit a condamné cette « expérience hautement inappropriée et peu éthique », et le PDG Steve Huffman a annoncé que des mesures seraient mises en place pour « garder Reddit humain ».
Pour garder Reddit humain et répondre à l’évolution des exigences réglementaires, nous allons avoir besoin d’un peu plus d’informations. Plus précisément, nous aurons besoin de savoir si vous êtes un humain, et dans certains endroits, si vous êtes un adulte. Mais nous ne voulons jamais connaître votre nom ou qui vous êtes. Nous ferons cela en travaillant avec divers services tiers qui peuvent nous fournir les informations essentielles et rien de plus. Aucune solution n’est parfaite – y compris le statu quo – mais nous ferons de notre mieux pour préserver à la fois l’humanité et l’anonymat de Reddit.
Mais cela pourrait s’avérer peu populaire
Reddit a toujours autorisé les comptes anonymes, et de nombreux utilisateurs ont de bonnes raisons de vouloir garder leur identité privée. Ces utilisateurs pourraient, par exemple, souhaiter partager des informations très personnelles dans certains subreddits.
Bien que Huffman affirme que les nouvelles mesures ne révéleront le nom de personne, TechCrunch signale une inquiétante absence de transparence concernant les projets de l’entreprise.
Un représentant de Reddit a refusé d’expliquer dans quelles circonstances l’entreprise exigerait des utilisateurs de passer par un processus de vérification et n’a pas partagé davantage de détails sur les services tiers que l’entreprise utiliserait ou sur le type d’informations personnellement identifiables que les utilisateurs devraient fournir.
Le site a également cité un exemple récent des risques liés à l’identification des comptes anonymes.
Il suffit de regarder comment Meta a remis des conversations privées entre une femme du Nebraska et sa fille de 17 ans, discutant des projets de cette dernière d’interrompre une grossesse. L’assistance de Meta a permis à la loi d’obtenir un mandat de perquisition, ce qui a conduit à des accusations criminelles contre la mère et la fille.
Quelques nouvelles encourageantes pour Reddit
Sur une note plus positive, de nombreux Redditors préfèrent l’ancienne interface à la nouvelle, et Huffman a promis de maintenir old.reddit en ligne « tant que les gens l’utilisent ».
Photo par Matthew Henry sur Unsplash
FTC : Nous utilisons des liens affiliés générant des revenus. Plus.
Qu’est-ce que la fraude AI sur Reddit ?
La fraude AI sur Reddit fait référence à une expérience non autorisée menée par des chercheurs de l’Université de Zurich, où des modèles de langage AI ont imité des utilisateurs humains dans le subreddit Change My View.
Quels sont les risques de cette expérience ?
Cette expérience a été réalisée sans consentement éclairé, enfreignant à la fois les règles de Reddit et les standards éthiques établis pour les expériences psychologiques.
Comment Reddit réagit-il à cette situation ?
Reddit a condamné l’expérience comme étant « improper et hautement non éthique » et a annoncé l’introduction de nouvelles mesures pour garantir que la plateforme reste « humaine ».
Pourquoi les nouvelles mesures pourraient-elles être impopulaires ?
Les utilisateurs de Reddit apprécient l’anonymat de leurs comptes, ce qui leur permet de partager des informations personnelles sans révéler leur identité. Les nouvelles exigences de vérification suscitent donc des inquiétudes quant à la protection de la vie privée.
Bonjour, je m’appelle Manu Dibango et j’ai 37 ans. Cadre supérieur dans l’administration, je suis passionné par la gestion et l’organisation. Bienvenue sur Camernews où je partage ma veille sur les nouvelles technologies et l’innovation.
