Sur Reddit, une invasion de bots IA crée une onde de choc. Ces agents automatiques inondent les sous-forums, perturbant les discussions authentiques. Alors que les utilisateurs se plaignent, la responsabilité pèse lourd sur les épaules de Reddit lui-même, révélant des lacunes dans sa réglementation et sécurité.
Le PDG de Reddit, Steve Huffman, a déclaré que la plateforme subissait des attaques de bots d’IA et se trouvait maintenant dans une “course aux armements” pour détecter et bloquer ces publications fictives.
L’ironie de la situation réside dans le fait que la raison même pour laquelle Reddit est ciblé par ces bots est due à la vente par l’entreprise d’accès aux publications des utilisateurs pour l’entraînement des IA.
Reddit permet aux bots d’IA de collecter des publications d’utilisateurs
Les choses ont commencé à se dégrader au début de l’année dernière lorsque Reddit a signé un contrat de 60 millions de dollars pour permettre la collecte des publications d’utilisateurs à des fins d’entraînement d’IA. L’entreprise impliquée s’est révélée être Google.
Pour protéger cet accord, Reddit a commencé à refuser l’accès à d’autres entreprises, y compris les bots d’entraînement d’IA ainsi que les robots d’exploration web, ce qui signifie que seul Google pouvait indexer le site.
Et se fait maintenant spammer par des bots d’IA
L’un des nombreux problèmes résultant de cette autorisation d’utilisation des publications d’utilisateurs pour l’entraînement d’IA est que les entreprises souhaitent que leurs produits et marques apparaissent dans les résultats des chatbots. Étant donné que Reddit constitue une partie clé du matériel d’entraînement pour l’IA de Google, la manière la plus efficace d’atteindre cet objectif est de submerger Reddit de contenu spam.
Huffman a confirmé au Financial Times que cela se produisait effectivement, des entreprises utilisant des bots d’IA pour créer des publications factices dans l’espoir que le contenu soit reproduit par les chatbots.
“Depuis 20 ans, nous luttons contre des personnes qui veulent être populaires sur Reddit”, a déclaré Huffman. “Nous nous indexons très bien dans les moteurs de recherche. Si vous voulez apparaître dans les moteurs de recherche, vous essayez de bien performer sur Reddit, et maintenant avec les LLM, il en va de même. Si vous souhaitez apparaître dans les LLM, vous pouvez le faire via Reddit.”
De nombreux responsables d’agences publicitaires ont confirmé au FT qu’ils publient effectivement du contenu sur Reddit pour accroître la probabilité que leurs annonces apparaissent dans les réponses des chatbots AI génératifs.
Huffman souligne que les bots d’IA sont de plus en plus utilisés pour générer ces publications spam, et Reddit essaie de les bloquer.
Pour Huffman, le succès dépend de garantir que les publications soient “écrites par des humains et votées par des humains […] C’est une course aux armements, c’est une bataille sans fin.”
L’entreprise explore diverses nouvelles méthodes pour contrer ce phénomène, y compris le dispositif de reconnaissance oculaire World ID proposé par Sam Altman d’OpenAI.
Analyse de 9to5Mac
Les utilisateurs de Reddit étaient déjà mécontents que leurs publications soient vendues comme matériel d’entraînement pour les IA. Découvrir que le problème croissant des bots spam sur la plateforme découle directement de cet accord ne va certainement pas améliorer la situation. Ce problème est totalement dû à Reddit lui-même.
Accessoires mis en avant
Photo par Mohamed Nohassi sur Unsplash
FTC : Nous utilisons des liens d’affiliation auto-générants. Plus.
Pourquoi Reddit est-il ciblé par des bots IA ?
Reddit est ciblé par des bots IA car la plateforme vend l’accès aux publications des utilisateurs pour l’entraînement des IA. Cela incite des entreprises à vouloir faire apparaître leurs marques dans les résultats des chatbots en spamment Reddit.
Quel est le problème lié à l’accord de Reddit avec Google ?
L’accord de Reddit de 60 millions de dollars avec Google permet d’utiliser les publications des utilisateurs pour l’entraînement des IA, entraînant des restrictions d’accès aux autres entreprises et aux crawlers web, ce qui a créé un déséquilibre sur la plateforme.
Comment Reddit lutte-t-il contre le spam des bots IA ?
Reddit tente de bloquer les bots AI qui créent ces publications de spam, en se concentrant sur la garantie que les publications soient « écrites par des humains et votées par des humains. » Cela a été décrit comme une « course à l’armement ».
Quels sont les sentiments des utilisateurs de Reddit concernant cette situation ?
Les utilisateurs de Reddit sont mécontents de voir leurs publications utilisées comme matériel d’entraînement pour l’IA, et découvrir que le problème croissant des bots de spam découle directement de cet accord n’améliore pas leur perception de la plateforme.
Bonjour, je m’appelle Manu Dibango et j’ai 37 ans. Cadre supérieur dans l’administration, je suis passionné par la gestion et l’organisation. Bienvenue sur Camernews où je partage ma veille sur les nouvelles technologies et l’innovation.
