Sur Reddit, une vague de spam par des bots alimentés par l’IA envahit les discussions, et la responsabilité retombe sur Reddit Inc.. Alors que la plateforme lutte pour protéger sa communauté, l’impact des algorithmes mal réglés soulève des questions cruciales sur l’avenir de la modération en ligne.

Reddit est envahi par des bots IA, et c’est de la faute de Reddit

Reddit autorise les bots IA à récolter les publications des utilisateurs

Au début de l’année dernière, Reddit a signé un contrat de 60 millions de dollars permettant d’utiliser les publications des utilisateurs pour la formation d’IA. L’entreprise impliquée dans cet accord était Google. Pour protéger cet accord lucratif, Reddit a commencé à restreindre l’accès à d’autres entreprises, y compris les robots d’exploration du web, garantissant ainsi que seul Google puisse indexer le site.

Et maintenant, il est inondé de bots IA

Un des principaux problèmes de cette autorisation d’utilisation des publications des utilisateurs pour l’entraînement d’IA est que les entreprises souhaitent que leurs produits et marques apparaissent dans les résultats des chatbots. Étant donné que Reddit constitue une partie essentielle du matériel de formation pour l’IA de Google, une méthode efficace pour y parvenir consiste à spamer Reddit.

Steve Huffman, le PDG de Reddit, a confirmé à des médias qu’il est maintenant courant que des entreprises utilisent des bots IA pour créer de fausses publications, espérant que ce contenu soit reproduit par des chatbots. Selon Huffman, « depuis 20 ans, nous luttons contre ceux qui souhaitent devenir populaires sur Reddit. Nous sommes bien indexés dans les moteurs de recherche. Si vous voulez apparaître dans les moteurs de recherche, vous devez bien performer sur Reddit, et maintenant avec les modèles de langage, c’est la même chose ».

L’utilisation croissante des bots IA pour les publications de spam

Des dirigeants d’agences publicitaires ont également confirmé que leurs équipes « publient du contenu sur Reddit pour augmenter la probabilité que leurs annonces apparaissent dans les réponses des chatbots génératifs ». Les bots IA sont de plus en plus utilisés pour créer ces publications de spam, et Reddit tente activement de les bloquer.

Huffman précise que le succès de Reddit repose sur la capacité à garantir que les publications sont « rédigées par des humains et votées par des humains […] C’est une course armée, une bataille sans fin ». L’entreprise explore plusieurs nouvelles méthodes pour y parvenir, y compris un dispositif de scan de l’œil, le World ID, promu par Sam Altman d’OpenAI.

Réactions des utilisateurs de Reddit

Les utilisateurs de Reddit étaient déjà mécontents que leurs publications soient vendues comme matériel d’entraînement pour l’IA. Découvrir que le problème croissant des bots de spam sur la plateforme découle directement de cet accord n’est certainement pas de nature à apaiser les tensions. Ce problème est totalement de la responsabilité de Reddit.

Les conséquences pour Reddit

Avec cette situation, Reddit se retrouve dans une position délicate. D’un côté, il doit protéger ses accords financiers avec des entreprises comme Google, mais de l’autre, il doit également préserver la qualité de son contenu et l’expérience de ses utilisateurs. La lutte contre les bots IA est devenue une priorité, mais les solutions proposées, comme le World ID, soulèvent également des questions sur la vie privée et la sécurité des données des utilisateurs.

Reddit est ainsi pris dans un dilemme : comment tirer profit de ses utilisateurs tout en garantissant un environnement sain et attractif pour eux ? Cette dynamique montre à quel point la technologie et les pratiques commerciales modernes peuvent créer des situations complexes et parfois problématiques.

Pour en savoir plus sur les défis auxquels Reddit fait face avec les bots IA, vous pouvez consulter cet article sur les enjeux des réseaux sociaux et de l’IA.