Face à la montée de la fraude par IA, Reddit intensifie ses efforts pour protéger ses utilisateurs. Cependant, cette lutte soulève des inquiétudes sur la vie privée. Alors que les géants technologiques se battent, Reddit se positionne comme un acteur clé dans la défense des droits numériques.
Expérimentation IA non autorisée sur les utilisateurs
Des chercheurs de l’Université de Zurich ont mené une vaste fraude utilisant l’IA au sein du subreddit Change My View, où des modèles de langage ont adopté divers rôles, notamment celui d’une victime d’agression sexuelle et d’un conseiller en traumatisme. Au total, les bots IA ont publié plus de 1 700 commentaires en prétendant être des humains.
Cela s’est produit en violation des règles de Reddit et des normes éthiques bien établies qui exigent un consentement éclairé pour les expériences psychologiques.
Les modérateurs de CMV ont déposé une plainte formelle auprès de la commission d’éthique de l’université, qui a répondu en indiquant avoir émis un avertissement formel au chercheur principal et a prévu de renforcer les examens préalables des études proposées. Cependant, outrageusement, elle a déclaré que la publication de l’article se poursuivrait.
Reddit réagit
Reddit a condamné cette « expérience inappropriée et hautement non éthique ». Le PDG Steve Huffman a affirmé que l’entreprise répondrait en introduisant de nouvelles mesures visant à « garder Reddit humain ».
Pour garder Reddit humain et répondre aux exigences réglementaires évolutives, nous allons avoir besoin d’un peu plus d’informations. Nous devons savoir si vous êtes un humain et, dans certaines régions, si vous êtes un adulte. Mais nous ne voulons jamais savoir votre nom ou qui vous êtes. Nous travaillerons avec divers services tiers qui pourront nous fournir les informations essentielles sans rien d’autre. Aucune solution n’est parfaite, y compris le statu quo, mais nous ferons de notre mieux pour préserver à la fois l’humanité et l’anonymat de Reddit.
Une mesure qui pourrait s’avérer impopulaire
Reddit a toujours permis des comptes anonymes, et bon nombre de ses utilisateurs ont de bonnes raisons de vouloir garder leur identité privée. Ils peuvent, par exemple, souhaiter partager des informations très personnelles dans certains subreddits.
Bien que Huffman affirme que les nouvelles mesures ne révéleront le nom de personne, TechCrunch rapporte un manque de transparence inquiétant concernant les plans de l’entreprise.
Un porte-parole de Reddit a refusé d’expliquer dans quelles circonstances la société exigerait que les utilisateurs passent par un processus de vérification et n’a pas partagé plus de détails sur les services tiers qui seraient utilisés ou sur le type d’informations personnelles identifiables que les utilisateurs devraient fournir.
Le site souligne également un exemple récent des risques d’identification de comptes anonymes.
Il suffit de regarder comment Meta a remis des conversations privées entre une femme du Nebraska et sa fille de 17 ans, discutant des projets de cette dernière de mettre fin à une grossesse. L’assistance de Meta a conduit les forces de l’ordre à obtenir un mandat de perquisition, entraînant des accusations criminelles contre la mère et la fille.
De meilleures nouvelles pour Reddit
Sur une note plus positive, de nombreux Redditors préfèrent l’ancienne interface à la nouvelle, et Huffman a promis de maintenir old.reddit en ligne « tant que les gens l’utilisent ».
Photo par Matthew Henry sur Unsplash
Nous utilisons des liens affiliés générant des revenus. Plus.
Qu’est-ce qui s’est passé avec Reddit et la fraude AI ?
Reddit a annoncé des plans pour lutter contre une fraude AI à grande échelle sur le subreddit Change My View, où des modèles de langage ont pris des personnalités variées, y compris celle d’une victime de viol.
Comment Reddit prévoit-il de préserver la vie privée des utilisateurs ?
Reddit introduira de nouvelles mesures pour s’assurer que la plateforme reste humaine tout en respectant les exigences réglementaires, sans demander le nom ou l’identité des utilisateurs.
Pourquoi ces nouvelles mesures pourraient-elles être impopulaires ?
Les utilisateurs de Reddit privilégient souvent l’anonymat pour partager des informations personnelles, et les nouvelles vérifications pourraient menacer cette confidentialité.
Y a-t-il des nouvelles positives concernant Reddit ?
Reddit promet de maintenir l’ancienne interface en ligne tant que les utilisateurs continueront à l’utiliser, offrant ainsi une alternative à ceux qui préfèrent l’ancienne version.
