为了抵御AI仿冒问题，Reddit计划强化用户身份验证
发布时间：2025-05-07 10:45:32 | 责任编辑：张毅 | 浏览量：17 次
最近，Reddit 社区因一项研究实验而震惊，研究团队在 “Change My View” 子版块发布了一群 AI 驱动的模仿人类的机器人。这一大规模实验旨在探讨 AI 的说服力，结果显示，这机器人发布了超过1700条评论，冒充诸如虐待幸存者或反对 “黑人的命也是命” 运动的争议性身份。
对于 Reddit 来说，这起事件如同一场小型噩梦。Reddit 一直以来的品牌形象与真实和真实性密切相关，用户希望在这里分享真实的观点和经历。如果这种以人类为中心的生态系统被 AI 干扰，或用户无法信任信息来源，可能会危及 Reddit 的核心价值，甚至影响公司的盈利模式，因为 Reddit 现已将其内容出售给 OpenAI 用于训练。
对此，Reddit 对此实验表示谴责，称其为 “错误且极不道德的实验”，并向参与实验的大学提出了投诉。然而，这一事件只是未来可能出现的多个 AI 机器人假冒人类行为中的一个。为保护用户免受机器人操控，并保持 Reddit 的 “人性”，Reddit 公司已悄然预告了一项即将推出的措施，这项措施可能会受到用户的反对，因为许多用户来到 Reddit 的原因之一就是追求匿名性。
Reddit 首席执行官 Steve Huffman 在一篇帖子中表示，Reddit 将与 “多个第三方服务” 合作，验证用户的真实性。这对于一个几乎不要求用户提供个人信息的平台注册来说，是一个重大转变。
Huffman 表示:“为了保持 Reddit 的人性，并满足不断变化的监管要求，我们需要更多的信息，特别是需要知道您是否为人类，以及在某些地方，您是否为成年人。但我们绝对不希望知道您的姓名或身份。”
一位 Reddit 发言人拒绝透露在什么情况下公司会要求用户进行验证，尽管他们确认 Reddit 已经采取措施禁止 “坏” 机器人。发言人还未透露公司将使用哪些第三方服务，或用户需要提供哪些个人信息。
如今，许多公司依赖于像 Persona、Alloy、Stripe Identity、Plaid 和 Footprint 等验证平台，这些平台通常要求提供政府签发的身份证明以验证年龄和身份。同时，还有一些新兴的技术，比如 Sam Altman 的 “人类证明” 设备。
反对身份验证的人认为，与社交媒体平台共享个人信息存在数据隐私和安全风险。尤其是对于 Reddit 这样的平台，用户可能不会愿意附上姓名来分享自己的经历。Huffman 重申，Reddit 将继续 “极为保护您的个人信息”，并 “将继续反对来自公共或私人当局的过度或不合理要求”。
划重点:
🌐1. Reddit 面临 AI 机器人假冒人类的挑战，已启动用户验证措施以维护平台真实性。
🔍2. CEO Steve Huffman 表示将与第三方服务合作验证用户身份，保护用户隐私。
🛡️3. 虽然需要更多信息来确保用户为人类，Reddit 承诺不会收集用户的姓名或身份。
Reddit 正在加强用户验证措施，以防止 AI 假冒人类用户的行为。这一举措的背景是近期苏黎世大学的研究团队在 Reddit 的“Change My View”子版块上进行了一项秘密实验，使用 AI 机器人冒充人类用户发布评论，引发了广泛争议。
Reddit 的应对措施
Reddit 首席执行官 Steve Huffman 表示，公司将与“多个第三方服务”合作，验证用户是否为真实人类，并在某些情况下确认用户是否成年。尽管 Huffman 强调 Reddit 不会收集用户的姓名或具体身份信息，但这一措施仍可能引发用户对隐私和匿名性的担忧。
背景与影响
Reddit 一直以匿名性和真实性为特色，用户可以在平台上自由分享观点和经历。然而，AI 机器人冒充人类的行为不仅破坏了这种信任，还可能影响 Reddit 的商业模式，因为其内容被用于训练 AI 模型。此外，该事件也引发了监管部门的关注，欧盟和美国的相关机构都可能加强对 AI 冒充行为的监管。
用户与专家的反应
许多用户担心，提供个人信息进行验证可能会带来隐私和安全风险，尤其是在一个以匿名性为卖点的平台上。不过，业内专家认为，Reddit 的这一举措对于保护用户体验和品牌形象至关重要，尽管可能会引起争议。
Reddit 的这一行动表明，随着 AI 技术的发展，社交媒体平台在维护内容真实性和用户隐私之间需要找到新的平衡。
本网站(https://aigc.izzi.cn)刊载的所有内容，包括文字、图片、音频、视频等均在网上搜集。
访问者可将本网站提供的内容或服务用于个人学习、研究或欣赏，以及其他非商业性或非盈利性用途，但同时应遵守著作权法及其他相关法律的规定，不得侵犯本网站及相关权利人的合法权利。除此以外，将本网站任何内容或服务用于其他用途时，须征得本网站及相关权利人的书面许可，并支付报酬。
本网站内容原作者如不愿意在本网站刊登内容，请及时通知本站，予以删除。
