小红书强化AI使用规范，针对滥用AI创建账号、进行引流销售行为的治理

小红书近期发布了关于整治AI技术滥用的治理公告，重点聚焦以下违规行为：

重点整治的违规行为

• 利用AI批量生产虚假内容涨粉：通过AI技术生成大量虚假内容，以吸引粉丝关注，增加账号影响力。

• 利用AI起号引流带货：借助AI手段批量创建账号，用于引流和带货，扰乱平台正常秩序。

• 售卖AI起号课程：制作并销售教授如何利用AI技术创建账号的课程，帮助他人进行违规操作。

• 售卖AI账号：直接出售通过AI技术创建或运营的账号，为不法分子提供便利。

治理成果

• 违规内容清理：共清理违规内容265条，包括“AI生成低俗猎奇视频”“AI冒充外国幼儿教育专家发布育儿内容”“AI视频账号售卖教程”等。

• 用户处罚：对13个违规用户实施了禁言处置。

• 账号转让打击：严厉打击转让、售卖、出租网络账号的行为。

后续措施

• 持续打击：小红书将持续加大对AI生成相关违规行为的打击力度，不断升级完善平台内AI领域相关的内容治理能力，包括AI识别能力建设。

• 用户参与：鼓励用户合理合法地使用AI进行创作，并呼吁用户在发布AI合成内容时主动进行标注声明。

此次整治行动是小红书响应中央网信办及上海市委网信办关于“清朗·整治AI技术滥用”专项行动的号召而开展的，旨在维护清朗网络空间，营造积极健康、文明和谐的社区环境。