“马斯克的新产品引发热议：’辣味模式’在Grok Imagine视频工具中引发公关风波”
发布时间：2025-08-11 14:21:59 | 责任编辑：吴昊 | 浏览量：9 次
xAI 近期推出了一款名为 Grok Imagine 的 AI 视频制作工具，目前已向 SuperGrok 或 Premium+ 的付费用户开放，每月订阅费为30或35美元。用户可以在 Grok 应用的专属标签页中使用该功能，通过输入提示词来生成包含同步声音的六秒短视频，或将静态图片转换为循环播放的动态视频片段。
Grok Imagine 最受关注的功能是其独特的“辛辣模式”。该模式允许用户在一定范围内生成“尺度更大”的内容。尽管 xAI 方面声称已部署过滤器和审核机制，以防止生成真正的裸露或色情内容，但这并未阻止用户试图探索其功能边界。
马斯克本人在 X 平台上发布了一段据描述为“衣着暴露”的天使视频，进一步引发了用户的争议和测试热情。xAI 坚称安全护栏已到位，但早期测试者仍试图突破这些限制。
这场测试很快引发了一场严重的公关危机。据在线虐待问题专家、法学教授克莱尔·麦格林（Clare McGlynn）透露，Grok Imagine 在未经明确指令的情况下，创作了流行歌星 泰勒·斯威夫特（Taylor Swift） 的色情露骨片段。
测试者表示，Grok Imagine 在“辛辣模式”下“毫不犹豫地吐出了这位流行歌星裸露上半身的完全未经审查的视频”，且用户并未主动提出生成露骨内容的要求。此外，报道还指出，该平台未能落实有效的年龄验证措施，而这在英国已是法律强制要求。
Grok Imagine 的“辛辣模式”功能在技术创新带来便利的同时，其安全和审核机制的有效性正受到严重质疑。如何在内容开放与用户安全之间取得平衡，将是 xAI 在未来发展中需要面对的严峻挑战。
事件概述
2025年8月初，埃隆·马斯克旗下xAI公司推出AI视频生成工具 Grok Imagine，其中的 “辛辣模式”（Spicy Mode） 引发了巨大争议。
核心争议
-
内容失控：《The Verge》等媒体测试发现，用户输入如“泰勒·斯威夫特在科切拉音乐节”等模糊提示词，选择“辛辣模式”后，Grok Imagine 会自动生成名人（如泰勒·斯威夫特）的半裸或裸体深度伪造视频，甚至包含性暗示动作。
-
年龄验证缺失：该工具仅要求用户一次勾选年龄声明，无实质验证，未成年人可轻易访问“辛辣模式”，违反英美相关法律要求。
-
公关危机：事件曝光后，xAI尚未公开回应安全漏洞，马斯克却在社交媒体上继续宣传产品，回避安全质疑，引发公众对AI伦理和企业责任的广泛讨论。
法律与道德风险
-
违反法律：根据美国2025年生效的《删除法案》（Take It Down Act），未经同意发布AI合成的私密影像属联邦犯罪，平台需在48小时内删除相关内容，否则面临高额罚款。
-
道德争议：专家担忧此类工具会加剧对女性的性化与骚扰，损害个人名誉，造成心理伤害，同时呼吁加强AI伦理规范。
事件影响
-
用户反应：部分用户对产品表示震惊与不满，认为其内容审核机制存在严重缺陷。
-
监管关注：英美监管机构表示将加强对生成式AI工具的监管，确保采取适当保障措施。
本网站(https://aigc.izzi.cn)刊载的所有内容，包括文字、图片、音频、视频等均在网上搜集。
访问者可将本网站提供的内容或服务用于个人学习、研究或欣赏，以及其他非商业性或非盈利性用途，但同时应遵守著作权法及其他相关法律的规定，不得侵犯本网站及相关权利人的合法权利。除此以外，将本网站任何内容或服务用于其他用途时，须征得本网站及相关权利人的书面许可，并支付报酬。
本网站内容原作者如不愿意在本网站刊登内容，请及时通知本站，予以删除。
