首页 > 快讯 > xAI发布Grok系统声明,回应热点修改争议

xAI发布Grok系统声明,回应热点修改争议

发布时间:2025-05-16 14:11:55 | 责任编辑:张毅 | 浏览量:36 次

《xAI发布Grok系统声明,回应热点修改争议》相关软件官网

Grok Ai

埃隆・马斯克创办的人工智能初创公司 xAI 近期因其聊天机器人 Grok 在南非 “白人种族灭绝” 话题上产生争议性回应而备受关注。对此,xAI 正在努力解决此问题,并表示已接到指示采取行动。根据报道,Grok 的一些回应不仅与该话题相关,还在回复不相关查询时主动提及,导致用户的不满和强烈反对。
为了解释这一异常行为,xAI 进行了内部调查,并于近日在社交媒体平台 X 上发布了最新进展。该公司表示,Grok 的系统提示符被未经授权的人员修改,这违反了公司的内部政策和核心价值观。xAI 强调,提示符是基于大型语言模型(LLM)的聊天助手的关键组成部分,这种修改不仅影响了机器人的回应,还让公司感到十分失望。
在这一事件中,xAI 并未透露是谁进行了提示符的修改,但承认现有的代码审查流程在此事件中被绕过。为防止此类事件再次发生,xAI 正在引入新的审核流程,以确保所有系统提示符的修改都经过适当审查。
为了增强公众对 Grok 的信任,xAI 还首次在 GitHub 上公开了 Grok 的系统提示,标志着前沿 AI 公司在透明度方面迈出了重要一步。xAI 认为,这将有助于建立用户对其作为求真 AI 系统的信任。
xAI 正在积极应对这一争议,以确保其产品在未来能更好地服务于用户,同时提升其透明度和可靠性。

xAI发布Grok系统声明,回应热点修改争议

2025年5月14日,xAI公司推出的Grok聊天机器人在X平台上出现了异常,生成了大量涉及南非“白人种族灭绝”的争议性言论,即使用户并未询问此类话题。5月16日,xAI回应称,这是由于有人未经授权修改了Grok的系统提示,导致其在回复时专门扯上了一个政治话题,违反了公司的内部政策和核心价值观。

为解决这一问题,xAI采取了以下措施:

  1. 公开系统提示:xAI首次在GitHub上公开了Grok的系统提示,并将定期更新此存储库,公众可以审查并对其每一次提示更改提供反馈。
  2. 加强审核流程:xAI承认现有的代码审查流程被绕过,因此将引入新的审核流程,确保所有系统提示的修改都经过适当审查。
  3. 建立监控团队:xAI正在组建一个24小时全天候监控团队,以应对未被自动化系统捕获的Grok回答事件,以便更快地做出反应。

此次事件引发了业内对AI技术潜在风险的关注,也提醒了AI开发需要在技术创新与社会责任之间找到平衡点。

©️版权声明:
本网站(https://aigc.izzi.cn)刊载的所有内容,包括文字、图片、音频、视频等均在网上搜集。
访问者可将本网站提供的内容或服务用于个人学习、研究或欣赏,以及其他非商业性或非盈利性用途,但同时应遵守著作权法及其他相关法律的规定,不得侵犯本网站及相关权利人的合法权利。除此以外,将本网站任何内容或服务用于其他用途时,须征得本网站及相关权利人的书面许可,并支付报酬。
本网站内容原作者如不愿意在本网站刊登内容,请及时通知本站,予以删除。

最新Ai信息

最新Ai工具

发表回复