美国国防部与OpenAI签订合同:萨姆·奥尔特曼确保增加“技术安全措施”
发布时间:2026-03-02 10:02:06 | 责任编辑:张毅 | 浏览量:15 次
在 Anthropic 与美国国防部(DoD,在特朗普政府下也被称为“战争部”)因安全底线问题陷入僵局并遭到封杀后,OpenAI 迅速采取行动。公司首席执行官萨姆·奥尔特曼周五晚间宣布,OpenAI 已与军方达成协议,允许其 AI 模型在国防部的分类网络中使用。
此次合作正值敏感时期。此前,Anthropic 因拒绝取消针对“大规模国内监控”和“全自主武器系统”的限制,被特朗普指责为“左翼疯子”,并遭到全美供应链封禁。
奥尔特曼强调的合作原则:
坚守核心底线:奥尔特曼在社交平台 X 上表示,OpenAI 的协议中明确包含了两项关键安全原则:禁止用于国内大规模监控,以及确保武力使用(包括自主武器系统)必须由人类负责。
内置技术护栏:OpenAI 将构建专门的“技术护栏”以确保模型按预期运行,并计划向五角大楼派遣工程师,实地协助模型的部署与安全监管。
拥有“拒绝权”:在公司内部会议上,奥尔特曼透露,政府允许 OpenAI 构建自己的“安全栈”。如果模型拒绝执行某项任务,政府将不会强迫公司修改模型逻辑。
奥尔特曼呼吁国防部将同样的条款推广至所有 AI 公司,并表达了希望通过理性协议化解政府与技术公司之间紧张局势的愿望。然而,这一协议的签署也引发了内部争议,本周已有超过 60 名 OpenAI 员工签署联名信,支持 Anthropic 在军 事化用途上的严苛立场。
本网站(https://aigc.izzi.cn)刊载的所有内容,包括文字、图片、音频、视频等均在网上搜集。
访问者可将本网站提供的内容或服务用于个人学习、研究或欣赏,以及其他非商业性或非盈利性用途,但同时应遵守著作权法及其他相关法律的规定,不得侵犯本网站及相关权利人的合法权利。除此以外,将本网站任何内容或服务用于其他用途时,须征得本网站及相关权利人的书面许可,并支付报酬。
本网站内容原作者如不愿意在本网站刊登内容,请及时通知本站,予以删除。
