新策略提升信息防护，OpenAI 加固安全屏障

近期，OpenAI为强化安全防线、保护敏感信息，推出了一系列新政策和安全措施，主要包括以下方面：

信息隔离与访问限制

• 实施“信息隔离”政策：严格限制员工接触敏感算法和新产品。例如在开发o1模型期间，只有通过审查且具备相应权限的团队成员，才可以在公共办公区讨论相关内容。

• 采用“默认拒绝”互联网接入政策：所有外部连接必须获得明确许可。

• 限制数据访问：进一步防止控制OpenAI模型如何响应用户提示的关键参数的泄漏。

物理与网络安全升级

• 物理隔离敏感系统：将专有技术隔离在离线计算机系统中。

• 增强办公区域安全：在办公区域实施生物识别门禁（包括指纹识别）。

• 提升数据中心物理安全等级：扩充网络安全团队，强化基础设施防护。

内部管理与人员培训

• 聘请军事专家：为保护重要数据提供专业支持。

• 加强员工安全意识培训：提升员工对信息安全的重视程度，减少因内部人员失误或违规行为导致的信息泄漏风险。

模型与内容安全监控

• 部署“安全导向推理监控器”：专门用于监控其最新的人工智能推理模型o3和o4-mini，防止这些模型提供可能引发生物和化学威胁的有害建议。

• 持续监控与人工补充：尽管监控器测试结果良好，但OpenAI仍依赖部分人工监控，以应对用户可能尝试的新提示词。

合规与国际合作

• 与政府合作：OpenAI与美国国防部签署合同，开发适用于作战支持和企业管理的AI解决方案，同时为政府机构提供定制AI模型及符合使用政策的解决方案。

• 遵守国际监管要求：如日本要求OpenAI避免收集个人敏感信息，或对已收集信息进行脱敏处理。

这些措施的实施，不仅有助于保护OpenAI的核心技术与知识产权，还能在一定程度上缓解外界对其技术可能被滥用的担忧，同时也为AI行业的安全规范树立了标杆。