钛媒体App 5月28日消息，刚刚，OpenAI宣布，董事会成立了安全与保障委员会，由董事 Bret Taylor（主席）、Adam D'Angelo、Nicole Seligman 和 Sam Altman（首席执行官）领导。该委员会将负责就 OpenAI 项目和运营的关键安全与保障决策向全体董事会提出建议。
OpenAI透露，公司已开始训练新的旗舰 AI 模型，并将取代 GPT-4，后者为 ChatGPT 提供支持。该公司还成立了一个新的安全委员会来应对人工智能的风险。
在一篇博客文章中，OpenAI表示，它希望新模式能够带来“更高水平的能力”，因为它致力于打造“通用人工智能”，即能够做任何人类大脑能做的事情的机器。新模式将成为人工智能产品的引擎，包括聊天机器人、类似于苹果 Siri 的数字助理、搜索引擎和图像生成器。
该公司表示：“虽然我们很自豪能够打造和发布在性能和安全性方面均处于行业领先地位的车型，但我们欢迎在这个重要时刻进行激烈的辩论。”
OpenAI 的目标是比竞争对手更快地推动人工智能技术的发展，同时也安抚那些批评人士。批评人士认为，人工智能技术正变得越来越危险，有助于传播虚假信息、取代工作岗位，甚至威胁人类。专家们对科技公司何时能实现通用人工智能意见不一，但包括 OpenAI、谷歌、Meta 和微软在内的公司十多年来一直在稳步提升人工智能技术的能力，大约每两到三年就会有一次显著的飞跃。
OpenAI 的GPT-4于 2023 年 3 月发布，它使聊天机器人和其他软件应用程序能够回答问题、撰写电子邮件、生成学期论文和分析数据。该技术的更新版本于本月发布，尚未广泛使用，它还可以生成图像并以高度对话的语音回答问题和命令。
OpenAI 展示了更新版本（称为 GPT-4o）几天后，女演员斯嘉丽·约翰逊 (Scarlett Johansson)表示，它使用的声音听起来“与我的声音非常相似”。她说，她拒绝了 OpenAI 首席执行官萨姆·奥特曼 (Sam Altman) 为该产品授权她的声音的努力，并聘请了一名律师，要求 OpenAI 停止使用该声音。该公司表示，这个声音不是约翰逊女士的。
GPT-4o 等技术通过分析大量数字数据（包括声音、照片、视频、维基百科文章、书籍和新闻报道）来学习技能。
有分析指，AI 模型的数字化“训练”可能需要数月甚至数年的时间。训练完成后，人工智能公司通常还要花几个月的时间测试该技术并对其进行微调以供公众使用。
这可能意味着 OpenAI 的下一个模型还要再过九个月到一年甚至更长的时间才会问世。
OpenAI 表示，在训练新模型的同时，其新成立的安全与保障委员会将致力于完善保护该技术的政策和流程。委员会成员包括 Altman 先生以及 OpenAI 董事会成员 Bret Taylor、Adam D'Angelo 和 Nicole Seligman。该公司表示，新政策可能会在夏末或秋季实施。
本月初，OpenAI 宣布联合创始人兼安全工作负责人之一 Ilya Sutskever 将离职。这引发了人们对 OpenAI 未能充分应对人工智能带来的危险的担忧
去年 11 月，Ilya博士与其他三名董事会成员一起将Altman从 OpenAI 中除名，称Altman不再值得信任，无法负责公司为人类创造通用人工智能的计划。在Altman盟友的游说下，五天后他恢复了职务，并重新掌控了公司。
Ilya博士领导着 OpenAI 的超级对齐团队，该团队致力于探索确保未来人工智能模型不会造成伤害的方法。与该领域的其他人一样，他越来越担心人工智能对人类构成威胁。
与Ilya博士一起领导超级对齐团队的 Jan Leike 本月从公司辞职，这让该团队的未来充满疑问。
OpenAI 已将其长期安全研究纳入其更大的努力中，以确保其技术是安全的。这项工作将由另一位联合创始人约翰·舒尔曼 (John Schulman) 领导，他曾领导创建 ChatGPT 的团队。新的安全委员会将监督舒尔曼博士的研究，并为公司如何应对技术风险提供指导。
原文始发于微信公众号（钛媒体AGI）：突发！OpenAI宣布，已开始训练新的旗舰AI大模型｜钛媒体AGI