OpenAI联合创始人John Schulman预测:三年内迎接AGI时代

发布时间:2024-05-21 17:41:30 · 责任编辑:字母汇 · 浏览量:90 次

在最近的一次访谈中,博主Dwarkesh与OpenAI的联合创始人John Schulman进行了深入对话。John Schulman领导了ChatGPT的开发,目前负责后训练团队。在这次访谈中,John分享了他对通用人工智能(AGI)和超级人工智能ASI的时间线预测,以及OpenAI的未来计划

AGI和ASI的时间线预测

三年内迎接AGI时代:OpenAI联合创始人John Schulman预测AI进化路线

John Schulman预计,

  • AGI将在2027年实现,ASI将在2029年到来。这意味着在未来三到五年内,我们将看到人工智能在科学研究和其他复杂任务上的自主性飞跃。John强调,虽然这些时间线不是绝对的,但进行这样的讨论仍然非常重要

  • John还提到,AGI和ASI在某些任务上的表现可能不需要达到超人级别的智能,这引发了对AI实际能力的讨论

能力与产品路线

根据John的描述,OpenAI的产品路线图如下:

  • 2025/2026年:AI将能够独立完成整个编程项目,而不仅仅是提供编写函数的建议。模型将能够根据高层次的指示自行编写代码、测试并迭代。这将包括处理错误和边缘情况的能力增强
  • 长时间复杂任务能力:AI在执行和管理复杂的长时间任务上的能力将显著提高,能够使用为人类设计的网站,并在电脑上实现类似Clippy的主动性功能。

数据使用观点

John认为关于数据不足的担忧被夸大了。他提到,

  • 即使在数据有限的情况下,通过少量示例也能显著改善AI的性能

  • 更大的模型在样本效率上更高,能够从少量数据中生成正确的功能。因此,识别所需的功能并收集相关数据比生成大量数据更为重要

构建与蒸馏模型

John指出,从头开始构建AI系统是复杂的,只有少数组织能够完成。然而,蒸馏现有模型或克隆其他模型的输出相对容易,即便这可能违反服务条款。一些小型玩家已经在使用这种方法来赶上领先者

注:蒸馏模型是指将一个复杂、通常是较大的“教师模型”(teacher model)的知识提取出来,并传递给一个较小、较简单的“学生模型”(student model)。这种方法的目的是在不显著降低模型性能的情况下,减少模型的复杂度,从而使模型更易于部署和运行。

个人观点

  1. AGI的实现近在咫尺:在未来三年内实现能够计划和执行长期任务的智能体,并在五年内扩展到更长的时间跨度,这是AGI的定义。当前数据主要是单回合响应,存在许多尚未开发的潜力
  2. 数据不足问题被夸大:少量样本就能显著改善行为,表明识别所需功能并收集相关数据比生成大量数据更为重要。仍有许多未被充分利用的机会

  3. GPT-4o发布将完善反馈循环:4o的发布将为模型提供必要的数据以改进多回合响应能力。想象一下,4o访问你的桌面并协助项目,这将在三年内显著提升其能力

  4. 随着AI的发展,编程的传统方式将逐渐过时

原文始发于微信公众号(AI寒武纪):三年内迎接AGI时代:OpenAI联合创始人John Schulman预测AI进化路线