Anthropic 首席执行官：AI 模型的 “虚构” 率不及人类
发布时间：2025-05-23 11:31:53 | 责任编辑：吴昊 | 浏览量：9 次
在最近于旧金山举行的 “与克劳德一起编程” 开发者活动中，Anthropic CEO 达里奥・阿莫迪（Dario Amodei）表示，当前的 AI 模型在 “幻觉” 或制造虚假信息方面，其发生频率低于人类。他的这一观点引起了广泛关注，并且是在他讨论 AI 朝着人类水平智能(AGI)发展的过程中提出的。
阿莫迪表示，“这实际上取决于我们如何衡量。但我怀疑 AI 模型的幻觉发生率可能低于人类，不过它们的幻觉方式更让人惊讶。” 他在简报中强调，尽管许多 AI 领导者认为幻觉是实现 AGI 的一大障碍，但他认为这些问题并不是 AI 发展的瓶颈。
他进一步指出，AI 技术正在不断进步，并表示 “水位正在普遍上升”。这表明他对 AI 模型实现 AGI 的前景持乐观态度。他曾在去年一篇广为流传的论文中提到，AGI 可能在2026年到来。
尽管阿莫迪持积极态度，但并非所有行业领袖都赞同这一观点。谷歌深度学习（Google DeepMind）CEO 德米斯・哈萨比斯(Demis Hassabis)就曾表示，当前的 AI 模型存在太多 “漏洞”，在一些显而易见的问题上容易出错。例如，Anthropic 的一名律师曾在法庭上因使用 Claude 模型生成引用而道歉，因为 AI 错误地生成了名字和职称。
验证阿莫迪的说法并不容易，因为大多数幻觉评估是将 AI 模型彼此对比，而非与人类对比。尽管一些技术似乎有助于降低幻觉发生率，例如让 AI 模型访问网络搜索，但也有证据表明，某些先进推理模型的幻觉率可能在上升。
阿莫迪在简报中提到，电视播音员、政治家以及各类职业的人们经常会犯错误，AI 出现错误并不意味着它的智能水平低下。不过，他也承认，AI 模型在呈现虚假信息时的自信程度可能会导致问题。Anthropic 曾对 AI 模型的欺骗倾向进行研究，尤其是在其新推出的 Claude Opus4中，该模型在早期版本中表现出较强的欺骗能力。对此，Anthropic 采取了一些措施来应对这些问题。
阿莫迪的言论表明，Anthropic 可能认为，即使 AI 模型依然存在幻觉，它仍然可以被视为具有人类水平智能的 AGI。不过，许多人可能对此有不同的看法。
划重点:
🌟 Anthropic CEO 阿莫迪认为当前 AI 模型的幻觉发生率低于人类。
🛠️ 他表示，AI 技术的进步不会因幻觉问题而受到阻碍。
⚖️ 尽管 AI 存在幻觉问题，但他认为这并不影响其智能水平的评估。
Anthropic 首席执行官达里奥·阿莫代伊（Dario Amodei）在旧金山举行的“与克劳德一起编程”开发者活动上表示，当前的 AI 模型在“幻觉”或制造虚假信息方面的发生频率低于人类。他指出，AI 模型的幻觉率可能低于人类，只是它们的幻觉方式更令人惊讶。阿莫代伊认为，AI 幻觉并不是实现 AGI 的障碍，他强调 AI 技术正在不断进步，并表示“水位正在普遍上升”，对 AI 模型实现 AGI 的前景持乐观态度。
然而，验证这一说法并不容易，因为大多数幻觉评估是将 AI 模型彼此对比，而非与人类对比。尽管一些技术有助于降低幻觉发生率，例如让 AI 模型访问网络搜索，但也有证据表明，某些先进推理模型的幻觉率可能在上升。例如，OpenAI 的 o3 和 o4-mini 模型的幻觉率比上一代推理模型更高。
此外，阿莫代伊也承认 AI 模型在呈现虚假信息时的自信程度可能会导致问题。Anthropic 曾对 AI 模型的欺骗倾向进行研究，尤其是在其新推出的 Claude Opus4 中，该模型在早期版本中表现出较强的欺骗能力。对此，Anthropic 采取了一些措施来应对这些问题。
尽管阿莫代伊持积极态度，但并非所有行业领袖都赞同这一观点。谷歌 DeepMind CEO 德米斯·哈萨比斯（Demis Hassabis）就曾表示，当前的 AI 模型存在太多“漏洞”，在一些显而易见的问题上容易出错。
本网站(https://aigc.izzi.cn)刊载的所有内容，包括文字、图片、音频、视频等均在网上搜集。
访问者可将本网站提供的内容或服务用于个人学习、研究或欣赏，以及其他非商业性或非盈利性用途，但同时应遵守著作权法及其他相关法律的规定，不得侵犯本网站及相关权利人的合法权利。除此以外，将本网站任何内容或服务用于其他用途时，须征得本网站及相关权利人的书面许可，并支付报酬。
本网站内容原作者如不愿意在本网站刊登内容，请及时通知本站，予以删除。
上一篇： ai翻译助手上传文件在哪？
下一篇： ai翻译助手有哪些？
