Gemini：谷歌规模最大、能力最强的 AI 模型

发布时间:2023-12-07 17:55:34 · 责任编辑:字母汇 · 浏览量:132 次

Gemini 是谷歌迄今为止最强大、最通用的模型，它在许多领先的基准测试中都展现出了最先进的性能。我们的第一个版本 Gemini 1.0 针对不同尺寸进行了优化，分别是：Ultra、Pro 和 Nano。这些是进入 Gemini 时代的第一个模型，也是我们今年早些时候成立 Google DeepMind 时的愿景的首次实现。这一新时代的模型代表了我们作为一家公司在科学和工程方面所做的最大努力之一。我对未来以及 Gemini 将为全世界的人们带来的机遇感到由衷的兴奋。

介绍 Gemini

作者：Demis Hassabis

Google DeepMind CEO 和联合创始人，

代表 Gemini 团队

与许多从事研究的同事一样，我一直把 AI 当作毕生工作的重点。从少年时为电脑游戏编写 AI 程序，到多年来作为神经科学研究员试图了解大脑的工作原理以来，我始终坚信，如果能制造出更智能的机器，我们就能利用这些机器以不可思议的方式造福人类。

以负责任的方式用 AI 赋能世界，这一承诺将继续推动我们在 Google DeepMind 的工作。长期以来，我们一直希望从人们理解世界和与世界互动的方式中汲取灵感，建立新一代 AI 模型。AI 给人的感觉将不再仅仅是一款智能软件，它将更加有用且直观，就像是一个专业的帮手或助理。

今天，当我们推出 Gemini 时，我们离这一愿景又近了一步，这是我们迄今为止构建的最强大、最通用的模型。

Gemini 是包括 Google Research 在内的 Google 各团队间进行广泛合作的成果。它从一开始就被创建为多模态的模型，这意味着它可以归纳并流畅地理解、操作以及组合不同类型的信息，包括文本、代码、音频、图像和视频。

Gemini 也是我们迄今为止最灵活的模型，从数据中心到移动设备，它能够在所有设备上高效运行。其先进的功能将显著改善开发者和企业客户通过 AI 构建和扩展的方式。

我们针对三种不同的尺寸对第一代 Gemini 1.0 进行了优化：

• Gemini Ultra —我们规模最大且功能最强大的模型，适用于高度复杂的任务。
• Gemini Pro — 我们适用于各种任务的最佳模型。
• Gemini Nano — 我们端侧设备上最高效的模型。

先进的性能

我们一直在对 Gemini 模型进行严格的测试并评估其在各种任务中的性能。从自然图像、音频和视频理解到数学推理，在被大型语言模型（LLM）研究和开发中广泛使用的 32 项学术基准中，Gemini Ultra 的性能有 30 项都超过了目前最先进的水平。

Gemini Ultra 的得分率为 90.0%，是第一个在 MMLU（大规模多任务语言理解）测试中超过人类专家的模型，MMLU 综合使用了数学、物理、历史、法律、医学和伦理等 57 个科目，用于测试世界知识和解决问题的能力。

针对 MMLU，我们新的基准测试方法让 Gemini 能够利用其推理能力在回答困难问题之前更加仔细地思考，从而比仅凭第一印象就直接回答问题有显著的改善。

在新的 MMMU 基准测试中，Gemini Ultra 也取得了得分率为 59.4% 的优异成绩，该基准测试由横跨不同领域、需要仔细推理的多模态任务组成。

在我们的图像基准测试中，Gemini Ultra 在不使用对象字符识别 (OCR) 系统来提取图像中的文本进行下一步处理的情况下，表现优于以前最好的模型。这些基准测试凸显了 Gemini 的原生多模态性，并显示出了 Gemini 具有更复杂推理能力的潜力。

下一代的能力

到目前为止，创建多模态模型的标准方法是分别训练不同模态的组件，然后将它们拼接在一起，以粗略模拟某些功能。这些模型有时可以很好地完成描述图像等特定任务，但在概念性更强、更复杂的推理方面却显得力不从心。

我们将 Gemini 设计为原生多模态，从一开始就在不同模态上进行预训练。然后，我们利用额外的多模态数据对其进行微调，以进一步提高其有效性。这有助于 Gemini 从最初阶段就能对输入的各种内容顺畅地进行理解和推理，远远优于现有的多模态模型，其能力几乎各个领域都是最先进的。

复杂的推理

Gemini 1.0 具有复杂的多模态推理能力，可帮助理解复杂的书面和视觉信息。这使得它具有独特的技能，可以在海量的数据中发掘难以辨别的知识内容。

它拥有通过阅读、过滤以及理解信息，从数十万份文件中提取见解的卓越能力，将有助于在从科学到金融等多个领域以数字化速度实现新的突破。

理解文本、图像、音频及更多

Gemini 1.0 经过训练，可以同时识别并理解文本、图像、音频等，因此它能更好地理解具有细微差别的信息，回答与复杂主题相关的问题。这就让它尤其擅长解释数学和物理等复杂科目中的推理。

高级编码能力

我们的第一代 Gemini 可以理解、解释和生成世界上最流行的编程语言（如 Python、Java、C++ 和 Go）的高质量代码。它能够跨语言工作并对复杂信息进行推理，这些能力使其成为世界领先的编码基础模型之一。

Gemini Ultra 在多个编码基准测试中表现出色，包括 HumanEval（用于评估编码任务性能的重要行业标准）和 Natural2Code（我们内部的留出数据集），该数据集使用作者生成的信息作为来源，而不是基于网络的信息。

Gemini 还可用作更高级编码系统的引擎。两年前，我们展示了 AlphaCode，它是第一个在编程竞赛中性能达到竞赛水平的 AI 代码生成系统。

我们利用一个专门版本的 Gemini，创建了更先进的代码生成系统 AlphaCode 2，该系统擅长解决那些不仅需要编码能力而且也需要复杂数学和理论计算机科学知识的竞赛性编程问题。

在与最初的 AlphaCode 在同一个平台上进行评估时，AlphaCode 2 表现出了巨大的改进。它解决的问题数量几乎是 AlphaCode 的两倍，我们预计它的性能超过 85% 的参赛者，比 AlphaCode 高出将近 50%。当程序员与 AlphaCode 2 合作，为示例代码定义某些属性时，它的表现甚至更好。

我们很高兴程序员能越来越多地使用功能强大的 AI 模型作为协作工具，帮助他们推理问题、提出代码设计方案并协助实施，这样他们就能更快地发布应用程序并设计出更好的服务。

更加可靠、可扩展和高效

我们使用由 Google 设计的 TPUs v4 和 v5e 在通过 AI 优化过的基础设施上对 Gemini 1.0 进行了大规模训练。我们将其设计为最可靠、可扩展性最强且推理最高效的模型来进行训练。

在 TPUs 上，Gemini 的运行速度明显快于早期规模更小、性能更弱的模型。这些定制设计的 AI 加速器一直是 Google 服务数十亿用户的 AI 赋能产品的核心，如 Search、YouTube、Gmail、Google Maps、Google Play 和 Android。它们还使得世界各地的公司能够经济高效地训练大规模的 AI 模型。

今天，我们还发布了迄今为止功能最强大、效率最高且可扩展性最强的 TPU 系统 Cloud TPU v5p，旨在为训练前沿 AI 模型提供支持。新一代 TPU 将加速 Gemini 的开发，帮助开发者和企业客户更快地训练大规模生成式 AI 模型，从而更快推出新产品和新功能。

以责任和安全为核心

在 Google，我们致力于在所有工作中以大胆而负责任的方式推进 AI。在 Google AI 原则和我们所有产品的强大的安全政策的基础上，我们正在增加新的保护措施，以满足 Gemini 的多模态能力。在开发的每一个阶段，我们都会考虑潜在的风险，并努力进行测试和降低这些风险。

Gemini 拥有迄今为止 Google 所有 AI 模型中最全面的安全评估，包括偏见和毒性评估。我们对网络攻击、说服力和自主性等潜在风险领域进行了创新性的研究，并应用了 Google Research 一流的对抗性测试技术，帮助我们在部署 Gemini 之前检测关键的安全问题。

为了找出我们内部评估方法中存在的盲点，我们正与多个外部专家和合作伙伴合作，通过涵盖多个问题的压力测试来对我们的模型进行测试。

为了在 Gemini 的训练阶段诊断内容安全问题，并确保其输出符合我们的政策，我们使用了一些基准测试，例如真实毒性提示（Real Toxicity Prompts），这是一套由 Allen Institute of AI 的专家开发的基准测试，包含了从网络上提取的 10 万条具有不同程度毒性的提示。我们将在未来介绍关于该项工作的更多细节。

为了减少伤害，我们构建了专门的安全分类器来识别、标记和筛选涉及暴力或负面刻板印象等方面的内容。结合强大的过滤器，这种分层方法旨在让 Gemini 对每个人都更加安全和包容。此外，我们正继续解决模型面临的已知挑战，例如事实性、基础、归因性以及协作性。

责任和安全始终是我们开发和部署模型的核心。这是一个需要多方协作的长期承诺，因此我们正在通过 MLCommons、Frontier Model Forum 及其 AI Safety Fund ，以及我们的安全人工智能框架（SAIF）（该框架旨在帮助减少公共和私营部门的AI系统的安全风险）等组织与业界和更广泛的生态系统合作，设定最佳实践以及设定安全标准。在开发 Gemini 的过程中，我们将继续与世界各地的研究人员、政府和社会团体合作。

让 Gemini 普及全球

Gemini 1.0 现已在多种产品和平台上推出：

Google 产品中的 Gemini Pro

我们通过 Google 的产品将 Gemini 带给数十亿人。

从今天开始，Bard 将使用 Gemini Pro 的微调版本来进行更高级的推理、规划和理解等。这是 Bard 自推出以来最大的升级。

它将在 170 多个国家和地区提供英语服务，并且我们计划在未来几个月内扩展不同的模态，并支持新的语言和地区。

我们还在 Pixel 上使用 Gemini。Pixel 8 Pro 是首款搭载 Gemini Nano 的智能手机，它可以支持录音应用中的“总结”等新功能，并在 Gboard 中推出“智能回复”功能，从 WhatsApp 开始，明年还将推出更多信息应用。

未来几个月，Gemini 将应用于我们更多的产品和服务，如 Search、Ads、Chrome 和 Duet AI。

我们已经开始在 Search 中试验 Gemini，它能够为用户提供更快的搜索生成体验（SGE），用户在美国的英语搜索延迟降低了 40%，同时在质量方面也有所提高。

用 Gemini 打造您的产品

从 12 月 13 日开始，开发者和企业客户可以通过 Google AI Studio 或 Google Cloud Vertex AI 中的 Gemini API 获取 Gemini Pro。

Google AI Studio 是一款基于网络的免费开发者工具，可使用 API 密钥快速创建原型并启动应用程序。当需要一个完全托管的 AI 平台时，Vertex AI 允许对 Gemini 进行定制，提供全面的数据控制，并受益于 Google Cloud 功能，实现企业安全性、保密性、隐私性以及数据治理和合规性。

Android 开发者还可以通过 AICore 使用我们端侧任务最高效的模型 Gemini Nano。AICore 是 Android 14 中的一项新的系统功能，从 Pixel 8 Pro 设备开始支持。注册获得 AICore 预览。

敬请期待 Gemini Ultra

就 Gemini Ultra 而言，我们目前正在完成大规模的信任和安全检查，包括由可信赖的外部团队进行红队测试，并在其被广泛使用前通过微调和人类反馈强化学习（RLHF）进一步完善模型。

在模型的完善过程中，我们将向部分客户、开发者、合作伙伴以及安全和责任专家提供 Gemini Ultra，以供其进行早期试验和提供反馈。随后，在明年初我们将向开发者和企业客户提供该模型。

明年年初，我们还将推出 Bard Advanced，这是一种全新的、前沿的 AI 体验，让您可以从 Gemini Ultra 开始使用我们最佳的模型和功能。

Gemini 时代：推动创新未来

这是 AI 发展过程中的一座重要里程碑，也标志着 Google 迈进新纪元的开始，我们将继续快速创新，并以负责任的方式不断提升我们模型的能力。

迄今为止，我们已经在 Gemini 上取得了巨大进展。我们正在努力进一步扩展其未来版本的各种功能，包括在规划和记忆方面取得进展，以及通过增加上下文窗口来处理更多信息并提供更好的响应。

我们对负责任的 AI 为世界带来的无限可能感到兴奋，我们的创新未来将提高创造力、扩展知识、推动科学发展，并将改变全球数十亿人的生活和工作方式。