马斯克的xAI将开发一台,包含10万个GPU超级计算机

发布时间:2024-05-27 08:57:41 · 责任编辑:字母汇 · 浏览量:61 次

5月26日,The Information消息,马斯克旗下的大模型公司xAI将开发一台包含10万个GPU的超级计算机。

马斯克表示,该计算机将在2025年秋天之前投入使用,为xAI的主打生成式AI产品Grok提供预训练、推理、微调等服务。

马斯克的xAI将开发一台,包含10万个GPU超级计算机

据悉,马斯克将采购英伟达的H100系列并与甲骨文合作一起开发这台计算机。

根据金融时报的消息,马斯克正在与红杉资本、光速资本等投资巨头谈论一笔关于xAI的60亿美元巨额融资,预计将在6月份完成。

如果融资顺利完成,xAI将成为OpenAI、Anthropic、Cohere、Inflection之后,融资最高的大模型平台之一,并且会成为该领域的强有力竞争者。

马斯克的xAI将开发一台,包含10万个GPU超级计算机

xAI成立于2023年7月12日,其主打产品是一个类ChatGPT的大模型Grok-1。

今年3月17日,Xai的大模型Grok-1正式开源,并且支持商业化用途。Grok-1采用了混合专家架构,有3140亿参数,允许商业化,通过文本问答方式可以生成创意文本、代码等。

马斯克的xAI将开发一台,包含10万个GPU超级计算机

根据其公布的测试数据显示,性能超过了GPT-3.5、LLaMA 2 70B,弱于GPT-4、Claude 2、Palm 2等闭源模型。

本文素材来源The Information,如有侵权请联系删除

原文始发于微信公众号(AIGC开放社区):马斯克的xAI将开发一台,包含10万个GPU超级计算机