5月26日,The Information消息,马斯克旗下的大模型公司xAI将开发一台包含10万个GPU的超级计算机。
马斯克表示,该计算机将在2025年秋天之前投入使用,为xAI的主打生成式AI产品Grok提供预训练、推理、微调等服务。
据悉,马斯克将采购英伟达的H100系列并与甲骨文合作一起开发这台计算机。
根据金融时报的消息,马斯克正在与红杉资本、光速资本等投资巨头谈论一笔关于xAI的60亿美元巨额融资,预计将在6月份完成。
如果融资顺利完成,xAI将成为OpenAI、Anthropic、Cohere、Inflection之后,融资最高的大模型平台之一,并且会成为该领域的强有力竞争者。
xAI成立于2023年7月12日,其主打产品是一个类ChatGPT的大模型Grok-1。
今年3月17日,Xai的大模型Grok-1正式开源,并且支持商业化用途。Grok-1采用了混合专家架构,有3140亿参数,允许商业化,通过文本问答方式可以生成创意文本、代码等。
根据其公布的测试数据显示,性能超过了GPT-3.5、LLaMA 2 70B,弱于GPT-4、Claude 2、Palm 2等闭源模型。
本文素材来源The Information,如有侵权请联系删除
原文始发于微信公众号(AIGC开放社区):马斯克的xAI将开发一台,包含10万个GPU超级计算机