“AI趋势分析:互联网女皇揭示模型训练天价投入,推理费用却骤降”
发布时间:2025-06-05 15:34:08 | 责任编辑:吴昊 | 浏览量:25 次
根据互联网女皇发布的AI趋势报告的深度分析,人工智能(AI)模型的计算经济学正经历着一场关键的转变。报告指出,训练最强大的大型语言模型(LLM)已成为人类历史上最昂贵、资本最密集的投入之一,目前每个模型的训练成本往往超过1亿美元。Anthropic首席执行官Dario Amodei在2024年中指出,目前有模型正在训练,其成本接近10亿美元,并预测到2025年,训练成本高达100亿美元的模型可能会出现。
然而,互联网女皇AI趋势报告同时强调,运行模型的推理成本(即模型生成预测、答案或内容)正在迅速下降。报告引用英伟达的数据显示,其2024年发布的Blackwell GPU生成每个token所需的能量比2014年的Kepler GPU前身低了105,000倍。斯坦福HAI的数据进一步揭示,在两年内,AI推理的客户价格(每百万token)下降了99.7%。这种成本效益的提高,速度远超此前的电力和计算机内存等关键技术。
这种推理成本的急剧下降和模型可访问性的提高,使得AI的实验成本降低,迭代速度加快。互联网女皇AI趋势报告认为,这使得产品化对于几乎所有有想法的人都变得可行,从而导致了开发者活动的激增。例如,Meta的Llama模型在八个月内的下载量增加了3.4倍。此外,报告指出,尽管模型成本不同,但AI模型的性能正在迅速趋于收敛,顶级前沿模型与更小、更高效模型之间的差距正在缩小。
报告总结称,AI的这种经济学演变正在引发一场“创造力的大爆发”。开发者可以根据技术或财务需求选择最合适的模型,而非受限于单一供应商,这正在重塑AI模型提供商的商业模式,迫使它们重新思考如何实现盈利。
根据“互联网女皇”玛丽·米克尔发布的《AI趋势报告2025》,AI领域正经历着训练成本飙升与推理成本暴跌的双重趋势:
AI模型训练成本超高
-
成本增长迅猛:训练最强大的大型语言模型(LLM)已成为人类历史上最昂贵、资本最密集的投入之一。顶级模型的训练成本在过去八年里飙升了约2400倍。Anthropic的CEO Dario Amodei在2024年中期曾表示,当时的模型训练成本已达1亿美元,而训练中的模型成本已接近10亿美元,他预计到2025年可能会出现耗资百亿美元的训练项目。
-
竞争加剧门槛提升:这种军备竞赛式的投入,使得头部模型的门槛越来越高,只有少数科技巨头和资本雄厚的企业能够承担如此高昂的训练成本。
AI模型推理成本断崖式下降
-
成本下降惊人:斯坦福大学的研究显示,按每百万token计算,推理成本在过去两年内下降了99.7%。英伟达2024年发布的Blackwell GPU生成每个token所需的能量比2014年的Kepler GPU前身低了10.5万倍。
-
推动行业变革:推理成本的急剧下降使得AI的实验成本降低,迭代速度加快,产品化变得可行,从而导致了开发者活动的激增。例如,Meta的Llama模型在八个月内的下载量增加了3.4倍。此外,这也使得定制化轻量级模型凭借低成本优势崛起,谷歌TPU、亚马逊Trainium等云服务加速布局定制化算力基础设施。
这种训练成本与推理成本的“剪刀差”效应正在重塑整个行业的游戏规则。
本网站(https://aigc.izzi.cn)刊载的所有内容,包括文字、图片、音频、视频等均在网上搜集。
访问者可将本网站提供的内容或服务用于个人学习、研究或欣赏,以及其他非商业性或非盈利性用途,但同时应遵守著作权法及其他相关法律的规定,不得侵犯本网站及相关权利人的合法权利。除此以外,将本网站任何内容或服务用于其他用途时,须征得本网站及相关权利人的书面许可,并支付报酬。
本网站内容原作者如不愿意在本网站刊登内容,请及时通知本站,予以删除。
上一篇: 大模型开发工程师招聘能力要求
下一篇: 大模型开发工程师是什么专业