全屏广告位招商

亚马逊与Cerebras合作部署AI推理芯片 挑战英伟达市场主导地位

发布时间:   点击量:15 次

美国科技巨头亚马逊与人工智能芯片初创公司Cerebras Systems周五宣布达成合作协议,将两家公司的计算芯片整合到一项新服务中,旨在加速聊天机器人、编程工具以及其他AI应用。

估值约231亿美元的Cerebras是一家AI芯片初创企业,正试图通过研发一种与英伟达旗舰芯片截然不同的AI芯片来挑战行业霸主地位。

image

今年早些时候,Cerebras还与OpenAI签署了一份价值100亿美元的芯片供应协议,使用Cerebras芯片为其热门聊天机器人提供算力支持。

根据周五公布的合作计划,Cerebras芯片将部署在亚马逊云服务(AWS)数据中心内,并与亚马逊自研的Trainium3 AI芯片连接,同时通过亚马逊定制的网络技术进行互联。

Cerebras首席执行官Andrew Feldman表示:“从个人开发者到全球最大的银行,各类客户都在使用AWS。”他补充称,这项合作将“让用户只需点击一下就能使用Cerebras的算力。”

不过,双方均未披露此次合作协议的具体规模。

亚马逊与Cerebras将合作解决AI领域中的一个关键环节——推理,即已经训练完成的AI模型接收用户请求并生成答案的过程。

双方将这一任务拆分为两个步骤:首先是"预填充"阶段,将用户的自然语言请求转换为AI计算机使用的"token"语言;其次是"解码"阶段,AI计算机生成用户所需的答案。

亚马逊表示,其Trainium3芯片将负责预填充阶段,而Cerebras芯片则负责解码阶段。

这笔交易凸显出算力市场正在发生的重要转变:AI产业正逐渐从模型训练阶段转向推理阶段。越来越多开发AI工具和智能代理公司意识到,虽然GPU在训练模型时速度快、性能强,但在需要更高响应速度的推理工作负载方面并不理想。因此,随着用户规模迅速增长、AI工具用户达到数百万级,企业正积极寻求多元化的芯片供应来源。

这一策略与分析师预计英伟达将在下周公布的方案类似。届时英伟达预计将介绍如何将其GPU与AI芯片初创公司Groq的芯片进行结合。英伟达在去年12月底斥资170亿美元收购Groq。

亚马逊在声明中表示,目前还无法对其服务(预计将在今年下半年上线)与英伟达尚未公布细节的方案进行详细比较,但公司预计其产品将具有更高的性价比。

“目前英伟达与Groq的整合时间表仍不明确,而我们的Trainium3项目距离运行生产级工作负载只剩几个月时间。”

声明还提到:“我们可以明确的是,我们相信Trainium3以及未来的Trainium4将在性价比方面持续领先于市面上的GPU。”

Feldman表示:“越来越多的人在使用AI,使用频率更高,并且用它来解决更复杂的问题。这使得Cerebras与Trainium的组合能够进入全球最大的云平台,同时也让我们接触到大量客户。”

本资讯中除公开信息外的其他数据均是基于公开信息(包括但不仅限于行业新闻、研讨会、展览会、企业财报、券商报告、国家统计局数据、海关进出口数据、各大协会和机构公布的各类数据等等),并依托废废网/道奇财经内部数据库模型,由研究小组进行综合分析和合理推断得出,仅供参考,不构成决策建议,客户决策应自主判断,与废废网/道奇财经无关。

废废网/道奇财经对本声明条款拥有最终解释权,并保留根据实际情况对声明内容进行调整和修改的权利。

我要评论:
请输入验证码:


本站部分信息由企业自行提供,该企业负责信息内容的真实性、准确性和合法性,临沂金属网对此不承担任何保证责任.

Copyright © 2010临沂金属网 版权所有客服电话:0539-3188199/13345086668 传真:0539-8955596 邮编:276000 邮箱:aaaly@189.cn

在线QQ:631737566 627483933 金属群:61886030 62209891 60369467

昨日访问量统计:pv:

鲁公网安备 37130202371526号    鲁ICP备08100513号-2

技术支持:临沂七星信息技术有限责任公司