亚马逊自研 AWS 芯片在生成式人工智能领域追赶微软和谷歌

在德克萨斯州奥斯汀一个没有标记的办公大楼里,两个小房间中有几个亚马逊员工正在设计两种微芯片,用于训练和加速生成式人工智能。这些定制芯片——Inferentia 和 Trainium,为 AWS 客户提供了一种训练其大型语言模型的替代方案,而这些模型在 GPU 采购上变得越来越困难和昂贵。

亚马逊自研 AWS 芯片在生成式人工智能领域追赶微软和谷歌

亚马逊网络服务(AWS)首席执行官 Adam Selipsky 在六月接受采访时表示:「全世界都想要更多用于生成式人工智能的芯片,无论是 GPU 还是我们自己设计的亚马逊芯片。我认为,我们在为客户提供所需容量方面比任何其他公司都更具优势。」

然而,其他公司已经更加迅速并投入更多资金来抓住生成式人工智能的商机。当 OpenAI 于 11 月发布 ChatGPT 时,微软因为托管这个病毒式聊天机器人并投资据报道达 130 亿美元而受到广泛关注。微软迅速将生成式人工智能模型加入自己的产品中,并在二月份将其纳入必应搜索引擎。

同月,谷歌推出了自己的大型语言模型 Bard,并投资了 OpenAI 的竞争对手 Anthropic 3 亿美元。

直到四月,亚马逊才宣布推出自己的大型语言模型家族 Titan,以及一个名为 Bedrock 的服务,帮助开发人员利用生成式人工智能增强软件。

「亚马逊不习惯追逐市场,亚马逊习惯创建市场。我认为长时间以来,它们首次发现自己处于被动地位,并努力追赶进度,」咨询公司 Gartner 的副总裁分析师 Chirag Dekate 表示。

meta 最近也发布了自己的 LLM——Llama 2。这款开源的 ChatGPT 竞争对手现在可以在微软的 Azure 公共云上进行测试。

芯片作为「真正的差异化」

Dekate 说,从长远来看,亚马逊的定制芯片可能在生成式人工智能领域给它带来优势。

他说:「我认为真正的差异化是他们所拥有的技术能力。你猜怎么着?微软没有 Trainium 或 Inferentia。」

AWS 从 2013 年开始悄悄地生产定制芯片,首先推出了一款名为 Nitro 的专用硬件。如今,这是 AWS 体量最大的芯片。亚马逊告诉 CNBC,每台 AWS 服务器至少有一颗 Nitro 芯片,总共使用超过 2000 万颗。

2015 年,亚马逊收购了以色列芯片初创公司 Annapurna Labs。然后在 2018 年,亚马逊推出了基于 Arm 架构的服务器芯片 Graviton,这是与 AMD 和英特尔等巨头的 x86 CPU 相竞争的一款产品。

「目前 ARM 芯片可能占总服务器市场总销售额的个位数甚至 10%,而且其中一大部分会卖给亚马逊。所以从 CPU 方面来看,他们做得相当不错,」Bernstein Research 的高级分析师 Stacy Rasgon 说道。

2018 年,亚马逊推出了面向人工智能的芯片。这是谷歌宣布推出第一款 Tensor 处理器单元(TPU)的两年后。据报道,微软目前正在与 AMD 合作开发名为 Athena 的人工智能芯片,但尚未正式宣布。

CNBC 参观了亚马逊在德克萨斯州奥斯汀的芯片实验室,那里是 Trainium 和 Inferentia 的开发和测试地点。产品副总裁 Matt Wood 解释了这两款芯片的应用。

他说:「机器学习可以分为两个不同的阶段。你首先训练机器学习模型,然后对这些训练好的模型进行推理。」「相对于 AWS 上训练机器学习模型的任何其他方式,Trainium 的性价比提高了约 50%。」

Trainium 于 2021 年首次上市,此前在 2019 年发布的 Inferentia 已经进入第二代。Inferentia 使客户能够以非常低的成本、高吞吐量、低延迟运行机器学习推理。「当你输入提示到你的生成式人工智能模型中时,所有的预测都是在那里处理的,」Wood 说。

然而,就目前而言,英伟达的 GPU 在训练模型方面仍然占主导地位。今年 7 月,AWS 推出了由英伟达 H100s 驱动的新型人工智能加速硬件。

Rasgon 说:「英伟达芯片拥有一个庞大的软件生态系统,已经建立了超过 15 年的时间,其他公司都没有。对于目前的人工智能来说,最大的赢家是英伟达。」

然而,AWS 在云计算领域的主导地位是亚马逊的一个重要优势。

「亚马逊不需要赢得头条新闻。亚马逊已经拥有非常强大的云计算用户群体。他们只需要找出如何让现有客户利用生成式人工智能扩展价值创造活动,」Dekate 说。

在选择用于生成式人工智能的亚马逊、谷歌和微软之间,有数百万的 AWS 客户可能会被亚马逊吸引,因为他们对亚马逊已经很熟悉,正在运行其他应用程序并将数据存储在那里。

AWS 是全球最大的云计算提供商,在 2022 年拥有 40% 的市场份额,根据技术行业研究机构 Gartner 的数据。尽管近三个季度的运营收入同比下降,但 AWS 在第二季度的运营利润中仍占据了亚马逊整体 77 亿美元运营利润的 70%。AWS 的运营利润率历史上一直远远高于谷歌云。

AWS 还拥有日益增长的面向生成式人工智能的开发者工具组合。

让我们把时间倒回到 ChatGPT 之前。AWS 数据库、分析和机器学习副总裁 Swami Sivasubramanian 说:「这并不是说在那件事发生后,我们突然匆忙地想出了一个计划,因为你不可能在那么短的时间内设计出一个芯片,更不可能在 2 到 3 个月的时间内构建出 Bedrock 服务。」

Swami Sivasubramanian 说:「Bedrock 让 AWS 客户可以访问由 Anthropic、Stability AI、AI21 Labs 和亚马逊自己的 Titan 开发的大型语言模型。我们不相信一个模型就能统治世界,我们希望我们的客户能从多个供应商那里获得最先进的模型,因为他们要为正确的工作选择正确的工具。」

亚马逊最新的人工智能产品之一是 AWS HeAlthScribe,这是一个在七月推出的服务,利用生成式人工智能帮助医生起草患者就诊总结。亚马逊还有一个名为 SageMaker 的机器学习中心,提供算法、模型等。

另一个重要工具是编码辅助工具 CodeWhisperer,亚马逊表示该工具使开发人员的任务平均完成时间提高了 57%。去年,微软也报道了其编码辅助工具 GitHub Copilot 带来的提升生产力的情况。

六月,AWS 宣布成立了一个价值 1 亿美元的生成式人工智能创新「中心」。

「我们有很多客户表示,『我想进行生成式人工智能』,但他们并不清楚这对他们自己的业务意味着什么。因此,我们将派遣解决方案架构师、工程师、战略家和数据科学家与他们一对一合作。」AWS 首席执行官 Selipsky 说。

尽管迄今为止 AWS 主要专注于工具而不是构建与 ChatGPT 竞争的产品,但最近泄露的内部电子邮件显示,亚马逊首席执行官安迪·贾西 (Andy Jassy)直接监督着一个新的中央团队,正在构建更广泛的大规模语言模型。

在第二季度的盈利电话会议上,贾西表示,AWS 业务的「很大一部分」现在由人工智能推动,提供了 20 多个机器学习服务。一些客户案例包括飞利浦、3M、Old Mutual 和汇丰银行。

人工智能的爆炸性增长伴随着许多公司担心员工将专有信息放入用于公共大型语言模型的训练数据中的一系列安全问题。

「我无法告诉你有多少财富 500 强企业告诉我他们禁止使用 ChatGPT。因此,我们通过我们对生成式人工智能的方法和我们的 Bedrock 服务来保障客户的需求。通过 Bedrock 使用的任何模型都将位于您独立的虚拟私有云环境中,并进行加密,同时具备相同的 AWS 访问控制。」Selipsky 说。

目前,亚马逊只是在加速推进生成式人工智能,告诉 CNBC 称,「超过 100,000」个客户如今正在使用亚马逊的机器学习。尽管这只是 AWS 数百万客户中的一小部分,但分析师表示这种情况可能会发生改变。

「我们没有看到企业说,『哦,等等,微软在生成式人工智能领域领先,我们就切换基础设施策略,将一切迁移到微软上。』」Dekate 说。「如果您已经是亚马逊的客户,很有可能会广泛探索亚马逊的生态系统。」

声明:本文内容整理自网络,观点仅代表原作者本人,投稿号仅提供信息发布服务。如有侵权,请联系管理员。

投稿号的头像投稿号注册会员
上一篇 2023年8月14日
下一篇 2023年8月14日

热点推荐

  • 两款车型排放不达标?比亚迪回应长城汽车举报

    5月25日,长城汽车发布声明称:2023年4月11日,长城汽车向生态环境部、国家市场监督管理总局、工业和信息化部递交举报材料,就比亚迪秦PLUSDM-i(产品型号:BYD7152WT6HEVC2)、宋PLUS DM-i(产品型号:…

    2023年5月28日
    540
  • 为什么高考会比平时考得好?

    为什么高考会比平时考得好?启迪未来复读学校的资深老师来你帮分析 1.基本功越扎实,高考越有利 高考题目总体来说,一般会比平时做的题目简单一些,大多数题目考察的是基础知识,因此,只要大家平时的复习稳扎稳打,把基础题目和知识点踏踏实实…

    2023年6月9日
    610
  • 整蛊人的方法有他电话(整蛊人的方法)

    本文主要讲的是整蛊人的方法,以及和整蛊人的方法有他电话相关的知识,如果觉得本文对您有所帮助,不要忘了将本文分享给朋友。 整人的方法越狠越好不被发现 整人越狠越好不被发现方法如下: 1、调制怪味可乐 买一瓶可乐喝掉一半后,掺入醋、酱…

    2023年5月16日
    650
  • 有关爱国的古诗名句(有关爱国的古诗)

    今天,我想和大家分享一些关于有关爱国的古诗以及有关爱国的古诗名句的问题。以下是小编对这个问题的总结。让我们看一看。 关于爱国的古诗十首 ??中国人的家国情怀,古已有之,不论身处何地,都心念祖国,是根植于每个中国人内心的意念。一个民…

    2023年4月28日
    590
  • 北京一无业男子与俩同小区女子同居 以驱邪为名诈骗200万

    据时间视频最新报道,北京的刘女士报警称,自己被骗200多万。刘女士介绍,在婚恋网站上认识了男子林某。两人见面后,很快确定了恋爱关系。 关系升温后,林某以帮刘女士驱邪为名,帮刘女士介绍了一名道长,并借机索要钱财。林某先后从刘女士处拿…

    2023年9月25日 热点
    470
  • 奇幻小说完本排名(奇幻小说完本排名)

    2023玄幻小说排行榜前十名 1、《万族之劫》《万族之劫》是起点中文网知名作家老鹰吃小鸡创作的一部都市异能类玄幻小说,也是2023年最火爆的十大小说之一,小说自开始连载起就一直很受欢迎,在多个榜单中霸榜榜首。 2、年小说排行榜前十…

    2023年10月17日
    410
  • 吉林私搭浮桥被判寻衅滋事案进展:当事人收到法院再审决定书

    封面新闻记者 张奕丹 9月29日,封面新闻记者从知情人处了解到,吉林洮南黄德义私搭浮桥被判寻衅滋事罪一案迎来新进展,当事人黄德义已于近日收到白城市中级人民法院的再审决定书。决定书显示,该院经审查认为,原判决适用法律确有错误,本案符…

    2023年12月10日
    360
  • 芭芭农场中途可以更换水果吗(芭芭农场下载)

    淘宝是很多人喜欢的电商购物平台,里面有很多活动吸引大家,比如芭芭农场是一款可以领取水果的游戏,只需要每天完成一定的任务就可以兑换水果,那么芭芭农场中途可以更换水果吗?下面小编为大家带来芭芭农场相关规则介绍,感兴趣的小伙伴一起来看一…

    2023年7月26日
    590
  • 官宣!C罗加冕IFFHS年度全球射手王:梅西第52,苏神第51

    当国际足联认可C罗的54粒进球并加冕2023年全球射手王时,另一家久负盛名的组织:IFFHS(国际足球历史与统计联合会)俱乐部)正式宣布, C罗以54个进球将王荣耀封为年度最佳射手! IFFHS解释说:统计数据包括球员在顶级联赛(…

    2024年1月16日
    290
  • 明星也玩刮刮乐?戚薇刮刮乐中奖,粉丝:沾沾喜气!

    #头条创作挑战赛# 今日,戚薇在社交媒体上分享了一件有趣的事情,她玩了一次刮刮乐,并且中了小奖。 戚薇是一位来自中国的女演员、制片人和歌手。她在2006年开始自己的演艺生涯,在演艺圈中拥有着广泛的影响力和深厚的人气,深受观众喜爱。…

    2023年4月26日 热点
    620