Meta推第二代自研AI训练和推理芯片MTIA v2

AI快讯 2024-04-12

Meta 宣布推出第二代自研AI训练和推理芯片MTIA v2。

据Meta介绍,新一代AI芯片由台积电代工,采用了其5纳米工艺制程。MTIA也是该公司更广泛产品开发的一部分,针对Meta独特的工作负载和系统进行了优化。与前一个版本相比,新的MTIA在计算能力和内存带宽上都提高了一倍多,同时保持了与其工作负载的紧密联系,可以更好地服务全球用户,提供个性化的推荐和优化的用户体验。

Meta表示:“为了实现我们定制芯片的雄心壮志,我们不仅要投资于计算芯片,还要投资于内存带宽、网络、容量以及其他下一代硬件系统。”

事实上Meta 致力于 MTIA v2 已有一段时间了,该项目内部称为 Artemis。背后的原因也不难理解,一方面,该公司要让Facebook、Instagram等应用接入AI功能,另一方面,Meta正在开发自己的大语言模型,以期与OpenAI的ChatGPT展开竞争,转向AI服务的Meta已经对计算能力的需求不断增长。

image.png

去年10月,Meta表示,将在支持AI的基础设施上投入多达350亿美元,包括数据中心和硬件。“到2024年,AI将成为我们最大的投资领域,”首席执行官扎克伯格当时告诉投资者。

后续发展也确如扎克伯格所言,但这笔支出的很大一部分流向了英伟达。据悉,此前Meta已经购买了数十万张英伟达上一代芯片H100,以支持其升级内容推荐系统和生成式AI产品。到2024年底,Meta的基础设施将包括35万张H100,每张售价为2.5万-3万美元。

当然,不单单是Meta,越来越多的公司都在开发AI芯片,包括微软、谷歌、亚马逊等科技公司。不过,这显然不是一个快速解决方案。到目前为止,这些努力并没有减少业界对英伟达AI芯片的需求。

Meta 在其帖子中表示:“实现我们对定制芯片的雄心意味着不仅要投资于计算芯片,还要投资于内存带宽、网络和容量以及其他下一代硬件系统。”

Meta 于 2023 年 5 月发布了 MTIA v1,专注于向数据中心提供这些芯片。下一代 MTIA 芯片也可能瞄准数据中心。MTIA v1 预计要到 2025 年才会发布,但 Meta 表示这两款 MTIA 芯片现已投入生产。目前,MTIA 主要训练排名和推荐算法,但 Meta 表示,最终目标是扩展芯片的功能,开始训练生成式人工智能,例如 Llama 语言模型。Meta 表示,新的 MTIA 芯片“从根本上专注于提供计算、内存带宽和内存容量的适当平衡。” 该芯片将拥有 256MB 片上内存,频率为 1.3GHz,而 v1 的片上内存为 128MB 和 800GHz。Meta 的早期测试结果显示,在公司评估的四种型号中,新芯片的性能比第一代版本好三倍。

@版权声明:部分内容从网络收集整理,如有侵权,请联系删除!

相关文章