加利福尼亚州圣克拉拉,2024 年 7 月 30 日,Marvell Technology, Inc.(NASDAQ: (MRVL) 这一数据基础设施半导体解决方案领域的领军企业今天推出了 Marvell ® Structera™ Compute Express Link ®(CXL®) 设备产品线,使云数据中心运营商能够克服通用服务器的内存性能和扩展挑战。
为了处理内存密集型应用程序,数据中心运营商会添加额外的服务器以获得更高的内存带宽和更高的内存容量。新增处理器的计算能力通常不会用于这些应用程序,这从成本和功耗的角度来看,这些服务器都效率低下,没被充分利用。CXL 行业标准通过启用可以高效地向通用服务器添加内存的新架构来应对这一挑战。
Structera 产品线共有两个 CXL 设备系列,分别针对不同的用例进行了优化。Structera A CXL 近内存加速器是一种新型设备,它将服务器级处理器内核和多个内存通道与 CXL 集成在一起,以满足深度学习推荐模型 (DLRM) 和机器学习等高带宽内存应用的需求。Structera X CXL 内存扩展控制器允许将数兆兆字节的内存添加到通用服务器,并满足内存数据库等高容量内存应用程序的需求。Structera CXL 设备系列是业界首款支持 4 个内存通道、集成内联压缩并使用 5nm 制造工艺的器件系列。
除了 Structera A 和 X 标准产品外,Marvell 还为云运营商开发了针对其独特的架构和工作负载进行了优化的定制 CXL 芯片。
新的 CXL 用例:ML/AI 加速
Structera A 加速器集成了 16 个 Arm® Neoverse® V2 内核,并经过优化,可提高 DLRM 等高内存带宽应用的表现。DLRM 的特点是既有稀疏内存操作,也有密集内存操作。稀疏操作可能会碰到内存墙,在内存墙中内存带宽不足以进行可用计算。Structera A 2504 加速器是该系列中的第一款产品,具有高达 200 GB/秒的内存带宽和 4TB 的内存容量。1
对于使用单个 64 核处理器的 DLRM 服务器,添加单个 Structera A 设备将使计算内核数量增加 25%(64 对比 80),聚合内存带宽增加 50%(400 GB/秒对比 600 GB/秒),总内存最多增加 4TB,每核内存带宽增加 25%(6.25 GB/秒对比7.5 GB/秒)。这还能提高内存带宽功率效率,功率从每 GB/秒 1W 降低到 0.83W。添加两台 Structera A 设备将使计算内核效率增加 50%,聚合内存带宽增加一倍,内存容量最多增加 8TB,将每个内核的内存带宽增加 50%,并将内存带宽功率效率提高到2每 GB/秒 0.75 W。
相比之下,Structera X 产品系列旨在扩展每台服务器的内存容量,以满足高容量内存应用的需求。Structera X 设备是业界新面世的支持 4 个通道的 DDR4 和 DDR5 内存的设备,每个通道 (3DPC) 多支持 3 个 DDR4 双列直插式内存模块 (DIMM),以超大限度地提高每个控制器和服务器节点的内存容量。这些设备也是首批可以同时支持 2 个服务器的 CPU 来优化功耗、空间和内存利用率的 CXL 内存扩展产品。
Structera X 2404 使运营商能够从退役的通用服务器上回收 DDR4 DIMM。随着运营商用搭载 DDR5 的新服务器取代现有的通用服务器,预计未来几年内,数百万个功能正常的DDR4 DIMM 将成为电子废品3。使用这些“免费”的 DDR4 DIMM 来扩展这些服务器的容量,可将每台通用服务器的资本支出减少数千美元4。重新利用已停用的 DDR4 DIMM 还可以实现数据中心的可持续发展目标。
Structera 产品是业界新面世的采用基于硬件的内联内存压缩的产品,该产品符合已提交给开放计算项目 (OCP) 的 Google 和 Meta 的规范。
Wheeler’s Network 首席分析师 Bob Wheeler 表示:“内存访问是一个多方面的问题,云服务提供商在 CXL 的目标和部署策略方面差异很大。”“Marvell 已经为 CXL 制定了长期愿景,该愿景利用了这种用途的多样性,并将鼓励超大规模云服务商和其他公司采用 CXL 来扩展所谓的内存墙。”
Marvell 产品和技术总裁 Raghib Hussain 表示:“我们的新 Structera CXL 产品线将改变游戏规则,实现卓越的资源利用率,并降低能耗,以改善云端内存密集型工作负载。”“Marvell 正在兑现 CXL 的承诺以及我们对客户的承诺,帮助他们解决具有挑战性的问题。CXL 将继续在我们的计算、连接和存储产品组合中,推动加速基础设施关键技术的发展。”
广泛的生态系统支持
几家公司正在制定计划,以支持全新的Structera CXL 产品线。
AMD 数据中心生态系统和解决方案公司副总裁 Raghu Nambiar 表示:“随着 CXL 技术走向成熟,它通过分解为创新提供了机会,从而在整个数据中心生态系统中实现了变革性的应用。我们与 Marvell 的合作是确保我们对该生态系统的承诺的核心;提供部署和扩展下一代基础设施所需的性能和能效,为要求苛刻的关键业务和人工智能应用程序提供支持。”
Arm 高级副总裁兼基础设施业务线总经理 Mohamed Awad 表示:“全新的 Marvell Structera CXL 控制器系列将 Marvell 的压缩技术、SoC 专业知识与 Neoverse V2 的性能和效率优势相结合,体现了只有 Arm Neoverse 才能实现的创新步伐。正是这种类型的优化处理降低了能耗,实现了人工智能所需的高性能基础架构。”
英特尔首席 I/O 架构师 Debendra Das Sharma 表示:“英特尔很高兴 Marvell 为不断演变的 CXL 生态系统做出了贡献,包括使用内存扩展器作为容量和带宽扩展解决方案。这些解决方案允许重复使用 DDR4 DIMM 来扩展内存容量,同时还增加了 CPU 内核可用的内存带宽。 英特尔 Xeon 6.0 产品系列支持 CXL 2.0,处于这些开发的最前沿,英特尔很荣幸能与 Marvell 合作,将这些解决方案推向市场。”
Micron 的 CXL 产品管理高级总监 Vijay Nain 说“Marvell 是 Micron 重要的 CXL 生态系统合作伙伴,我们的合作将有助于推动该行业采用内存扩展。我们在内存互操作性方面的合作让内存资源变得灵活且可扩展,以适应不断增加的处理器核心数量和数据密集型工作负载。通过获得更高的内存容量,实现更低的延迟,数据中心运营商可以从减少的资本和运营费用中受益。”
产品特性
Marvell Structera A 2504
Marvell Structera X 2404
Marvell Structera X 2504
Availability
Structera A 近内存加速器、Structera X 内存扩展控制器和定制 CXL 芯片将在 2024 年第四季度进行样本抽样。
About Marvell
为了通过数据基础设施技术实现全球互联的愿景,我们正在构建非常强大的基础解决方案: 我们与客户携手。 二十五年来,Marvell 深受世界位居前列的技术公司的信赖,以客户当前需求和未来理想为设计路线,运用专业半导体解决方案实现对全球数据的移动、存储、处理与保护。 通过深度协作、践行透明化的沟通方式,我们致力于促进未来企业、云、汽车和运营商架构的不断转型与完善。
1. 基于 512GB DIMM。
2.64 核处理器默认以 400W 的功率和 400GB/秒的速度运行。
3. Marvell 和行业分析师的估计。
4. 假设通过 32 个 128GB DIMM 增加 4TB 的内存。每台 128GB DDR5 DIMM 的价格估计为 280 美元,相当于 2024 年 6 月的大致市场价格。
###
Marvell 和 M 徽标是 Marvell 或其附属公司的商标。请访问 www.marvell.com 网站获取 Marvell 商标的完整列表。其他名称与品牌可能是其他方财产。
本新闻稿包含联邦证券法界定的前瞻性声明,该等声明涉及风险和不确定性。 前瞻性声明包括但不限于任何可能预测、预估、表明或暗示未来事件或成就的声明。 实际事件或结果可能与本新闻稿中预期的事件或结果存在重大差异。 前瞻性声明仅为预测,且受难以预测的风险、不确定性和假设的影响,这些风险、不确定性和假设包括 Marvell 的 10-K 年度报表中的“风险因素”部分、10-Q 季度报表以及 Marvell 不时向美国证券交易委员会 (Securities and Exchange Commission, SEC) 提交的其他文件中提及的内容。前瞻性声明仅在发表当日有效。 谨提醒读者不要过分依赖前瞻性声明,无论是由于新信息、未来事件还是其他原因,任何人都没有义务更新或修改任何此类前瞻性声明。
欲了解更多详情,请联系:
Kim Markle
pr@marvell.com