为未来的人工智能应用选择正确的互连

随着人工智能 (AI) 的不断发展，对高性能计算基础设施的需求变得越来越重要。外围组件互连 Express (PCIe) 5.0 标准在数据传输速度和系统性能方面取得了显著进步。同样，Compute Express Link (CXL) 2.0 增强了内存共享并降低了延迟，使其成为 AI 工作负载的宝贵工具。

了解何时使用 PCIe 5.0、CXL 2.0 或同时支持两者的混合交换机可以优化各种应用的 AI 系统，并实现长期系统可行性。

PCIe 5.0 互连的最佳用例

外围组件互连 Express，通常称为 PCIe，是一种高速接口标准，用于将各种硬件组件连接到计算机主板。PCIe 因其卓越的性能、可扩展性和多功能性而被现代计算系统广泛采用。

其最新一代 PCIe 5.0 旨在以最小的延迟处理大量数据传输，使其成为数据密集型应用程序的理想选择。它是一种流行的标准，未来市场将呈现高增长态势。事实上，根据 Allied Market Research 的数据，2020 年全球 PCIe 市场价值为 35.6 亿美元，预计到 2030 年将达到 75.8 亿美元，2021 年至 2030 年的复合年增长率为 7.6%。这一增长是由人工智能和其他数据密集型应用对高速数据传输和低延迟通信日益增长的需求推动的。考虑以下非常适合 PCIe 的应用程序：

  • 机器学习训练：PCIe 5.0 的高带宽允许在存储和 GPU 之间快速传输大型数据集，从而加速训练过程。这对于在更短的时间内开发复杂模型至关重要。
  • 高性能计算 (HPC)：科学模拟和复杂计算受益于 PCIe 5.0 快速移动大量数据的能力，确保高效的处理和分析。
  • 实时数据处理：金融交易平台和电信网络等实时数据分析至关重要的应用程序可以利用 PCIe 5.0 的速度来减少延迟并提高性能。
CXL 2.0 互连的新兴用例

Compute Express Link (CXL) 是一种开放的行业标准互连，旨在增强 CPU、GPU、内存和其他加速器之间的通信。CXL 旨在满足现代计算工作负载日益增长的需求，旨在提供高速、低延迟通信和跨不同计算组件的高效内存共享。

CXL 2.0 在不同处理单元之间共享内存和低延迟通信至关重要的场景中表现出色。与 PCIe 一样，CXL 标准的采用正在迅速增加。根据 IDC 的一份报告，到 2025 年，60% 的新数据中心部署将采用支持 CXL 的设备。这种采用是由工作负载的复杂性和规模不断增加所驱动的，这需要更高效的内存共享和低延迟通信。从 CXL 标准中受益最多的应用程序和工作负载包括：

  • 内存密集型工作负载：CXL 2.0 允许 CPU、GPU 和其他加速器（如数据处理单元 (DPU) 和基础设施处理单元 (IPU)）无缝共享内存资源，使其成为内存数据库和大规模数据分析等应用程序的理想选择。
  • AI 推理：对于 AI 推理任务，部署模型以对新数据进行预测，CXL 2.0 的高效内存共享通过减少处理单元之间数据移动的开销来提高性能。
  • 云计算：数据中心受益于 CXL 2.0 优化资源利用率和改善服务器之间通信的能力，从而提高整体效率并降低成本。
混合交换机的优势

支持 PCIe 5.0 和 CXL 2.0 的混合交换机提供了利用两种标准优势的灵活性。这对于需要高速数据传输和高效内存共享的复杂 AI 系统尤其有益。

需要一次性设计所有高性能应用的系统设计人员也可以从混合交换机中受益，这种交换机可以在单一设计中实现各种应用。最先进的混合交换机尤其如此，它可以提供高达 2,048 GB/s 的总带宽和 256 个通道，为任何应用提供前所未有的灵活性。

随着现代工作负载变得越来越复杂，这类混合交换机的需求也在不断增加。根据 Grand View Research 的一份报告，混合交换机市场（包括支持 PCIe 和 CXL 的设备）预计到 2026 年将达到 22 亿美元，从 2021 年到 2026 年的复合年增长率为 12.3%。这种增长是由数据中心和企业环境中对多功能高性能计算解决方案的需求推动的。考虑以下可以从混合交换机策略中受益的苛刻应用：

  • 医疗分析：医疗保健领域的人工智能驱动诊断和预测分析依赖于快速的数据处理和高效的内存利用率。混合交换机可以提高这些应用程序的速度和准确性，从而改善患者的治疗效果。
  • 混合工作负载：混合工作负载共存的环境（例如同时支持 HPC 和 AI 推理任务的数据中心）可从混合交换机的多功能性中受益。它们可以根据需要动态利用 PCIe 5.0 和 CXL 2.0，从而优化不同类型应用程序的性能。
  • 基因组学研究：基因组学需要分析大量数据集以识别模式和突变。混合交换机可以通过实现快速数据传输（通过 PCIe 5.0）和处理单元之间的高效内存共享（通过 CXL 2.0）来加速这一过程，从而实现更快、更准确的结果。
为什么要强制选择互连？

决定使用 PCIe 5.0、CXL 2.0 还是混合交换机取决于您的 AI 应用程序的具体要求。PCIe 5.0 在需要高带宽和低延迟数据传输的场景中表现出色，而 CXL 2.0 则是需要高效内存共享和降低通信延迟的应用程序的理想选择。混合交换机兼具两全其美的优势，可以灵活地优化复杂的 AI 系统以适应各种用例。

随着 AI 的不断发展和演变，利用这些先进技术对于满足下一代应用程序的需求、推动创新和提高各行业的性能至关重要。未来的现代系统可能会使用混合方法来支持所有应用程序需求和变化，从而消除做出选择的需要，从而避免当今快速变化的应用程序环境中的限制。


 CIBIS峰会 

由千家网主办的2024年第25届CIBIS建筑智能化峰会即将开启， 本届峰会主题为：“汇智提质：开启未来新篇章”。届时，我们将携手全球知名智能化品牌及业内专家，共同探讨物联网、AI、云计算、大数据、智慧建筑、智能家居、智慧安防等热点话题与最新技术应用，分享如何利用更智慧、更高效、更安全、更低碳的智慧技术，共同开启未来美好智慧生活。

欢迎建筑智能化行业小伙伴报名参会，共同分享交流！

报名方式

长沙站（10月24日）：https://hdxu.cn/MrRqa

成都站（11月05日）：https://hdxu.cn/7FoIq

西安站（11月07日）：https://hdxu.cn/ToURP

北京站（11月19日）：https://hdxu.cn/aeV0J

上海站（11月21日）：https://hdxu.cn/xCWWb

广州站（12月05日）：https://hdxu.cn/QaqDj

更多2024年峰会信息，详见峰会官网：http://summit.qianjia.com