FPGA与GPU计算存储加速对比:单位功耗性能考量因素

时间:2025-09-12  作者:Diven  阅读:0

为了提升计算基础设施的性能,并紧跟数据分析与 AI 不断攀升的需求,众多企业将硬件加速视为主要的解决方案。在大多数情况下,先进的可编程硬件(主要是指 GPU 和 FPGA)是加速的主要方式。通过使用这种先进的硬件,企业正在赢得计算优势;对于编程难度,仍然存在合理的担忧。

FPGA与GPU计算存储加速对比:单位功耗性能考量因素

图 1:分析/AI 流水线组件

硬件制造商正在将加速方法应用于计算存储,这是专门设计用于包含内嵌计算元素的存储。这种方法已经被证明可以为分析和 AI 应用提供优异的性能(图 1)。使用或者不使用机器学习辅助的分析以及验证,都可以借助计算存储器件进行加速。这些器件提供了一个关键的优势,使得成本高昂的计算被卸载到存储器件上,而不必在服务器 CPU 上完成。与标准的存储/CPU 方法相比,通过计算存储获得的优势包括:

1. 借助应用专用编程定制可编程硬件,获得更高性能

2. 将计算任务从服务器卸载到存储器件,释放 CPU 资源

3. 数据与计算共址,降低数据传输需求

这种新颖的方法前景光明。不过,您应根据具体用例评估这种方法,考量性能、成本、功耗和易用性。性价比和单位功耗性能在选择加速硬件评估时,占据主要比率。在本文中,我们将研讨单位功耗性能(另一篇文章则专门研讨性价比)。

计算存储功耗比较

3种系统

在这个场景中,我们将比较以 CSV 数据读取用例为主的三种工具:英伟达 GPUDirect 存储 和RAPIDS存储,以及基于赛灵思技术的三星 SmartSSD 存储。CSV 读取在计算密集型流水线中起着重要的作用(参见图 1)。

在下文中,我们将性能定义成 CSV 的处理速率,或处理“带宽”。我们先快速回顾一下三种系统的运行方式。

英伟达 GPUDirect 存储

·端到端满足分析和 AI 需求

·将 GPU 用作计算单元,紧贴基于 NVMe 的存储器件布局 (GPUDirect)

·使用 CUDA 进行编程 (RAPIDS)

英伟达用其 CSV 数据读取技术衡量相对于标准 SSD 的性能提升。结果如图 1 所示。使用 1 到 8 个加速器时,对应的吞吐量是 4 到 23GB/s。

三星 SmartSSD 驱动器

·将赛灵思 FPGA 用作计算单元

·与存储逻辑内嵌驻留在同一个内部 PCIe 互联上

·通过编程在存储平台上开展运算

赛灵思数据分析解决方案合作伙伴 Bigstream 与三星合作,为 Apache Spark 设计加速器,包括用于 CSV 和 Parquet 处理的 IP。SmartSSD 的测试使用单机模式的 CSV 解析引擎,以便开展比较。结果如图 2 所示,使用 1 到 12 个加速器时,对应的吞吐量是 4 到 23GB/s,同时也给出英伟达的结果(使用 1 到 8 个加速器)。请注意,本讨论中的所有结果都按 x 轴上的加速器数量进行参数化。

这些结果令人振奋,但在选择您的解决方案时,请务必将功耗情况纳入考虑。

图 2:SmartSSD 驱动器的 CSV 解析性能结果

单位功耗性能比较

图 3 显示了将功耗考虑在内后的分析结果。代表单位功耗达到的性能水平,根据上述讨论中引用的相关材料,给出了以下假设:

·Tesla V100 GPU:最大功耗 200 瓦

·SmartSSD 驱动器 FPGA:最大功耗 30 瓦

图 3:CSV 解析的每瓦功耗带宽比较

在这个场景下,计算表明,在全部使用 8 个加速器的情况下,SmartSSD 的单位功耗性能比 GPUDirect Storage 高 25 倍。

FPGA 与 GPU 对比:有关单位功耗性能的最终思考

计算存储的优势在于能增强数据分析和 AI 应用的性能。要让这种方法具备可实际部署的能力和实用性,就必须在评估时将功耗纳入考虑。

针对用于 CSV 数据解析的两种不同的计算存储方法,我们已经提出按功耗参数化的吞吐量性能曲线。结果显示,在使用相似数量的加速器进行比较时,SmartSSD 驱动器的单位功耗性能优于 GPUDirect存储方法。

GPUDirect 是英伟达通过 NVIDIA DGX-2 应用平台提供的研究系统。

三星 SmartSSD 驱动器是可部署的量产型 PCIe 可插拔平台,现在已经通过赛灵思及分销商供货。

如需了解更多信息,请查看:

· 有关 Bigstream 与 SmartSSD 计算存储器件结合使用,加速大数据和数据分析的电子书。

· Bigstream 硬件加速 Apache Spark解决方案。

· 有关使用三星 SmartSSD 驱动器给工作负载带来优势的 三星 SmartSSD 页面。

猜您喜欢

【暨南大学:基于倾斜光纤布拉格光栅局域光散射的原位表面浊度传感器】暨南大学郭团教授课题组提出了一种紧凑的光纤传感器,用于原位和连续的浊度监测,其基于来自目标颗...
2024-08-27 16:17:00

贴片电阻本身通常没有像产品安全认证那样的强制性认证。它并非独立的终端产品,而是电子元器件,其质量和性能符合规范要求更重要。制造商通常会提供产品规格书、测试报告等...
2024-11-26 11:29:22

薄膜电阻作为电子元件中重要的一类,因其优异的性能和的应用受到了业界的高度关注。泰科电子(TE Connectivity)作为全球领先的电子元件制造商,其生产的薄...
2020-02-01 01:12:30

花露水是广受欢迎的日常护理产品,其主要优势体现在多个方面。花露水具有清凉舒爽的效果,能够有效缓解夏季高温带来的不适,让人感受到阵阵清风。花露水的香气怡人,能够有...
2017-03-14 00:00:00

电子电路中,电阻和排阻都是非常重要的元件。虽然在某些方面看似相似,但实际上,在结构、功能和应用上有着显著的区别。了解排阻和电阻的区别,有助于我们在选择和使用这些...
2025-04-19 02:30:39


UDFN12_3X3MM_EP是一种新型的电子元件封装,广泛应用于现代电子设备中。它以其小巧的尺寸和卓越的性能,成为许多设计师和工程师的首选。本文将深入探讨UD...
2025-02-24 10:46:24

降压式DCDC转换器,也称为buck转换器,是一种能够高效地将直流电压转换为更低直流电压的电子电路。其基本工作原理可以概括为两个阶段:阶段一:能量存储阶段当开关...
2024-06-30 00:00:00

振弦式应变计是一种广泛用于测量结构物内部应变量的高精度传感器。其安装过程是否规范直接影响测量结果的准确性,因此,了解安装对测量结果的影响以及如何避免安装误差显得...
2025-02-07 15:16:00