FPGA运算单元对高算力浮点应用

时间:2025-08-02  作者:Diven  阅读:0

随着机器学习(Machine Learning)领域越来越多地使用现场可编程门阵列(FPGA)来进行推理(inference)加速,而传统FPGA只支持定点运算的瓶颈越发凸显。Achronix为了解决这一大困境,创新地设计了机器学习处理器(MLP)单元,不仅支持浮点的乘加运算,还可以支持对多种定浮点数格式进行拆分。

FPGA运算单元对高算力浮点应用

MLP全称Machine Learning Processing单元,是由一组至多32个乘法器的阵列,以及一个加法树、累加器、还有四舍五入rounding/饱和saturation/归一化normalize功能块。同时还包括2个缓存,分别是一个BRAM72k和LRAM2k,用于独立或结合乘法器使用。MLP支持定点模式和浮点模式。

考虑到运算能耗和准确度的折衷,目前机器学习引擎中最常使用的运算格式是FP16和INT8,而Tensor Flow支持的BF16则是通过降低精度,来获得更大数值空间。

而且这似乎也成为未来的趋势。目前已经有不少研究表明,更小位宽的浮点或整型可以在保证正确率的还可以减少大量的计算量。为了顺应这一潮流,MLP还支持将大位宽乘法单元拆分成多个小位宽乘法,包括整数和浮点数。

值得注意的是,这里的bfloat16即Brain Float格式,而block float为块浮点算法,即当应用Block Float16及更低位宽块浮点格式时,指数位宽不变,小数位缩减到了16bit以内,因此浮点加法位宽变小,并且不需要使用浮点乘法单元,而是整数乘法和加法树即可,MLP的架构可以使这些格式下的算力倍增。

编辑:黄飞

 

猜您喜欢


贴片电阻上的数字「101」代表其阻值为100欧姆。 这遵循了一种通用的三位数编码方式:前两位数字表示有效数字,第三位数字表示10的幂次方。 因此,「101」可以...
2025-04-14 15:03:55


汽车保险丝作为保护车辆电路安全的重要元件,变得尤为关键。岚珊汽车保险丝因其很好的性能和可靠的质量,逐渐成为市场上的热门选择。本文将详细介绍岚珊汽车保险丝的主要特...
2022-03-24 14:14:30

无尘室粘尘滚筒是无尘室环境中重要的清洁工具,主要用于去除空气中的微小颗粒和灰尘,保持工作区域的洁净。根据不同的使用需求,无尘室粘尘滚筒可以分为几种主要类型。有标...
2022-03-18 00:00:00

无刷直流(BLDC)电机驱动芯片根据不同的应用需求和工作原理,可以分为几种主要类型。按照控制方式,BLDC驱动芯片可分为开环控制和闭环控制两类。开环控制芯片通常...
2024-08-23 00:00:00

时钟消抖技术在现代电子设备中是非常重要的配件,其主要优势不容忽视。时钟消抖能够有效减少因机械抖动引起的信号误差,确保系统的稳定性和可靠性。通过过滤掉短暂的噪声信...
2012-10-01 00:00:00

现代电子电路中,单项半波整流电路被应用于电源转换和信号处理等领域。而续流二极管作为该电路中的重要组成部分,其作用不容忽视。本文将深入探讨续流二极管在单项半波整流...
2025-04-07 06:00:02


十字槽圆柱头机螺钉是常见的紧固件,其设计独特,适用于多种工业和家庭应用。十字槽的设计使得螺钉在拧紧或拆卸时更加方便,能够有效防止滑丝现象,确保操作的安全性和效率...
2021-11-27 00:00:00