FPGA运算单元对高算力浮点应用

时间:2025-09-12  作者:Diven  阅读:0

随着机器学习(Machine Learning)领域越来越多地使用现场可编程门阵列(FPGA)来进行推理(inference)加速,而传统FPGA只支持定点运算的瓶颈越发凸显。Achronix为了解决这一大困境,创新地设计了机器学习处理器(MLP)单元,不仅支持浮点的乘加运算,还可以支持对多种定浮点数格式进行拆分。

FPGA运算单元对高算力浮点应用

MLP全称Machine Learning Processing单元,是由一组至多32个乘法器的阵列,以及一个加法树、累加器、还有四舍五入rounding/饱和saturation/归一化normalize功能块。同时还包括2个缓存,分别是一个BRAM72k和LRAM2k,用于独立或结合乘法器使用。MLP支持定点模式和浮点模式。

考虑到运算能耗和准确度的折衷,目前机器学习引擎中最常使用的运算格式是FP16和INT8,而Tensor Flow支持的BF16则是通过降低精度,来获得更大数值空间。

而且这似乎也成为未来的趋势。目前已经有不少研究表明,更小位宽的浮点或整型可以在保证正确率的还可以减少大量的计算量。为了顺应这一潮流,MLP还支持将大位宽乘法单元拆分成多个小位宽乘法,包括整数和浮点数。

值得注意的是,这里的bfloat16即Brain Float格式,而block float为块浮点算法,即当应用Block Float16及更低位宽块浮点格式时,指数位宽不变,小数位缩减到了16bit以内,因此浮点加法位宽变小,并且不需要使用浮点乘法单元,而是整数乘法和加法树即可,MLP的架构可以使这些格式下的算力倍增。

编辑:黄飞

 

猜您喜欢

贴片电阻是电子电路中常见的元件,其型号标注方式看似复杂,实则有规律可循。对于常见的0805、0603等封装尺寸的贴片电阻,通常采用三位数或四位数的标注法。三位数...
2024-11-29 10:26:21

吊牌和标签在产品展示中是重要配件,不仅传递信息,还能提升品牌形象。了解吊牌和标签的参数,有助于更好地设计和使用。材质是吊牌和标签的重要参数。常见的材质包括纸质、...
2020-01-13 00:00:00

当今的电子时代,移动设备和便携式电子产品已经成为我们生活中重要的一部分。而这些设备的续航能力,很大程度上取决于其内部的电池和充电系统。今天,我们将带您了解一种高...
2024-06-07 00:00:00

网口变压器是重要的网络设备,主要用于网络信号的隔离和传输。其核心作用在于提高网络通信的稳定性和安全性。网口变压器可以有效抑制电磁干扰,确保信号在传输过程中不受外...
2019-11-30 00:00:00

贴片电阻R047的阻值是0.47欧姆。 R代表小数点,后面的数字代表阻值。 解读方法是将字母R替换成小数点.,所以R047就等于0.47Ω。类似的,贴片电阻的阻...
2024-11-29 10:25:47


LCD显示屏,即液晶显示屏,是利用液晶材料在电场作用下改变光线传播特性的显示技术。轻薄、节能和高分辨率的特点,应用于电视、电脑显示器、手机等电子设备中。LCD显...
2020-08-29 00:00:00

在电子领域,快速准确地识别贴片电阻至关重要。如今,借助便捷的软件工具,即使非专业人士也能轻松掌握这门技能。本文将为您介绍如何下载和安装贴片电阻识别软件,助您迅速...
2025-04-14 15:03:32

电流检测电阻作为关键元件,应用于电源管理、汽车电子、工业控制等领域。选择一个性能稳定、品质可靠的电流检测电阻品牌,对于确保产品的整体性能和安全性非常重要。Wal...
2018-07-27 16:38:59

贴片电阻因其体积小巧,应用于电子电路中。其微小的体积也使得直接标注阻值变得困难。因此,行业内采用了一套标准的阻值代码标识系统。理解这套系统对于正确选择和使用贴片...
2024-11-29 10:25:55