FPGA运算单元对高算力浮点应用

时间:2025-06-16  作者:Diven  阅读:0

随着机器学习(Machine Learning)领域越来越多地使用现场可编程门阵列(FPGA)来进行推理(inference)加速,而传统FPGA只支持定点运算的瓶颈越发凸显。Achronix为了解决这一大困境,创新地设计了机器学习处理器(MLP)单元,不仅支持浮点的乘加运算,还可以支持对多种定浮点数格式进行拆分。

FPGA运算单元对高算力浮点应用

MLP全称Machine Learning Processing单元,是由一组至多32个乘法器的阵列,以及一个加法树、累加器、还有四舍五入rounding/饱和saturation/归一化normalize功能块。同时还包括2个缓存,分别是一个BRAM72k和LRAM2k,用于独立或结合乘法器使用。MLP支持定点模式和浮点模式。

考虑到运算能耗和准确度的折衷,目前机器学习引擎中最常使用的运算格式是FP16和INT8,而Tensor Flow支持的BF16则是通过降低精度,来获得更大数值空间。

而且这似乎也成为未来的趋势。目前已经有不少研究表明,更小位宽的浮点或整型可以在保证正确率的还可以减少大量的计算量。为了顺应这一潮流,MLP还支持将大位宽乘法单元拆分成多个小位宽乘法,包括整数和浮点数。

值得注意的是,这里的bfloat16即Brain Float格式,而block float为块浮点算法,即当应用Block Float16及更低位宽块浮点格式时,指数位宽不变,小数位缩减到了16bit以内,因此浮点加法位宽变小,并且不需要使用浮点乘法单元,而是整数乘法和加法树即可,MLP的架构可以使这些格式下的算力倍增。

编辑:黄飞

 

猜您喜欢

DC-DC转换器:电力变换的幕后英雄你是否好奇过,手机、笔记本电脑等电子设备是如何在使用电池供电的同时,还能为内部各种元件提供不同电压的呢?答案就是 DC-DC...
2024-03-23 00:00:00

贴片排阻作为电子元器件中的关键组成部分,其性能直接影响整个电路的稳定性和可靠性。TDK作为知名的电子元器件制造商,其贴片排阻以高品质的品质和丰富的型号受到认可。...
2014-07-17 15:29:30

插件电阻作为基础且关键的组件,应用于各种电子设备和电路设计中。作为知名品牌,ROYALOHM(厚生)插件电阻优良的品质和丰富的产品线受到众多工程师和采购商的青睐...
2023-12-14 01:57:45


硅电容是现代电子设备中常见的元件。测量硅电容的好坏非常重要。本文将详细探讨硅电容测量的好坏区别。硅电容的基本概念硅电容是用硅材料制成的电容。的主要功能是储存电能...
2025-03-26 09:30:34

锡丝/锡线是电子焊接中不可少的材料,主要用于连接电路板上的元器件,确保电流的顺畅流动。锡丝的主要成分是锡,通常还会添加少量的铅或其合金元素,以提高其焊接性能。在...
2024-10-03 00:00:00


随着电动汽车、储能电站等领域的蓬勃发展,电池作为其核心能源供给单元,其安全性和使用寿命成为了很重要的因素。而电池管理系统(BMS)作为电池的大脑,是确保电池安全...
2024-06-21 00:00:00

插件电阻作为基础且关键的元件,应用于各种电路设计中。科达嘉(CODACA)作为知名的电子元器件品牌,其插件电阻型号丰富多样,满足不同电子产品的需求。本文将围绕“...
2017-04-29 08:57:25