FPGA运算单元对高算力浮点应用

时间:2025-11-01  作者:Diven  阅读:0

随着机器学习(Machine Learning)领域越来越多地使用现场可编程门阵列(FPGA)来进行推理(inference)加速,而传统FPGA只支持定点运算的瓶颈越发凸显。Achronix为了解决这一大困境,创新地设计了机器学习处理器(MLP)单元,不仅支持浮点的乘加运算,还可以支持对多种定浮点数格式进行拆分。

FPGA运算单元对高算力浮点应用

MLP全称Machine Learning Processing单元,是由一组至多32个乘法器的阵列,以及一个加法树、累加器、还有四舍五入rounding/饱和saturation/归一化normalize功能块。同时还包括2个缓存,分别是一个BRAM72k和LRAM2k,用于独立或结合乘法器使用。MLP支持定点模式和浮点模式。

考虑到运算能耗和准确度的折衷,目前机器学习引擎中最常使用的运算格式是FP16和INT8,而Tensor Flow支持的BF16则是通过降低精度,来获得更大数值空间。

而且这似乎也成为未来的趋势。目前已经有不少研究表明,更小位宽的浮点或整型可以在保证正确率的还可以减少大量的计算量。为了顺应这一潮流,MLP还支持将大位宽乘法单元拆分成多个小位宽乘法,包括整数和浮点数。

值得注意的是,这里的bfloat16即Brain Float格式,而block float为块浮点算法,即当应用Block Float16及更低位宽块浮点格式时,指数位宽不变,小数位缩减到了16bit以内,因此浮点加法位宽变小,并且不需要使用浮点乘法单元,而是整数乘法和加法树即可,MLP的架构可以使这些格式下的算力倍增。

编辑:黄飞

 

猜您喜欢

现代市场中,配件的选择往往直接影响到产品的性能和用户体验。本文将围绕“Accessories_7.55X4.4MM_SM”这一主题进行探讨,帮助消费者更好地理解...
2025-03-06 08:35:13


一次性手套因其便捷和卫生而应用于各种行业,主要优势体现在以下几个方面。一次性手套提供了优越的卫生保护。有效隔离手部与外界环境,防止细菌、病毒及其有害物质的传播,...
2009-11-29 00:00:00

压敏电阻作为重要的保护元件,应用于电路中以防止过电压损坏。作为新加坡知名的压敏电阻品牌,ASJ因其优异的性能和稳定的质量受到关注。那么,在众多品牌中,如何正确选...
2012-03-06 01:06:05

现代科技与工业领域中,连接器的作用不可小觑。CONN_20.30X8.8MM_TM作为特殊规格的连接器,因其独特的设计和优良的性能,应用于多个领域。本文将对CO...
2025-04-25 11:30:40

功率电子开关在现代电力电子技术中是非常重要的配件,能够高效控制电能的传输与转换。不同类型的功率电子开关各具特点,适用于不同的应用场景。MOSFET(场效应晶体管...
2012-07-02 00:00:00


SS14肖特基二极管是常用的半导体器件,应用于电源管理、整流电路和高频开关电路中。由于其独特的特性,如低正向压降和快速恢复时间,SS14肖特基二极管成为了电子设...
2025-04-01 20:31:07

在现代生活中,除了我们常用的手机和电脑,其设备同样是不可少的配件。智能家居设备如智能音箱和智能灯泡,能够提升我们的生活便利性,通过语音控制让家居管理变得轻松自如...
2022-12-20 00:00:00

贴片电阻的耐压值并非一概而论,它会根据电阻的封装尺寸大小而变化。一般来说,封装尺寸越大,其耐压值越高。常见的贴片电阻封装尺寸,例如01004、0201、0402...
2024-11-26 11:29:30