首页 > 技术 > 内容

FPGA运算单元对高算力浮点应用

时间:2025-12-12  作者:Diven  阅读:0

随着机器学习(Machine Learning)领域越来越多地使用现场可编程门阵列FPGA)来进行推理(inference)加速,而传统FPGA只支持定点运算的瓶颈越发凸显。Achronix为了解决这一大困境,创新地设计了机器学习处理器(MLP)单元,不仅支持浮点的乘加运算,还可以支持对多种定浮点数格式进行拆分。

MLP全称Machine Learning Processing单元,是由一组至多32个乘法器的阵列,以及一个加法树、累加器、还有四舍五入rounding/饱和saturation/归一化normalize功能块。同时还包括2个缓存,分别是一个BRAM72k和LRAM2k,用于独立或结合乘法器使用。MLP支持定点模式和浮点模式。

考虑到运算能耗和准确度的折衷,目前机器学习引擎中最常使用的运算格式是FP16和INT8,而Tensor Flow支持的BF16则是通过降低精度,来获得更大数值空间。

而且这似乎也成为未来的趋势。目前已经有不少研究表明,更小位宽的浮点或整型可以在保证正确率的还可以减少大量的计算量。为了顺应这一潮流,MLP还支持将大位宽乘法单元拆分成多个小位宽乘法,包括整数和浮点数。

值得注意的是,这里的bfloat16即Brain Float格式,而block float为块浮点算法,即当应用Block Float16及更低位宽块浮点格式时,指数位宽不变,小数位缩减到了16bit以内,因此浮点加法位宽变小,并且不需要使用浮点乘法单元,而是整数乘法和加法树即可,MLP的架构可以使这些格式下的算力倍增。

编辑:黄飞

 

猜您喜欢


贴片电阻上的4r70代表其阻值为4.7欧姆。字母r在这里扮演小数点的配件,将前面的数字4和后面的数字70连接起来。所以,4r70等同于4.7Ω。这种表示方法在贴...
2024-11-29 10:26:08
量杯主要优势有很多,首先是精准计量。无论是烘焙还是烹饪,量杯能够帮助我们准确掌握各种液体和干料的用量,确保食谱的成功。量杯材质多样,常见的有玻璃、塑料和不锈钢等...
2010-10-31 00:00:00
电子设备日益普及的今天,提高能源效率成为了一个重要议题。而反激同步整流电路作为一种高效的电源转换技术,在节能减排方面是重要配件。传统的反激电路在工作过程中,利用...
2024-06-27 00:00:00
SC70-5是一种广泛应用于各类工程和制造行业的高强度钢材。由于其优异的物理和化学特性,SC70-5在机械制造、建筑、汽车等领域得到了广泛应用。本文将深入探讨S...
2025-02-24 12:31:26
长电极电阻作为关键组件,应用于各类电子设备中,其品质与性能直接影响设备的稳定性和可靠性。而智宝(TEAPO),作为这一领域的佼佼者,其品牌背景及国家归属一直是业...
2015-09-10 22:50:28
贴片电阻的最大阻值并非一个固定数值,受到多种因素的影响,例如封装尺寸、材料以及制造工艺等。一般来说,市面上常见的贴片电阻阻值范围非常广,从几毫欧到几百兆欧都有。...
2024-11-29 10:25:34
现代电子设备的设计中,封装技术的选择非常重要。TDFN-6L_1X1MM是一种小型、紧凑的封装形式,广泛应用于各种消费电子产品中。随着科技的进步,电子元件的体积...
2025-03-09 22:00:01
《风华贴片电阻电容选型手册中文版》是电子工程师的实用工具书,涵盖了风华科技生产的各种贴片电阻和电容的详细参数和选型指南。手册以清晰的图表和简洁的语言,方便工程师...
2024-11-26 11:29:58
工业位置传感器开启智能家居和工业领域,创造新的应用,提升我们的日常生活。工业机器人高速应用电机位置检测——在更高的转速下也能实现灵活设计和高度精确的位置感测:工...
2024-07-03 20:53:00
随着电子设备的小型化和性能的提升,封装技术在现代电子产品中扮演着至关重要的角色。其中,QFN(QuadFlatNo-lead)封装因其优越的性能和尺寸优势而备受...
2025-02-24 12:01:08