Bootstrap

GFLOPs、GMACs、FMA之间的关系

1)FLOPS是Floating-point Operations Per Second每秒所执行的浮点运算次数的英文缩写。它是一个衡量芯片计算能力的量,这个量经常使用在那些需要大量浮点运算的科学运算中。有时也会被记为flop/s,用以衡量硬件性能

 

  • 一个 MFLOPS (megaFLOPS) 等于每秒1百万 (=10^6) 次的浮点运算,
  • 一个 GFLOPS (gigaFLOPS) 等于每秒10亿 (=10^9) 次的浮点运算,
  • 一个 TFLOPS (teraFLOPS) 等于每秒1万亿 (=10^12) 次的浮点运算,
  • 一个 PFLOPS (petaFLOPS) 等于每秒1千万亿 (=10^15) 次的浮点运算

2)FLOPs是floating point operations的缩写(s表复数),意指浮点运算数,理解为计算量,用以衡量算法/模型复杂度

3)MACs 每秒执行的定点乘累加操作次数的缩写,它是衡量计算机定点处理能力的量,这个量经常用在那些需要大量定点乘法累加运算的科学运算中,记为MACs。

  • 一个 GMACs:等于每秒10亿 (=10^9) 次的定点乘累加运算
  • 乘积累加运算(英语:Multiply AccumulateMAC

4) FMA指令集(Fused-Multiply-Add,积和熔加运算)是x86微处理器上的指令集。FMA允许创建新的指令并有效率地执行各种复杂的运算,可结合乘法与加法运算(即积和熔加运算)。

  • FMA将a*x+b记为一项运算,GMAC=0.5GFLOPs

参考这个issue

;