寻网站开发人员合作官方网站下载地址

GPU的算力指的是什么？

GPU的计算能力可以使用FLOPS表示，FLOPS是floating-point operations per second的缩写,表示“每秒所执行的浮点运算次数”。是被用来估算处理的计算能力

1 MFLOPS = 每秒可以执行一百万(10^6)次浮点运算

1 GFLOPS = 每秒可以执行十亿(10^9)次浮点运算

1 TFLOPS = 每秒可以执行一万亿(10^12)次浮点运算

1TOPS：代表的是每秒执行一万亿次运算次数

TFLOPS和 TOPS都是描述深度学习设备计算能力的单位

这2者的区别在于：FL即float浮点，大多数NPU（Neural Processing Unit）都是定点运算，通常是用 TOPS来标称算力。它们之间的转换通常可以用公式：1TFLOPS=2*1TOPS来计算，但是需要注意TFLOPS中有单精度FP32 和半精度FP16的区别，一般默认是FP16。

Nvidia GPU的流处理器单元是两个ALU单元，每个时钟周期进行两次浮点预算。。

FLOPS＝ 处理器个数 × 处理器主频  ×  单个处理器一个时钟周期进行浮点运算次数

以最新的RTX4080为例：核心数量是：9728，最大主频为：2.51GHz。那么计算如下：

显卡FLOPS ＝9728 *2.51＊2＝ 48834.56Gflops=49 TFLOPS