2、服务器GPU基础知识
GPU是什么?图形处理器(Graphics Processing Unit,缩写:GPU),又称显示核心、视觉处理器、显示芯片,是一种专门在个人电脑、工作站、游戏机和一些移动设备(如平板电脑、智能手机等)上图像运算工作的微处理,是显卡或GPU卡的“心脏”。
Fermi是第一个完整的GPU计算架构。首款可支持与共享存储结合纯cache层次的GPU架构,支持ECC的GPU架构。包含512个accelerator cores即所谓CUDA cores(包含ALU和FPU),16个SM,每个SM包含32个CUDA core
发展到至今,NVIDIA已经经历8代GPU架构变迁,最新架构基于Ampere GPU架构,基于TSMC 7nm制程,也是第一个统一了数据分析,训练和推理的弹性多实例GPU。基于TF32的第三代张量核,NVLink3,结构稀疏性等特性。
3、服务器内存知识