Skip to content

混合精度学习入口 ​

混合精度的正文和交互已整理到04. 混合精度怎样计算。从一次乘法与累加开始,分别认识权重、激活、累加器和输出格式,再理解训练中的损失缩放。

第一次学习可以从模型数值精度开头读起;已经了解浮点格式,可直接进入混合精度正文。配置实验也保留在新文章中。

别急,先让缓存热一下。