softmax+log_softmax理解与使用（为什么可以常用在分类交叉损失熵）

转载

官方学习资源

torch在nn里面已经封装好了各种函数

• https://pytorch.org/docs/stable/nn.html -nn模块吗，很全
• https://pytorch.org/docs/stable/nn.html#normalization-layers-各种bn介绍
• https://pytorch.org/docs/stable/nn.html#loss-functions-各种loss介绍
• https://pytorch.org/docs/stable/nn.html#non-linear-activations-weighted-sum-nonlinearity-softmax和log_softmax介绍

softmax-softargmax的发展 1）softmax

softmax是一种指数归一化函数。