理论学习：nn.CrossEntropyLoss
该标准计算输入 logits 和目标之间的交叉熵损失。
代码实战
该损失函数结合了nn.LogSoftmax()和nn.NLLLoss()两个函数。它在做分类（具体几类）训练的时候是非常有用的。在训练过程中，对于每个类分配权值，可选的参数权值应该是一个1D张量。当你有一个不平衡的训练集时，这是是非常有用的。那么针对这个函数，下面将做详细的介绍。
import torch
import torch.nn as nn
x_input=torch.randn(3,3)#随机生成输入
print('x_input:\n',x_input)
y_target=torch.tensor([1,2,0])#设置输出具体值 print('y_target\n',y_target)#计算输入softmax，此时可以看到每一行加到一起结果都是1
softmax_func=nn.Softmax(dim=1)
soft_output=softmax_func(x_input)
print('soft_output:\n',soft_output)#在softmax的基础上取log
log_output=torch.log(soft_output)
print('log_output:\n',log_output)#对比softmax与log的结合与nn.LogSoftmaxloss(负对数似然损失)的输出结果，发现两者是一致的。
logsoftmax_func=nn.LogSoftmax(dim=1)
logsoftmax_output=logsoftmax_func(x_input)
print('logsoftmax_output:\n',logsoftmax_output)#pytorch中关于NLLLoss的默认参数配置为：reducetion=True、size_average=True
nllloss_func=nn.NLLLoss()
nlloss_output=nllloss_func(logsoftmax_output,y_target)
print('nlloss_output:\n',nlloss_output)#直接使用pytorch中的loss_func=nn.CrossEntropyLoss()看与经过NLLLoss的计算是不是一样
crossentropyloss=nn.CrossEntropyLoss()
crossentropyloss_output=crossentropyloss(x_input,y_target)
print('crossentropyloss_output:\n',crossentropyloss_output)最后计算得到的结果为：
x_input:tensor([[ 2.8883, 0.1760, 1.0774],[ 1.1216, -0.0562, 0.0660],[-1.3939, -0.0967, 0.5853]]) y_targettensor([1, 2, 0]) soft_output:tensor([[0.8131, 0.0540, 0.1329],[0.6039, 0.1860, 0.2102],[0.0841, 0.3076, 0.6083]]) log_output:tensor([[-0.2069, -2.9192, -2.0178],[-0.5044, -1.6822, -1.5599],[-2.4762, -1.1790, -0.4970]]) logsoftmax_output:tensor([[-0.2069, -2.9192, -2.0178],[-0.5044, -1.6822, -1.5599],[-2.4762, -1.1790, -0.4970]]) nlloss_output:tensor(2.3185) crossentropyloss_output:tensor(2.3185)
通过上面的结果可以看出，直接使用pytorch中的loss_func=nn.CrossEntropyLoss()计算得到的结果与softmax-log-NLLLoss计算得到的结果是一致的。
nn.CrossEntropyLoss接受的都是logits和标签值？
是的，nn.CrossEntropyLoss函数通常接受Logits和标签值作为输入。在PyTorch中，nn.CrossEntropyLoss是一种常用的损失函数，用于多分类问题。
具体地，CrossEntropyLoss函数将Logits作为模型的输出，并根据Logits和对应的标签值计算损失。它首先应用Softmax函数将Logits转换为概率分布，然后计算预测概率分布与真实标签之间的交叉熵损失。
在使用CrossEntropyLoss函数时，通常需要将模型的输出（Logits）和对应的真实标签传递给该函数。函数内部会自动进行Logits的Softmax转换和交叉熵损失的计算。最终，该函数返回表示损失的标量值，可以用于模型的优化和训练过程。
因此，当使用nn.CrossEntropyLoss函数时，通常将Logits作为模型的输出，并将对应的真实标签作为目标值传递给该函数。