分类问题的优化过程是一个损失函数最小化的过程，对应的损失函数一般称为logloss，对于一个多分类问题，其在N个样本上的logloss损失函数具有以下形式：其中，yi(n)代表第n个样本是否属于第i个类别，取值为0或1，f(x(n))i代表分类模型对于第n个样本属于第i个类别的预
我在看paper的时候发现对于交叉熵的理解又有些遗忘，复习了一下之后，又有了一些新的认识。我今天没中彩票我今天中彩票了从文本上来看，这两句话的字数一致，描述的事件也基本一致，但是显然第二句话的信息量要比第一句大得多，原因也很简单，因为中彩票的概率要比不中彩票低得多。
不同的损失函数可用于不同的目标。在这篇文章中，我将带你通过一些示例介绍一些非常常用的损失函数。这篇文章提到的一些参数细节都属于tensorflow或者keras的实现细节。损失函数的简要介绍损失函数有助于优化神经网络的参数。
实际更常用的是**均方误差**：$$L)= \frac{1}{m}\sum_{i=1}^n)^2$$#### 2 平均绝对值误差-- MAE：$$L) = \sum_{i=1}^n|Y-f VS MSE：* **MSE计算简便，但MAE对异常点有更好的鲁棒性:**当数据中存在异常
1、梯度下降算法的正确步骤是什么？a.计算预测值和真实值之间的误差b.重复迭代，直至得到网络权重的最佳值c.把输入传入网络，得到输出值d.用随机值初始化权重和偏差e.对每一个产生误差的神经元，调整相应的（权重）值以减小误差A.abcde B.edcba C.cbaed D.
