1.交叉熵
它描述两个概率分布之间的距离,当交叉熵小时说明两者之间越接近,它是分类问题中使用比较广的一种损失函数
2.回归问题中常用的均方误差MSE
回归问题解决的是具体数值的预测,比如放假预测、销售预测等都是回归问题,这些问题需要预测的不是一个事先定义好的类别,而是一个任意的实数,
解决回归问题的神经网络一般只有一个输出节点,这个节点的输出值就是预测值
3.自定义损失函数
tensorlfow支持自定义损失函数,以下演示一个简单的示例:
首先定义一个分段损失函数,然后提供它的代码实现:
loss=tf.recue_sum(tf.where(tf.greater(v1,v2),(v1-v2)*a,(v2-v1)*b))