Softmax函数详解
Softmax函数又被称为归一化指数函数。它是二分类函数sigmoid在多分类上的推广,作用是将多分类的结果以概率的形式展现出来。下图是softmax的计算方法。
为什么 Softmax
是这种形式的呢?
因为概率的两个性质:(1) 预测得到的概率为非负数;(2) 各种预测结果的概率之和等于1。
Softmax就是将在负无穷到正无穷上的预测结果按照这两步转换为概率的。
1.将预测结果转化为非负数
softmax第一步就是将模型的预测结果转化到指数函数exp上,这样就保证了概率的非负性。
2.确保概率之和等于1
我们只需要将转换后的结果进行归一化处理就可以。将转化后的结果除以所有转化后结果之和
,这样就得到了近似概率。
总结:
- 分子:通过exp指数函数,将输出映射到零到正无穷。
- 分母:将所有结果相加,进行归一化。