标签: Softmax
包含标签 "Softmax" 的所有文章:
Softmax、熵与玻尔兹曼:一条从比特到粒子的概率之路
发表: at 10:30Softmax将神经网络最后一层的打分变成一组概率,让模型能用“我有多确定”来回答问题。乍看,这只是一个便利的数学小工具;然而当我们把目光移向 19 世纪的统计力学,再回到 20 世纪的信息论,再落脚于今天的深度学习,会发现 Softmax 是一座跨越三个时代的桥梁——其桥墩正是“熵”这一概念。
包含标签 "Softmax" 的所有文章:
Softmax将神经网络最后一层的打分变成一组概率,让模型能用“我有多确定”来回答问题。乍看,这只是一个便利的数学小工具;然而当我们把目光移向 19 世纪的统计力学,再回到 20 世纪的信息论,再落脚于今天的深度学习,会发现 Softmax 是一座跨越三个时代的桥梁——其桥墩正是“熵”这一概念。