Word2Vec介绍:推导代价函数对权重的梯度
由iquant创建,最终由qxiao 被浏览 9 用户
目录
- 我们的目标是什么?
- 需要用到的表达式和公式
- 手把手带你计算梯度
- 意义是什么?
我们的目标是什么?

需要用到的表达式和公式


开始推导

这里为什么 ,下面是推导过程:


意义是什么?
为什么要推导 ?
因为这里的意义是,代价J对目标向量 求导,得到的导数就是使J最小的“方向”和“大小”。那么通过朝着这个“方向”和“大小”优化
就可以得到使J最小的
!