对话系统(三)- 优化方法

梯度下降

  1. 梯度下降
  2. 随机梯度下降
  3. mini-batch

momentum

RMSprop

adam

batch epoch iteration
  1. batch:每次去几个样本进行更新权重
  2. iteration:对batch进行多少次使用
  3. epoch:对完整数据进行多少次使用


本文来自互联网用户投稿,文章观点仅代表作者本人,不代表本站立场,不承担相关法律责任。如若转载,请注明出处。 如若内容造成侵权/违法违规/事实不符,请点击【内容举报】进行投诉反馈!

相关文章

立即
投稿

微信公众账号

微信扫一扫加关注

返回
顶部