在交叉熵方法中更新建议分布参数时,为什么精英样本要按似然比加权?
精英样本按似然比加权,因为它们是从当前建议分布中抽取的,而不是原始目标分布。似然比纠正了这种差异,确保更新后的建议分布参数准确反映了原始分布下的最大似然估计。
适用条件
- 精英样本是值高于迭代阈值 的样本。
- 似然比计算为原始密度除以建议密度。
理解与推导
- 从当前批次中识别精英样本。
- 为每个精英样本计算似然比。
- 在计算新的建议分布参数时,使用这些比率作为权重。
例子
演讲者说,他们更新 v 参数以使其成为精英样本的最大似然估计,并且必须按似然比对样本进行加权。代码显示使用 `weights=eliteLRs` 对 `mu_i` 和 `sigma_i` 进行加权平均。
容易误解的地方
- 忘记对样本进行加权,将它们视为从原始分布中抽取的。
- 假设似然比是建议密度除以原始密度。
观看对应讲解
YouTube改进的交叉熵与原始交叉熵方法
4:10 – 4:23原站看这一段 ↗
继续追问
答案依据视频资料生成并经过独立核验。若有疑问,请核对原视频或联系原作者。