灵慧汉语 - 词语词典 聊天词典

请问「信息散度」是什么意思?

2026-07-12 04:15:25

「信息散度」读音

拼音 xìn xī sàn dù,注音 ㄒㄧㄣˋ ㄒㄧ ㄙㄢˋ ㄉㄨˋ

拼音字母xin xi san du
拼音首字母xxsd
注音符号ㄒㄧㄣ ㄒㄧ ㄙㄢ ㄉㄨ
注音首符号ㄒㄒㄙㄉ

「信息散度」释义

扩展释义 相对熵(relative entropy),又被称为Kullback-Leibler散度(Kullback-Leibler divergence)或信息散度(information divergence),是两个概率分布(probability distribution)间差异的非对称性度量。在在信息理论中,相对熵等价于两个概率分布的信息熵(Shannon entropy)的差值。相对熵是一些优化算法,例如最大期望算法(Expectation-Maximization algorithm, EM)的损失函数。此时参与计算的一个概率分布为真实分布,另一个为理论(拟合)分布,相对熵表示使用理论分布...

推荐