隔たりの見積もり
- N個の非負数値の組x1x2...xNとy1y2...yNの間の隔たり(角度,内積)を見積もる.
特にk=l=1の場合.
- 可能なときはとp,qに置き換える.
- この式には次のような意味がある.
記号 | 式 | 備考 |
---|---|---|
D1,1,2 | 普通のcosθ | |
D1,ε,ε(ε+1) | Kullback-Leiblerダイバージェンス(の指数),ε→0で極限を取る | |
D1/2,1/2,1 | Bhattacharyyaダイバージェンス(の指数) | |
Dα,1-α,α-1 | Renyiダイバージェンス(の指数) |
- リンク(ダイバージェンス達)
- http://ibisforest.org/index.php?%E3%83%80%E3%82%A4%E3%83%90%E3%83%BC%E3%82%B8%E3%82%A7%E3%83%B3%E3%82%B9
- http://en.wikipedia.org/wiki/Kullback%E2%80%93Leibler_divergence
- http://en.wikipedia.org/wiki/Bhattacharyya_coefficient
- http://en.wikipedia.org/wiki/R%C3%A9nyi_entropy
- http://en.wikipedia.org/wiki/Tsallis_entropy
- http://en.wikipedia.org/wiki/Diversity_indices
- Kullback-Leiblerダイバージェンスには0乗していると考えられる部分があり,0乗をlogに化けさせてはいてもyiの値が小さいものに対しての感度が鋭く大きな影響を与えられやすい(頑健,ロバストでない?)ところがあるので,極限を取るのはやめてしまえと考えたのがβダイバージェンスもしくはdensity power ダイバージェンス(?)
- Renyiダイバージェンスも0乗を冪乗に直している点は似たようなことをしているが,片方の冪乗を1に固定していない.0乗から離れる方向が異っている.
- リンク
- とすると,見積もり個数Wm,nで表せる.
- ハーフィンダール・ハーシュマン指数はD1,1,2相当なので,1,1,1,1...という完全競争状態との角度を普通のcosで計っているだけらしい.エントロピーのように0乗している部分がないので零細業者がいくつあろうが多少業績をあげようがあまり指数に大きな影響を与えられない(頑健?)
- とすると,
の形に書く事ができる.Renyiダイバージェンスではp,qの方は固定されていて次数αのみが変化するが,density powerダイバージェンスはαの変化に応じてp,q,βも変化する?