講演抄録/キーワード |
講演名 |
2014-07-17 16:15
多項分布のエントロピーに関する限界式 ○楫 勇一(奈良先端大) IT2014-23 |
抄録 |
(和) |
多項分布のエントロピーの上界式および下界式を導出する.多項分布は汎用性の高い確率分布であるが,そのエントロピーを閉じた式により表す方法は知られていない.Cichon らは,多項分布のエントロピーを漸近的に与える近似式を導出しているが,非漸近的な領域では近似精度が低く,また,近似誤差についても明確な知見が得られていないため,得られた近似値の定量的な解釈は難しい.本研究では,多項分布のエントロピーに関し,任意のパラメータに対して成り立つ上界式および下界式を導出する. |
(英) |
The purpose of this study is to derive an upper-bound and a lower-bound of the entropy of a multinomial distribution. In spite of its practicality and versatility, there is no closed-form formula of the entropy of the multinomial distribution. Cich'{o}n derived an asymptotic formula that approximates the entropy, but the approximation is not very useful because it can yield fatal error for non-asymptotic parameters, and there is no clear perspective of the approximation error. This paper proposes an upper-bound and a lower-bound formulas of the entropy of the multinomial distribution. The formulas are effective for arbitrary parameters, and contribute to the quantitative discussion of the entropy of the multinomial distribution. |
キーワード |
(和) |
エントロピー / 多項分布 / 二項分布 / 限界式 / Stirlingの公式 / / / |
(英) |
entropy / multinomial distribution / binomial distribution / bound formula / Stirling's formula / / / |
文献情報 |
信学技報, vol. 114, no. 138, IT2014-23, pp. 65-70, 2014年7月. |
資料番号 |
IT2014-23 |
発行日 |
2014-07-10 (IT) |
ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
IT2014-23 |