講演名 2002/12/3
一般化事後確率とその計算法
松嶋 敏泰,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 通常の確率推論では証拠(evidence)としてX=xが与えられたもとで,目的とする確率変数Yの事後分布P(Y|X=x)を求めている.ある確率変数の分布P(X=x)=p_x=が情報として与えれた場合の確率推論はどのように考えればよいのだろうか.このような証拠を従来研究ではdistribution-evidenceと呼び,幾つかの研究がなされていたが,ほとんどの推論法が定性的概念に基づくものであった.本稿では,distribution-evidenceを与えられたもとでの確率推論を一般化確率推論として定式化する.ある仮定のもとで導出される一般化確率推論による推論結果は,周辺分布制約のもとでKullback-Leibler(K-L)情報量により測られた距離が事前分布に最も近い分布となっていることを示す.これを一般化事後分布と呼び,その計算法として統計分野で用いられているIterative Proportional Fitting Procedure(IPFP)が応用できることを示し,その幾何学的解釈を通じて,他の表現法を用いた効率的アルゴリズムや並列アルゴリズムについて解説する.さらにこのアルゴリズムを発展させextended junction graph(EJG)上で一般化事後分布を計算する確率伝播アルゴリズムについてもふれる.EJGはjunction graph(JG)を拡張した確率モデルのグラフ表現で,Bayesian network(BN)やfactor graphを含む一般的なグラフである.この確率伝播アルゴリズムはHUGINやsum-productアルゴリズムの拡張となっており,確率推論のみならず復号など様々な分野への応用が考えられる.また,前半部では準備として,通常の事後分布の統計的決定理論における役割を説明し,各研究分野における事後分布の利用法,確率モデルのグラフ表現法,そのグラフ上で事後分布を効率よく計算する確率伝播アルゴリズムについて概説する.
抄録(英) The posterior probability P(Y|X = x) given the evidence X = x is calculated by the ordinary probabilistic reasoning. In the case that an evidence is given by the distribution of random variables such as P(X = x) =p_x this type of evidence is called distribution-evidence in the previous research. The probabilistic reasoning given distribution-evidence has been formalized as generalized probabilistic reasoning. We show that the posterior distribution calculated by the generalized probabilistic reasoning is the distribution that is closest to the prior distribution with Kullback-Leibler information under the restriction of marginal distributions. Iterative Proportional Fitting Procedure (IPFP) can be applied to the procedure of the generalized probabilistic reasoning. We explain efficient propagation algorithms based on IPFP for calculating marginal generalized posterior distributions on extended junction graphs (EJG). The propagation algorithms are regarded as a generalization of HUGIN and the sum-product algorithm. The propagation algorithms can be applied to not only generalized probabilistic reasoning but also many research fields such as decoding problem.
キーワード(和) 事後分布 / 確率推論 / 確率伝播アルゴリズム / 反復復号法 / Kullback-Leibler情報量 / グラフィカルモデリング
キーワード(英) posterior distribution / probabilistic reasoning / propagation algorithm / iterative decoding / Kullback-Leibler information / graphical modeling
資料番号 IT2002-36
発行日

研究会情報
研究会 IT
開催期間 2002/12/3(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Information Theory (IT)
本文の言語 JPN
タイトル(和) 一般化事後確率とその計算法
サブタイトル(和)
タイトル(英) A Generalized Posterior Probability and Its Calculation Procedures
サブタイトル(和)
キーワード(1)(和/英) 事後分布 / posterior distribution
キーワード(2)(和/英) 確率推論 / probabilistic reasoning
キーワード(3)(和/英) 確率伝播アルゴリズム / propagation algorithm
キーワード(4)(和/英) 反復復号法 / iterative decoding
キーワード(5)(和/英) Kullback-Leibler情報量 / Kullback-Leibler information
キーワード(6)(和/英) グラフィカルモデリング / graphical modeling
第 1 著者 氏名(和/英) 松嶋 敏泰 / Toshiyasu MATSUSHIMA
第 1 著者 所属(和/英) 早稲田大学理工学部
School of Science and Engineering, Waseda University
発表年月日 2002/12/3
資料番号 IT2002-36
巻番号(vol) vol.102
号番号(no) 494
ページ範囲 pp.-
ページ数 8
発行日