講演抄録/キーワード |
講演名 |
2010-11-04 15:00
[ポスター講演]CCCPを用いたTRW自由エネルギー最小化に基づく確率推論 ○西山 悠(理研)・Xingyao Ye・Alan L. Yuille(カリフォルニア大ロサンゼルス校) IBISML2010-66 |
抄録 |
(和) |
本稿ではWainwrightのTRW自由エネルギーを,CCCPによって最小化する確率推論アルゴリズムTRW-CCCPを開発する.TRW-CCCPは大域的最小値への収束が保証される.TRW自由エネルギーをパラメトリックに凸自由エネルギーの差の形に表わし,パラメトリックな分解に基づくCCCPを適用することでTRW-CCCPを導出する.TRW-CCCPは高次元の自由度を表わすフリーベクトルを含み,高次元上の確率推論アルゴリズムの集合を与える.フリーベクトルは,予稿内で定義されるCCCPが定める集合内の任意ベクトル,またはその系列について,収束が保証される.フリーベクトルは収束の速さをコントロールするステップサイズの役割を持つ.TRW-CCCPを二次元格子イジングスピンモデルに適用した結果,TRW自由エネルギーは単調減少を示し,TRW-BPと同じ近似周辺確率分布を計算した.マルコフ確率場の重みが大きく,frustrationが大きい場合と,TRW-BPが収束しない場合に,TRW-CCCPの有効性が期待される. |
(英) |
We propose a family of convergent double-loop algorithms which minimize the TRW free energy. These algorithms are based on the concave convex procedure (CCCP) so we call them TRW-CCCP. Our formulation includes many free parameters which specify an infinite number of decompositions of the TRW free energy into convex and concave parts. TRW-CCCP is guaranteed to converge to the global minima for any settings of these free parameters, including adaptive settings if they satisfy conditions defined in this paper. We show that the values of these free parameters control the speed of convergence of the the inner and outer loops in TRW-CCCP. We performed experiments on a two-dimensional Ising model observing that TRW-CCCP converges to the global minimum of the TRW free energy and that the convergence rate depends on the parameter settings. We compare with the original message passing algorithm (TRW-BP) by varying the difficulty of the problem (by adjusting the energy function) and the number of iterations in the inner loop of TRW-CCCP. We show that on difficult problems TRW-CCCP converges faster than TRW-BP (in terms of total number of iterations) if few inner loop iterations are used. |
キーワード |
(和) |
TRW自由エネルギー / CCCP / 確率推論 / マルコフ確率場 / 周辺確率 / / / |
(英) |
TRW Free Energy / CCCP / Probabilistic Inference / Markov Random Fields / Marginals / / / |
文献情報 |
信学技報, vol. 110, no. 265, IBISML2010-66, pp. 51-58, 2010年11月. |
資料番号 |
IBISML2010-66 |
発行日 |
2010-10-28 (IBISML) |
ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
IBISML2010-66 |
研究会情報 |
研究会 |
IBISML |
開催期間 |
2010-11-04 - 2010-11-06 |
開催地(和) |
東大生産研 |
開催地(英) |
IIS, Univ. of Tokyo |
テーマ(和) |
IBIS 2010 (情報論的学習理論ワークショップ) |
テーマ(英) |
IBIS 2010 (Workshop on Information-based Induction Sciences) |
講演論文情報の詳細 |
申込み研究会 |
IBISML |
会議コード |
2010-11-IBISML |
本文の言語 |
日本語 |
タイトル(和) |
CCCPを用いたTRW自由エネルギー最小化に基づく確率推論 |
サブタイトル(和) |
|
タイトル(英) |
Probabilistic Inference by minimizing the TRW Free Energy using CCCP |
サブタイトル(英) |
|
キーワード(1)(和/英) |
TRW自由エネルギー / TRW Free Energy |
キーワード(2)(和/英) |
CCCP / CCCP |
キーワード(3)(和/英) |
確率推論 / Probabilistic Inference |
キーワード(4)(和/英) |
マルコフ確率場 / Markov Random Fields |
キーワード(5)(和/英) |
周辺確率 / Marginals |
キーワード(6)(和/英) |
/ |
キーワード(7)(和/英) |
/ |
キーワード(8)(和/英) |
/ |
第1著者 氏名(和/英/ヨミ) |
西山 悠 / Yu Nishiyama / ニシヤマ ユウ |
第1著者 所属(和/英) |
理化学研究所 (略称: 理研)
RIKEN (略称: RIKEN) |
第2著者 氏名(和/英/ヨミ) |
Xingyao Ye / Xingyao Ye / |
第2著者 所属(和/英) |
UCLA (略称: カリフォルニア大ロサンゼルス校)
UCLA (略称: UCLA) |
第3著者 氏名(和/英/ヨミ) |
Alan L. Yuille / Alan L. Yuille / |
第3著者 所属(和/英) |
UCLA (略称: カリフォルニア大ロサンゼルス校)
UCLA (略称: UCLA) |
第4著者 氏名(和/英/ヨミ) |
/ / |
第4著者 所属(和/英) |
(略称: )
(略称: ) |
第5著者 氏名(和/英/ヨミ) |
/ / |
第5著者 所属(和/英) |
(略称: )
(略称: ) |
第6著者 氏名(和/英/ヨミ) |
/ / |
第6著者 所属(和/英) |
(略称: )
(略称: ) |
第7著者 氏名(和/英/ヨミ) |
/ / |
第7著者 所属(和/英) |
(略称: )
(略称: ) |
第8著者 氏名(和/英/ヨミ) |
/ / |
第8著者 所属(和/英) |
(略称: )
(略称: ) |
第9著者 氏名(和/英/ヨミ) |
/ / |
第9著者 所属(和/英) |
(略称: )
(略称: ) |
第10著者 氏名(和/英/ヨミ) |
/ / |
第10著者 所属(和/英) |
(略称: )
(略称: ) |
第11著者 氏名(和/英/ヨミ) |
/ / |
第11著者 所属(和/英) |
(略称: )
(略称: ) |
第12著者 氏名(和/英/ヨミ) |
/ / |
第12著者 所属(和/英) |
(略称: )
(略称: ) |
第13著者 氏名(和/英/ヨミ) |
/ / |
第13著者 所属(和/英) |
(略称: )
(略称: ) |
第14著者 氏名(和/英/ヨミ) |
/ / |
第14著者 所属(和/英) |
(略称: )
(略称: ) |
第15著者 氏名(和/英/ヨミ) |
/ / |
第15著者 所属(和/英) |
(略称: )
(略称: ) |
第16著者 氏名(和/英/ヨミ) |
/ / |
第16著者 所属(和/英) |
(略称: )
(略称: ) |
第17著者 氏名(和/英/ヨミ) |
/ / |
第17著者 所属(和/英) |
(略称: )
(略称: ) |
第18著者 氏名(和/英/ヨミ) |
/ / |
第18著者 所属(和/英) |
(略称: )
(略称: ) |
第19著者 氏名(和/英/ヨミ) |
/ / |
第19著者 所属(和/英) |
(略称: )
(略称: ) |
第20著者 氏名(和/英/ヨミ) |
/ / |
第20著者 所属(和/英) |
(略称: )
(略称: ) |
講演者 |
第1著者 |
発表日時 |
2010-11-04 15:00:00 |
発表時間 |
180分 |
申込先研究会 |
IBISML |
資料番号 |
IBISML2010-66 |
巻番号(vol) |
vol.110 |
号番号(no) |
no.265 |
ページ範囲 |
pp.51-58 |
ページ数 |
8 |
発行日 |
2010-10-28 (IBISML) |