講演抄録/キーワード |
講演名 |
2015-11-27 14:00
[ポスター講演]Performance degradation of AMP for Ising perceptron when the system size is small ○Arise Kuriya・Toshiyuki Tanaka(Kyoto Univ.) IBISML2015-85 |
抄録 |
(和) |
Donohoらの提案した近似メッセージ伝搬法(AMP)は、確率伝搬法に大システム極限でのガウス近似とメッセージ数を削減するための一次近似とを適用することで導出される。筆者らは、AMPを比較的小さなサイズの問題に適用した際の性質を、確率伝搬法との比較実験により検討し、近似による影響や性能低下の原因を調べる研究を行ってきた。本研究ではイジング・パーセプトロンの学習にAMPを適用した場合を取り上げ検討を行った。結果として、小さなサイズのイジング・パーセプトロンの学習にAMPを用いた際に見られる性能低下に対しては、第一にBPをサイクルのあるグラフに適用したことが主な要因になっている事がわかった。一方でガウス近似の導入は問題サイズが小さな場合でもほとんど性能に影響しないことが分かった。一次近似に関しては、AMPがこれによって不安定化される場合もあり、性能低下の一要因となりえることが分かった。 |
(英) |
Approximate Massage Passing (AMP) algorithm, proposed by Donoho et al., is derived from Belief Propagation (BP) algorithm by introducing the Gaussian approximation and the first-order approximation for reducing the number of messages, both of which are justifiable when the problem size is sufficiently large. We have been studying properties of the AMP algorithm when the problem size is relatively small by comparing the AMP algorithm with the BP algorithm. The main objective of our study is to investigate effects of the approximations and the cause for the poor performance of the AMP algorithm in small-sized problems. In this paper, we study the AMP algorithm applied to the problem of Ising perceptron learning. From numerical experiments of comparing performance of the AMP and BP algorithms applied to the Ising perceptron learning, we observed that the application of loopy-BP mainly causes the degradation of the performance of AMP in small-sized problems. We also observed that introducing the Gaussian approximation has hardly any effect on the basis of the performance even when the problem size is small. The first-order approximation, on the other hand, can cause instability of AMP by which the performance of AMP falls below BP. |
キーワード |
(和) |
確率伝搬法 / 近似メッセージ伝搬法 / イジング・パーセプトロン / / / / / |
(英) |
Belief Propagation / Approximate Message Passing / Ising Perceptron / / / / / |
文献情報 |
信学技報, vol. 115, no. 323, IBISML2015-85, pp. 241-247, 2015年11月. |
資料番号 |
IBISML2015-85 |
発行日 |
2015-11-19 (IBISML) |
ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
IBISML2015-85 |
研究会情報 |
研究会 |
IBISML |
開催期間 |
2015-11-25 - 2015-11-27 |
開催地(和) |
つくば国際会議場 |
開催地(英) |
Epochal Tsukuba |
テーマ(和) |
情報論的学習理論ワークショップ(IBIS2015) |
テーマ(英) |
Information-Based Induction Science Workshop (IBIS2015) |
講演論文情報の詳細 |
申込み研究会 |
IBISML |
会議コード |
2015-11-IBISML |
本文の言語 |
英語 |
タイトル(和) |
|
サブタイトル(和) |
|
タイトル(英) |
Performance degradation of AMP for Ising perceptron when the system size is small |
サブタイトル(英) |
|
キーワード(1)(和/英) |
確率伝搬法 / Belief Propagation |
キーワード(2)(和/英) |
近似メッセージ伝搬法 / Approximate Message Passing |
キーワード(3)(和/英) |
イジング・パーセプトロン / Ising Perceptron |
キーワード(4)(和/英) |
/ |
キーワード(5)(和/英) |
/ |
キーワード(6)(和/英) |
/ |
キーワード(7)(和/英) |
/ |
キーワード(8)(和/英) |
/ |
第1著者 氏名(和/英/ヨミ) |
栗谷 亜理世 / Arise Kuriya / クリヤ アリセ |
第1著者 所属(和/英) |
京都大学 (略称: 京大)
Kyoto University (略称: Kyoto Univ.) |
第2著者 氏名(和/英/ヨミ) |
田中 利幸 / Toshiyuki Tanaka / |
第2著者 所属(和/英) |
京都大学 (略称: 京大)
Kyoto University (略称: Kyoto Univ.) |
第3著者 氏名(和/英/ヨミ) |
/ / |
第3著者 所属(和/英) |
(略称: )
(略称: ) |
第4著者 氏名(和/英/ヨミ) |
/ / |
第4著者 所属(和/英) |
(略称: )
(略称: ) |
第5著者 氏名(和/英/ヨミ) |
/ / |
第5著者 所属(和/英) |
(略称: )
(略称: ) |
第6著者 氏名(和/英/ヨミ) |
/ / |
第6著者 所属(和/英) |
(略称: )
(略称: ) |
第7著者 氏名(和/英/ヨミ) |
/ / |
第7著者 所属(和/英) |
(略称: )
(略称: ) |
第8著者 氏名(和/英/ヨミ) |
/ / |
第8著者 所属(和/英) |
(略称: )
(略称: ) |
第9著者 氏名(和/英/ヨミ) |
/ / |
第9著者 所属(和/英) |
(略称: )
(略称: ) |
第10著者 氏名(和/英/ヨミ) |
/ / |
第10著者 所属(和/英) |
(略称: )
(略称: ) |
第11著者 氏名(和/英/ヨミ) |
/ / |
第11著者 所属(和/英) |
(略称: )
(略称: ) |
第12著者 氏名(和/英/ヨミ) |
/ / |
第12著者 所属(和/英) |
(略称: )
(略称: ) |
第13著者 氏名(和/英/ヨミ) |
/ / |
第13著者 所属(和/英) |
(略称: )
(略称: ) |
第14著者 氏名(和/英/ヨミ) |
/ / |
第14著者 所属(和/英) |
(略称: )
(略称: ) |
第15著者 氏名(和/英/ヨミ) |
/ / |
第15著者 所属(和/英) |
(略称: )
(略称: ) |
第16著者 氏名(和/英/ヨミ) |
/ / |
第16著者 所属(和/英) |
(略称: )
(略称: ) |
第17著者 氏名(和/英/ヨミ) |
/ / |
第17著者 所属(和/英) |
(略称: )
(略称: ) |
第18著者 氏名(和/英/ヨミ) |
/ / |
第18著者 所属(和/英) |
(略称: )
(略称: ) |
第19著者 氏名(和/英/ヨミ) |
/ / |
第19著者 所属(和/英) |
(略称: )
(略称: ) |
第20著者 氏名(和/英/ヨミ) |
/ / |
第20著者 所属(和/英) |
(略称: )
(略称: ) |
講演者 |
第1著者 |
発表日時 |
2015-11-27 14:00:00 |
発表時間 |
180分 |
申込先研究会 |
IBISML |
資料番号 |
IBISML2015-85 |
巻番号(vol) |
vol.115 |
号番号(no) |
no.323 |
ページ範囲 |
pp.241-247 |
ページ数 |
7 |
発行日 |
2015-11-19 (IBISML) |