電子情報通信学会 研究会発表申込システム
講演論文 詳細
技報閲覧サービス
技報オンライン
‥‥ (ESS/通ソ/エレソ/ISS)
技報アーカイブ
‥‥ (エレソ)
 トップに戻る 前のページに戻る   [Japanese] / [English] 

講演抄録/キーワード
講演名 2012-03-12 14:40
部分観測マルコフ決定過程ベルマン方程式のカーネル化
西山 悠統計数理研)・Abdeslam BoulariasMPI)・Arthur GrettonUCL)・福水健次統計数理研
技報オンラインサービス実施中
抄録 (和) 最近のカーネル法である分布埋め込みとカーネルベイズルール(KBR)を使って,部分観測マルコフ決定過程(POMDP)を再生核ヒルベルト空間(RKHS)上で扱うことを行う.
状態集合が作る再生核ヒルベルト空間の上に価値関数を定義し,ベルマン(最適)方程式を再生核ヒルベルト空間上の方程式に埋め込むことを考える.学習される方策は,再生核ヒルベルト空間の元から行動への写像となる.
埋め込んだベルマン(最適)方程式の有限サンプル経験表現を与え,カーネルベイズルールと組み合わせたカーネル価値反復アルゴリズムを提案する.実験では,カーネル価値反復アルゴリズムを,部分観測決定過程のオンラインプランニングのベンチマークに適用し,方策が真のモデルの方策を学習した数値結果を示す.また,このカーネル法の下でQMDP近似を提案し,カーネル価値反復の初期価値関数設定と行動枝の枝刈りに使うことを提案する. 
(英) We propose to handle POMDPs in reproducing kernel Hilbert spaces (RKHSs) using recent kernel methods of embedding distributions in an RKHS and kernel Bayes rule (KBR).
We embed Bellman equations to equations over an RKHS on the set of states and define value functions as functions over the RKHS. We then learn a policy as a mapping from elements of the RKHS to actions. We give empirical representations of the Bellman equations and use it for value iteration algorithms with the kernel Bayes rule. In experiments, we demonstrate the kernel value iteration with finite horizons on some benchmarks in POMDPs and show that the policy converged to the policy that the exact model computed. We also propose QMDP approximations with this kernel methods for the setting of initial values and for pruning action edges to make computationally efficient.
キーワード (和) 部分観測マルコフ決定過程 / 再生核ヒルベルト空間 / 分布埋め込み / 価値反復 / QMDP / / /  
(英) POMDP / RKHS / Distribution Embeddings / Value Iteration / QMDP / / /  
文献情報 信学技報, vol. 111, no. 480, IBISML2011-92, pp. 35-42, 2012年3月.
資料番号 IBISML2011-92 
発行日 2012-03-05 (IBISML) 
ISSN Print edition: ISSN 0913-5685  Online edition: ISSN 2432-6380

研究会情報
研究会 IBISML  
開催期間 2012-03-12 - 2012-03-13 
開催地(和) 統計数理研究所 
開催地(英) The Institute of Statistical Mathematics 
テーマ(和) 統計数理、データベース、一般 
テーマ(英) Mathematical Statistics, Databases, etc. 
講演論文情報の詳細
申込み研究会 IBISML 
会議コード 2012-03-IBISML 
本文の言語 日本語 
タイトル(和) 部分観測マルコフ決定過程ベルマン方程式のカーネル化 
サブタイトル(和)  
タイトル(英) Kernel Bellman Equations in POMDPs 
サブタイトル(英)  
キーワード(1)(和/英) 部分観測マルコフ決定過程 / POMDP  
キーワード(2)(和/英) 再生核ヒルベルト空間 / RKHS  
キーワード(3)(和/英) 分布埋め込み / Distribution Embeddings  
キーワード(4)(和/英) 価値反復 / Value Iteration  
キーワード(5)(和/英) QMDP / QMDP  
キーワード(6)(和/英) /  
キーワード(7)(和/英) /  
キーワード(8)(和/英) /  
第1著者 氏名(和/英/ヨミ) 西山 悠 / Yu Nishiyama / ニシヤマ ユウ
第1著者 所属(和/英) 統計数理研究所 (略称: 統計数理研)
The Institute of Statistical Mathematics (略称: ISM)
第2著者 氏名(和/英/ヨミ) Abdeslam Boularias / Abdeslam Boularias /
第2著者 所属(和/英) Max Planck Institute (略称: MPI)
Max Planck Institute (略称: MPI)
第3著者 氏名(和/英/ヨミ) Arthur Gretton / Arthur Gretton /
第3著者 所属(和/英) University College London (略称: UCL)
University College London (略称: UCL)
第4著者 氏名(和/英/ヨミ) 福水 健次 / Kenji Fukumizu / フクミズ ケンジ
第4著者 所属(和/英) 統計数理研究所 (略称: 統計数理研)
The Institute of Statistical Mathematics (略称: ISM)
第5著者 氏名(和/英/ヨミ) / /
第5著者 所属(和/英) (略称: )
(略称: )
第6著者 氏名(和/英/ヨミ) / /
第6著者 所属(和/英) (略称: )
(略称: )
第7著者 氏名(和/英/ヨミ) / /
第7著者 所属(和/英) (略称: )
(略称: )
第8著者 氏名(和/英/ヨミ) / /
第8著者 所属(和/英) (略称: )
(略称: )
第9著者 氏名(和/英/ヨミ) / /
第9著者 所属(和/英) (略称: )
(略称: )
第10著者 氏名(和/英/ヨミ) / /
第10著者 所属(和/英) (略称: )
(略称: )
第11著者 氏名(和/英/ヨミ) / /
第11著者 所属(和/英) (略称: )
(略称: )
第12著者 氏名(和/英/ヨミ) / /
第12著者 所属(和/英) (略称: )
(略称: )
第13著者 氏名(和/英/ヨミ) / /
第13著者 所属(和/英) (略称: )
(略称: )
第14著者 氏名(和/英/ヨミ) / /
第14著者 所属(和/英) (略称: )
(略称: )
第15著者 氏名(和/英/ヨミ) / /
第15著者 所属(和/英) (略称: )
(略称: )
講演者
発表日時 2012-03-12 14:40:00 
発表時間 25 
申込先研究会 IBISML 
資料番号 IEICE-IBISML2011-92 
巻番号(vol) IEICE-111 
号番号(no) no.480 
ページ範囲 pp.35-42 
ページ数 IEICE-8 
発行日 IEICE-IBISML-2012-03-05 


[研究会発表申込システムのトップページに戻る]

[電子情報通信学会ホームページ]


IEICE / 電子情報通信学会