講演名 2003/12/1
淡蒼球内節/黒質網様部の強化学習による確率的行動選択(一般)(ニューロインフォーマティックスとは何か)
松山 和裕, 鮫島 和行, 銅谷 賢治,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 近年、大脳基底核は報酬に基づく行動学習に関係することが報告され、強化学習を用いた様々なモデルが提案されている。それらのモデルでは、大脳基底核の主な入力核であり中脳ドーパミン細胞からの投射を受ける線条体で報酬の予測が学習されると仮定されている。しかしこれまでのモデルでは、強化学習において本質的に重要な確率的な行動選択が行われるメカニズムや、ランダムさの制御のメカニズムは考慮されていない。そこで本報告では、線条体の投射先のうち大脳基底核の出力核である淡蒼球内節と黒質網様部で確率的な行動選択が行われ、その行動情報が視床を通じて線条体へフィードバックされることにより、選択された行動に対する報酬予測の学習が行われるという仮説を提案する。この妥当性を検証するために、仮説に基づき大脳基底核の回路モデルを構築し、計算機実験を行った結果、その行動選択のランダムさは淡蒼球内節と黒質網様部への視床下核からの入力により調節され得ることが明らかになった。
抄録(英) In this paper, we proposed a computational model about how stochastic action selection is realized in the output nuclei of the basal ganglia, more specifically, substantia nigra pars reticulata(SNr) and internal globus pallidus(Gpi). In order to verify our model, we simulated a firing rate model of action selection given stochastic rewards. Our model could acquire proper actions according to changes in the probability of reward. Furthermore, the simulation suggested that action selection becomes more greedy with an increased activity of the subthalamic nuclei.
キーワード(和) 強化学習モデル / 大脳基底核 / 確率的行動選択 / 淡蒼球内節 / 黒質網様部 / 大脳基底核-視床ループ
キーワード(英) reinforcement learning / basal ganglia stchastic action selection / globus pallidus internal / substantia nicrra nars rptiriilata / BG-Thalamir loop
資料番号 NC2003-100
発行日

研究会情報
研究会 NC
開催期間 2003/12/1(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Neurocomputing (NC)
本文の言語 JPN
タイトル(和) 淡蒼球内節/黒質網様部の強化学習による確率的行動選択(一般)(ニューロインフォーマティックスとは何か)
サブタイトル(和)
タイトル(英) Stochastic Action Selection in Reinforcement Learning Model of Basal Ganglia
サブタイトル(和)
キーワード(1)(和/英) 強化学習モデル / reinforcement learning
キーワード(2)(和/英) 大脳基底核 / basal ganglia stchastic action selection
キーワード(3)(和/英) 確率的行動選択 / globus pallidus internal
キーワード(4)(和/英) 淡蒼球内節 / substantia nicrra nars rptiriilata
キーワード(5)(和/英) 黒質網様部 / BG-Thalamir loop
キーワード(6)(和/英) 大脳基底核-視床ループ
第 1 著者 氏名(和/英) 松山 和裕 / Kazuhiro MATSUYAMA
第 1 著者 所属(和/英) 奈良先端科学技術大学院大学:ATR脳情報研究所:科学技術振興機構CREST
Nara Institute of Science and Technology : ATR, Computational Neuroscience Laboratories : Creating the Brain, CREST, Japan Science and Technology Corporation
第 2 著者 氏名(和/英) 鮫島 和行 / Kazuyuki SAMEJIMA
第 2 著者 所属(和/英) ATR脳情報研究所:科学技術振興機構CREST
ATR, Computational Neuroscience Laboratories : Creating the Brain, CREST, Japan Science and Technology Corporation
第 3 著者 氏名(和/英) 銅谷 賢治 / Kenji DOYA
第 3 著者 所属(和/英) 奈良先端科学技術大学院大学:ATR脳情報研究所:科学技術振興機構CREST
Nara Institute of Science and Technology : ATR, Computational Neuroscience Laboratories : Creating the Brain, CREST, Japan Science and Technology Corporation
発表年月日 2003/12/1
資料番号 NC2003-100
巻番号(vol) vol.103
号番号(no) 490
ページ範囲 pp.-
ページ数 6
発行日