講演名 2003/6/19
大脳基底核-強化学習モデルによる線条体神経細胞活動の記録と予測
鮫島 和行, 銅谷 賢治, 上田 康雅, 木村 實,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 近年大脳基底核の計算モデルとしての強化学習が注目され、様々なモデルが提案されている。その中でもBartoは大脳基底核の入力部である線条体において行動選択を行うというモデルを提案している[4].これに対し銅谷は行動選択に用いられる報酬予測が線条体で表現されるというモデルを提案している[5]。我々は、この2仮説のどちらであるのかを検証するために、各行動ごとに報酬予測確率を変化できるような強化学習課題をサルに訓練し、線条体の神経活動を記録している。本報告の目的は、神経活動記録を行う前に、仮説に基づいて神経活動の予測を行い、どのような解析が可能であるのかを、計算論的モデルを通じて示すことである。その結果、提案タスクが、状態価値関数、行動価値関数、行動選択を分離可能であり、計算モデルが行動価値関数の競合によって行動が選択された場合の予測を与えることを示す。
抄録(英) Recently, reinforcement learning as a computational model of the basal ganglia have been proposed. One of the earliest models is Barto's Actor-Critic model [4], which explain that the striatal neuronal activities represent reward expectation and a selected action. Doya [5] also proposed another model in which the striatum represents state-value function and action-value function. The action value function is the reward expectation for an action that is going to be selected. The main question of this study is whether the striatum neuronal activity is represent a selected action or an action-value function for particular action. To answer this question, we proposed a reinforcement learning task for the physiological experiment. In order to illustrate the experimental paradigm, we construct a computational model of striatum by a reinforcement learning model, and predict its behavior and neuronal activities.
キーワード(和) 強化学習モデル / 大脳基底核 / 線条体 / 行動価値関数 / 細胞外活動記録
キーワード(英) reinforcemente learning / basal ganglia / striatum activity / action value function / extra celluar recording
資料番号 NC2003-9
発行日

研究会情報
研究会 NC
開催期間 2003/6/19(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Neurocomputing (NC)
本文の言語 JPN
タイトル(和) 大脳基底核-強化学習モデルによる線条体神経細胞活動の記録と予測
サブタイトル(和)
タイトル(英) Prediction of Striatum Neuronal Activities based on Reinforcement Learning Model
サブタイトル(和)
キーワード(1)(和/英) 強化学習モデル / reinforcemente learning
キーワード(2)(和/英) 大脳基底核 / basal ganglia
キーワード(3)(和/英) 線条体 / striatum activity
キーワード(4)(和/英) 行動価値関数 / action value function
キーワード(5)(和/英) 細胞外活動記録 / extra celluar recording
第 1 著者 氏名(和/英) 鮫島 和行 / Kazuyuki SAMEJIMA
第 1 著者 所属(和/英) ATR脳情報研究所計算神経生物学研究室:科学技術振興事業団CREST
ATR Computational Neuroscience laboratories:'Creating the brain', CREST JST
第 2 著者 氏名(和/英) 銅谷 賢治 / Kenji DOYA
第 2 著者 所属(和/英) ATR脳情報研究所計算神経生物学研究室
ATR Computational Neuroscience laboratories
第 3 著者 氏名(和/英) 上田 康雅 / Yasumasa UEDA
第 3 著者 所属(和/英) 京都府立医科大学神経生理学部門
Department of phisiology, Kyoto prefecture university of medicine
第 4 著者 氏名(和/英) 木村 實 / Minoru KIMURA
第 4 著者 所属(和/英) 京都府立医科大学神経生理学部門
Department of phisiology, Kyoto prefecture university of medicine
発表年月日 2003/6/19
資料番号 NC2003-9
巻番号(vol) vol.103
号番号(no) 152
ページ範囲 pp.-
ページ数 6
発行日