| 講演名 | 2006-03-17 モデル誤差を考慮した強化学習法による実ロボットの適応制御 時田 陽一, 中村 泰, 吉本 潤一郎, 石井 信, |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 強化学習(RL)法は制御対象に関する知識を持たずとも制御則を自動的に獲得できるという利点があるため,近年,cart-poleのバランス制御問題などの自動制御問題に広く適用されている.しかしながら,多くの実問題は非線形で高自由度なダイナミクスを有するため,「次元の呪い」と呼ばれる問題が発生する.この問題のために,強化学習法による制御則の獲得はしばしば困難になる.我々の先行研究では,制御理論とシステム同定を利用した強化学習法を提案し,acrobotの自動制御課題に適用した.しかし,シミュレータでは安定に制御できたが,実ロボットの制御は不安定であった.本研究では,システム同定誤差に対してロバストな制御則学習法を提案し,それにより実ロボットを安定して制御できる制御器の獲得を実現した結果を示す. |
| 抄録(英) | Because reinforcement learning (RL) methods have an advantage such that a control rule can be obtained autonomously without any knowledge of the target system. RL methods have been successfully applied to automatic control of various robots such as balancing control of a cart-pole. However, most real control problems have non-linear dynamics with a large number of degrees of freedom, therefore it is necessary to develop an RL method to deal with such situations. This difficulty is called "curse of dimensionality" in the context of RL. We formarly proposed an RL method that switches controllers which had been developed in the field of control theory, and applied our method to an automatic control problem of an acrobot. The results showed that a good controller for a simulator can be obtained autonomously but the control of the real acrobot was not stable. In the current study, we propose an RL method which is robust against the system identification error, and show that a good controller for a real robot can be obtained by our method. |
| キーワード(和) | 強化学習 / システム同定 / acrobot |
| キーワード(英) | reinforcement learning / system identification / acrobot |
| 資料番号 | NC2005-154 |
| 発行日 |
| 研究会情報 | |
| 研究会 | NC |
|---|---|
| 開催期間 | 2006/3/10(から1日開催) |
| 開催地（和） | |
| 開催地（英） | |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | |
| 委員長氏名（英） | |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | |
| 幹事氏名（英） | |
| 幹事補佐氏名（和） | |
| 幹事補佐氏名（英） | |
| 講演論文情報詳細 | |
| 申込み研究会 | Neurocomputing (NC) |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | モデル誤差を考慮した強化学習法による実ロボットの適応制御 |
| サブタイトル（和） | |
| タイトル（英） | An application of reinforcement learning with consideration of modeling error |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 強化学習 / reinforcement learning |
| キーワード(2)（和/英） | システム同定 / system identification |
| キーワード(3)（和/英） | acrobot / acrobot |
| 第 1 著者 氏名（和/英） | 時田 陽一 / Yoichi TOKITA |
| 第 1 著者 所属（和/英） | 奈良先端科学技術大学院大学 Nara Institute of Science and Technology |
| 第 2 著者 氏名（和/英） | 中村 泰 / Yutaka NAKAMURA |
| 第 2 著者 所属（和/英） | 奈良先端科学技術大学院大学 Nara Institute of Science and Technology |
| 第 3 著者 氏名（和/英） | 吉本 潤一郎 / Junichiro YOSHIMOTO |
| 第 3 著者 所属（和/英） | 科学技術振興機構沖縄新大学院大学先行的研究事業 Initial Research Project, Okinawa Institute of Science and Technology |
| 第 4 著者 氏名（和/英） | 石井 信 / Shin ISHII |
| 第 4 著者 所属（和/英） | 奈良先端科学技術大学院大学 Nara Institute of Science and Technology |
| 発表年月日 | 2006-03-17 |
| 資料番号 | NC2005-154 |
| 巻番号（vol） | vol.105 |
| 号番号（no） | 659 |
| ページ範囲 | pp.- |
| ページ数 | 6 |
| 発行日 | |