| 講演名 | 1999/6/18 重み付き最尤推定量の情報量規準を用いた適応的な能動学習アルゴリズム 金森 敬文, 下平 英寿, |
|---|---|
| PDFダウンロードページ | PDFダウンロードページへ |
| 抄録(和) | システムの入力と出力とのあいだに成立する条件付き確率分布を,入力分布を適切に選択することにより,学習データから推定する問題を議論する.観測者がシステムへの入力を選択できるような推定方式を能動学習という.本論文では,学習をおこなうときに設定したモデルは,一般には間違っているという現実的な仮定を採用する.モデルが間違っているときに能動学習をおこなうと,最尤推定量は一般に一致性をもたず,0(1)の大きさで,Kullback-Leibler divergenceの意味で最適なパラメータからずれてしまう.そこで,最適パラメータへの一致性を回復するために,適切な重み関数をもちいた重み付き最尤推定量を採用して,能動学習アルゴリズムを構成する.つぎに,学習データ数が有限個という状況では,一致性が保証された重み付き最尤推定量よりも良い推定量が存在することを指摘する.これを考慮して,情報量規準をもちいて適切な推定量を選択するというアルゴリズムを提案する.また,簡単な数値実験をおこない,提案したアルゴリズムの有効性について考察する. |
| 抄録(英) | We suppose that outputs of a system is expressed as probability conditioned by inputs. In this paper we study the estimation of the system when the observer can select appropriate inputs to the system. We call such method of estimation Active Learning. We suppose that the statistical model does not include the system. When the statistical model is not correct, the maximum likelihood estimator does not have the property of consistency. Here consistency means the convergence to the optimal parameter measured by the Kullback-Leibler divergence. Hence we suggest an active learning algorithm using maximum weighted log-likelihood estimator (mwle). The algorithm has the property of consistency. Moreover we point out that there are estimators which are better than the consistent estimators when the number of the data is finite. Considering such result we construct another active learning algorithm which select appropriate mwle using information criterion. We do computer simulation and consider the effct of the suggested algorithms. |
| キーワード(和) | 能動学習 / 重み付き最尤推定 / 統計的リスク / 情報量規準 / 統計的漸近論 |
| キーワード(英) | Active learning / Maximum weighted log-likelihood estimator / Statistical risk / Information criterion / Statistical asymptotic theory |
| 資料番号 | NC99-12 |
| 発行日 |
| 研究会情報 | |
| 研究会 | NC |
|---|---|
| 開催期間 | 1999/6/18(から1日開催) |
| 開催地（和） | |
| 開催地（英） | |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | |
| 委員長氏名（英） | |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | |
| 幹事氏名（英） | |
| 幹事補佐氏名（和） | |
| 幹事補佐氏名（英） | |
| 講演論文情報詳細 | |
| 申込み研究会 | Neurocomputing (NC) |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 重み付き最尤推定量の情報量規準を用いた適応的な能動学習アルゴリズム |
| サブタイトル（和） | |
| タイトル（英） | Adaptive algorithm for active learning using an information criterion for the maximum weighted log-likelihood estimator |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 能動学習 / Active learning |
| キーワード(2)（和/英） | 重み付き最尤推定 / Maximum weighted log-likelihood estimator |
| キーワード(3)（和/英） | 統計的リスク / Statistical risk |
| キーワード(4)（和/英） | 情報量規準 / Information criterion |
| キーワード(5)（和/英） | 統計的漸近論 / Statistical asymptotic theory |
| 第 1 著者 氏名（和/英） | 金森 敬文 / Takafumi Kanamori |
| 第 1 著者 所属（和/英） | 総合研究大学院大学 The Graduate University for Advanced Studies |
| 第 2 著者 氏名（和/英） | 下平 英寿 / Hidetoshi Shimodaira |
| 第 2 著者 所属（和/英） | 統計数理研究所 The Institute of Statistical Mathematics |
| 発表年月日 | 1999/6/18 |
| 資料番号 | NC99-12 |
| 巻番号（vol） | vol.99 |
| 号番号（no） | 131 |
| ページ範囲 | pp.- |
| ページ数 | 8 |
| 発行日 | |