| 講演名 | 2004/7/19 ロバストなブースティングと損失関数(<特集>学習理論) 金森 敬文, 竹之内 高志, 江口 真透, 村田 昇, |
|---|---|
| PDFダウンロードページ | PDFダウンロードページへ |
| 抄録(和) | ブースティング法は弱学習機を多数結合させることで,強力な判別機を構成するための学習法である.典型的なブースティング法であるアダブーストは広く応用されているが,外れ値などを含んだデータに対しては非常に不安定であることが指摘されている.本稿では,ロバストなブースティング法を実現するための損失関数を数理統計学の観点から導出する.さらにミスラベルと外れ値が混在する状況において,安定した推定をおこなうためのブースティング法を提案する. |
| 抄録(英) | Boosting algorithm is understood as the gradient descent algorithm of a loss function. It is often pointed out that the typical boosting algorithm, Adaboost, is seriously affected by the outliers. In this paper, loss functions for robust boosting are studied. Based on a concept of the robust statistics, we propose a positive-part-truncation of the loss function which makes the boosting algorithm robust against extreme outliers. Next the truncation of the loss function is applied to the contamination models which describe the occurrence of mislabels near the decision boundary. Numerical experiments illustrate that the proposed boosting algorithm derived from the contamination model is useful for highly noisy data in comparison with other competitors. |
| キーワード(和) | 二値判別 / 外れ値 / ミスラベル / 影響関数 |
| キーワード(英) | Binary Classification / Outlier / Mislabel / Influence Function |
| 資料番号 | NC2004-43 |
| 発行日 |
| 研究会情報 | |
| 研究会 | NC |
|---|---|
| 開催期間 | 2004/7/19(から1日開催) |
| 開催地（和） | |
| 開催地（英） | |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | |
| 委員長氏名（英） | |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | |
| 幹事氏名（英） | |
| 幹事補佐氏名（和） | |
| 幹事補佐氏名（英） | |
| 講演論文情報詳細 | |
| 申込み研究会 | Neurocomputing (NC) |
|---|---|
| 本文の言語 | ENG |
| タイトル（和） | ロバストなブースティングと損失関数(<特集>学習理論) |
| サブタイトル（和） | |
| タイトル（英） | Robust Boosting and Loss Functions |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 二値判別 / Binary Classification |
| キーワード(2)（和/英） | 外れ値 / Outlier |
| キーワード(3)（和/英） | ミスラベル / Mislabel |
| キーワード(4)（和/英） | 影響関数 / Influence Function |
| 第 1 著者 氏名（和/英） | 金森 敬文 / Takafumi KANAMORI |
| 第 1 著者 所属（和/英） | 東京工業大学 Tokyo Institute of Technology |
| 第 2 著者 氏名（和/英） | 竹之内 高志 / Takashi TAKENOUCHI |
| 第 2 著者 所属（和/英） | 統計数理研究所 The Institute of Statistical Mathematics |
| 第 3 著者 氏名（和/英） | 江口 真透 / Shinto EGUCHI |
| 第 3 著者 所属（和/英） | 統計数理研究所 The Institute of Statistical Mathematics |
| 第 4 著者 氏名（和/英） | 村田 昇 / Noboru MURATA |
| 第 4 著者 所属（和/英） | 早稲田大学 Waseda University |
| 発表年月日 | 2004/7/19 |
| 資料番号 | NC2004-43 |
| 巻番号（vol） | vol.104 |
| 号番号（no） | 225 |
| ページ範囲 | pp.- |
| ページ数 | 6 |
| 発行日 | |