講演名 2015-12-19
ブートストラップ法を用いたAlternating Decision Forestsの適応的な汎化性能向上法
三沢 翔太郎(早大), 三川 健太(早大), 後藤 正幸(早大),
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 本研究では,データのカテゴリ予測を行うための手法として決定木のアンサンブル手法の一つであるAlternating Decision Forests(ADF) に着目する.ADF は各木に一部の説明変数をランダムに割り当てた上で,データに付与したウェイトを用いて並列に複数の決定木を成長させる.これにより,全体最適でありながら各木の相関が低い決定木集合を生成することが可能となる.しかし,学習データにある外れ値の影響により決定木集合で過学習を起こし易いことや,一部の決定木においては,割り当てられた説明変数の影響によって汎化性能が低くなるなどの問題点がある.そのため本研究では,各決定木に対して学習に用いないデータを割り当てて,それらを予測した結果を反映することにより汎化性能の向上を図る.
抄録(英) In this study, we focus on the Alternating Decision Forests (ADF) which is famous as an effective ensemble method of decision trees. The ADF introduces weights which represent the degree of prediction accuracy for the training data. The ADF arranges a part of attribute variables for each decision tree. Therefore, this method can construct an ensemble model which can predict training data accurately and let each decision tree have different features. However, outliers tend to cause overfi tting, and the prediction accuracy of a decision tree may not increase depending on arranged attribute variables. Therefore, this study introduces the results of predicting new data. For this purpose, we introduce the bootstrap samples and it can generate out of bag (OOB) dataset in the training phase for each tree. Moreover, we construct an effective ensemble of decision trees by considering the prediction accuracy for OOB data and improve the generalization ability.
キーワード(和) データマイニング / Alternating Decision Forests / 決定木 / 汎化性能
キーワード(英) Data mining / Alternating Decision Forests / Decision tree / Generalization ability
資料番号 AI2015-49
発行日 2015-12-11 (AI)

研究会情報
研究会 AI
開催期間 2015/12/18(から2日開催)
開催地(和) 那覇市ぶんかテンブス館
開催地(英)
テーマ(和) 「コンテキストを意識した知識の利用」および一般
テーマ(英)
委員長氏名(和) 菅原 俊治(早大)
委員長氏名(英) Toshiharu Sugawara(Waseda Univ.)
副委員長氏名(和) 峯 恒憲(九大) / 片上 大輔(東京工芸大)
副委員長氏名(英) Tsunenori Mine(Kyushu Univ.) / Daisuke Katagami(Tokyo Polytechnic Univ.)
幹事氏名(和) 服部 宏充(京大) / 福田 直樹(静岡大)
幹事氏名(英) Hiromitsu Hattori(Kyoto Univ.) / Naoki Fukuda(Shizuoka Univ.)
幹事補佐氏名(和) 清 雄一(電通大)
幹事補佐氏名(英) Yuichi Sei(Univ. of Electro-Comm.)

講演論文情報詳細
申込み研究会 Technical Committee on Artificial Intelligence and Knowledge-Based Processing
本文の言語 JPN
タイトル(和) ブートストラップ法を用いたAlternating Decision Forestsの適応的な汎化性能向上法
サブタイトル(和)
タイトル(英) A Method of Improving Generalization Ability of Alternating Decision Forests with Bootstrap Method
サブタイトル(和)
キーワード(1)(和/英) データマイニング / Data mining
キーワード(2)(和/英) Alternating Decision Forests / Alternating Decision Forests
キーワード(3)(和/英) 決定木 / Decision tree
キーワード(4)(和/英) 汎化性能 / Generalization ability
第 1 著者 氏名(和/英) 三沢 翔太郎 / Shotaro Misawa
第 1 著者 所属(和/英) 早稲田大学(略称:早大)
Waseda University(略称:Waseda Univ.)
第 2 著者 氏名(和/英) 三川 健太 / Kenta Mikawa
第 2 著者 所属(和/英) 早稲田大学(略称:早大)
Waseda University(略称:Waseda Univ.)
第 3 著者 氏名(和/英) 後藤 正幸 / Masayuki Goto
第 3 著者 所属(和/英) 早稲田大学(略称:早大)
Waseda University(略称:Waseda Univ.)
発表年月日 2015-12-19
資料番号 AI2015-49
巻番号(vol) vol.115
号番号(no) AI-381
ページ範囲 pp.137-142(AI),
ページ数 6
発行日 2015-12-11 (AI)