| 講演名 | 2022-09-15 決定木と深層ニューラルネットを用いた解釈可能な予測モデル 奥田 遼(STAIR), 吉川 友也(STAIR), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 本研究では Decision Tree の解釈性と，Deep Neural Networks (DNN) の予測精度を両立する手法を提案する. Random Forest は特徴空間を複数の statement が示す境界によって分割する手法として， 解釈性に優れている.ただし， 境界の数が多すぎると解釈が難しいため，モデルの近似を用いて予測精度を保ちつつ境界の数を減らす研究が存在する. これらの手法は境界の数を減らせるものの， 新たに得られたモデルの予測精度が近似前 のモデルの予測精度を下回りやすい. そこで本研究では 各サンプルについて少数の statement を選択し， それらに付与された重みを用いて予測を行う DNN を提案する. 実験においては， Random Forest 単体よりも精度が向上 したことを示す. |
| 抄録(英) | In this study, we propose a method that achieves both interpretability of Decision Tree and the prediction accuracy of Deep Neural Networks (DNN). Random Forest is a method that divides the feature space by the boundaries indicated by multiple statements and has good interpretability. However, interpretation becomes difficult, if the number of boundaries is too large. There are existing methods that use an approximated model to reduce the number of boundaries while preserving the prediction accuracy. Although these methods can reduce the number of boundaries, the prediction accuracy of the newly obtained model tends to be lower than that of the model before approximation. Therefore, in this study, we propose a DNN that selects a small number of statements for each sample and makes predictions using the weights assigned to these statements. In experiments, we show that the proposed method improves the accuracy more than Random Forest alone. |
| キーワード(和) | 解釈性 / 深層学習 / 決定木 / 線形モデル / ランダムフォレスト |
| キーワード(英) | Interpretability / Deep Neural Networks / Decision Tree / Linear Model / Random Forest |
| 資料番号 | IBISML2022-36 |
| 発行日 | 2022-09-08 (IBISML) |
| 研究会情報 | |
| 研究会 | IBISML |
|---|---|
| 開催期間 | 2022/9/15(から1日開催) |
| 開催地（和） | 慶應義塾大学 矢上キャンパス |
| 開催地（英） | Keio Univ. (Yagami Campus) |
| テーマ（和） | 機械学習一般 |
| テーマ（英） | Machine Learning, etc. |
| 委員長氏名（和） | 杉山 将(東大) |
| 委員長氏名（英） | Masashi Sugiyama(Univ. of Tokyo) |
| 副委員長氏名（和） | 神嶌 敏弘(産総研) / 津田 宏治(東大) |
| 副委員長氏名（英） | Toshihiro Kamishima(AIST) / Koji Tsuda(Univ. of Tokyo) |
| 幹事氏名（和） | 岩田 具治(NTT) / 中村 篤祥(北大) |
| 幹事氏名（英） | Tomoharu Iwata(NTT) / Atsuyoshi Nakamura(Hokkaido Univ.) |
| 幹事補佐氏名（和） | 河原 吉伸(阪大) / 鈴木 大慈(東工大) |
| 幹事補佐氏名（英） | Yoshinobu Kawahara(Osaka Univ.) / Taiji Suzuki(Tokyo Inst. of Tech.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Infomation-Based Induction Sciences and Machine Learning |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 決定木と深層ニューラルネットを用いた解釈可能な予測モデル |
| サブタイトル（和） | |
| タイトル（英） | Interpretable Model Combining Decision Rules and DNN |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 解釈性 / Interpretability |
| キーワード(2)（和/英） | 深層学習 / Deep Neural Networks |
| キーワード(3)（和/英） | 決定木 / Decision Tree |
| キーワード(4)（和/英） | 線形モデル / Linear Model |
| キーワード(5)（和/英） | ランダムフォレスト / Random Forest |
| 第 1 著者 氏名（和/英） | 奥田 遼 / Ryo Okuda |
| 第 1 著者 所属（和/英） | STAIR Lab(略称：STAIR) STAIR Lab(略称：STAIR) |
| 第 2 著者 氏名（和/英） | 吉川 友也 / Yuya Yoshikawa |
| 第 2 著者 所属（和/英） | STAIR Lab(略称：STAIR) STAIR Lab(略称：STAIR) |
| 発表年月日 | 2022-09-15 |
| 資料番号 | IBISML2022-36 |
| 巻番号（vol） | vol.122 |
| 号番号（no） | IBISML-189 |
| ページ範囲 | pp.25-30(IBISML), |
| ページ数 | 6 |
| 発行日 | 2022-09-08 (IBISML) |