| 講演名 | 2019-12-06 多分木によるニューラルネットワークのホワイトボックス化 佐々木 駿也(慶大), 萩原 将文(慶大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 既存のNeural Network(NN)には出力に至るまでの推論過程，根拠の解釈が困難という問題点がある．本研究では多分木構造のNNを提案する．提案ネットワークは入力要素がどのように影響し，出力に至るかを明確化する．そして出力結果が正解の場合はその根拠を，誤りの場合はその原因を示す．提案方式では学習データ入力時の中間出力分布を参照しつつ推論過程の解釈を示す．正解の場合は，各中間ノードにおいて学習データの出力分布への類似度により，学習内容を根拠とする信頼性の高い正解か，偶発的な正解か識別する．誤りの場合は，出力層から入力層へ木構造を探索し，学習内容と類似度の小さい中間ノードを検出する．そのノードの子孫方向への探索により入力層における，誤り発生原因を示す． |
| 抄録(英) | The existing Neural Networks (NNs) have a problem that it is difficult to explain the reasoning process and the grounds for the output. We propose multi-tree NNs. The proposed network clarifies how input elements influence each other and lead to output. The explanation is made by referring to the intermediate output distribution of the learning data. In the case of correct output, the similarity between each intermediate node output and the distribution during learning. In the case of error output, the tree structure is searched from the output layer to the input layer. In this way, a highly explanatory NNs are realized. |
| キーワード(和) | 説明可能なＡＩ / ホワイトボックス化 / 木構造 |
| キーワード(英) | explainable AI / white box / tree |
| 資料番号 | MBE2019-58,NC2019-49 |
| 発行日 | 2019-11-29 (MBE, NC) |
| 研究会情報 | |
| 研究会 | NC / MBE |
|---|---|
| 開催期間 | 2019/12/6(から1日開催) |
| 開催地（和） | 豊橋技術科学大学 |
| 開催地（英） | Toyohashi Tech |
| テーマ（和） | NC, ME, 一般 |
| テーマ（英） | |
| 委員長氏名（和） | 庄野 逸(電通大) / 野村 泰伸(阪大) |
| 委員長氏名（英） | Hayaru Shouno(UEC) / Taishin Nomura(Osaka Univ.) |
| 副委員長氏名（和） | 鮫島 和行(玉川大) / 渡邊 高志(東北大) |
| 副委員長氏名（英） | Kazuyuki Samejima(Tamagawa Univ) / Takashi Watanabe(Tohoku Univ.) |
| 幹事氏名（和） | 吉本 潤一郎(奈良先端大) / 安部川 直稔(NTT) / 伊良皆 啓治(九大) |
| 幹事氏名（英） | Junichiro Yoshimoto(NAIST) / Naotoshi Abekawa(NTT) / Keiji Iramina(Kyushu Univ.) |
| 幹事補佐氏名（和） | 篠崎 隆志(NICT) / 瀧山 健(東京農工大) / 鈴木 康之(阪大) / 辛島 彰洋(東北工大) |
| 幹事補佐氏名（英） | Takashi Shinozaki(NICT) / Ken Takiyama(TUAT) / Yasuyuki Suzuki(Osaka Univ.) / Akihiro Karashima(Tohoku Inst. of Tech.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Neurocomputing / Technical Committee on ME and Bio Cybernetics |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 多分木によるニューラルネットワークのホワイトボックス化 |
| サブタイトル（和） | |
| タイトル（英） | Explaining Neural Networks by using a multiple tree |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 説明可能なＡＩ / explainable AI |
| キーワード(2)（和/英） | ホワイトボックス化 / white box |
| キーワード(3)（和/英） | 木構造 / tree |
| 第 1 著者 氏名（和/英） | 佐々木 駿也 / Shunya Sasaki |
| 第 1 著者 所属（和/英） | 慶應義塾大学(略称：慶大) Keio University(略称：Keio Univ) |
| 第 2 著者 氏名（和/英） | 萩原 将文 / Masafumi Hagiwara |
| 第 2 著者 所属（和/英） | 慶應義塾大学(略称：慶大) Keio University(略称：Keio Univ) |
| 発表年月日 | 2019-12-06 |
| 資料番号 | MBE2019-58,NC2019-49 |
| 巻番号（vol） | vol.119 |
| 号番号（no） | MBE-327,NC-328 |
| ページ範囲 | pp.79-84(MBE), pp.79-84(NC), |
| ページ数 | 6 |
| 発行日 | 2019-11-29 (MBE, NC) |