講演抄録/キーワード |
講演名 |
2019-12-06 16:30
多分木によるニューラルネットワークのホワイトボックス化 ○佐々木駿也・萩原将文(慶大) MBE2019-58 NC2019-49 |
抄録 |
(和) |
既存のNeural Network(NN)には出力に至るまでの推論過程,根拠の解釈が困難という問題点がある.本研究では多分木構造のNNを提案する.提案ネットワークは入力要素がどのように影響し,出力に至るかを明確化する.そして出力結果が正解の場合はその根拠を,誤りの場合はその原因を示す.提案方式では学習データ入力時の中間出力分布を参照しつつ推論過程の解釈を示す.正解の場合は,各中間ノードにおいて学習データの出力分布への類似度により,学習内容を根拠とする信頼性の高い正解か,偶発的な正解か識別する.誤りの場合は,出力層から入力層へ木構造を探索し,学習内容と類似度の小さい中間ノードを検出する.そのノードの子孫方向への探索により入力層における,誤り発生原因を示す. |
(英) |
The existing Neural Networks (NNs) have a problem that it is difficult to explain the reasoning process and the grounds for the output.
We propose multi-tree NNs. The proposed network clarifies how input elements influence each other and lead to output.
The explanation is made by referring to the intermediate output distribution of the learning data.
In the case of correct output, the similarity between each intermediate node output and the distribution during learning.
In the case of error output, the tree structure is searched from the output layer to the input layer.
In this way, a highly explanatory NNs are realized. |
キーワード |
(和) |
説明可能なAI / ホワイトボックス化 / 木構造 / / / / / |
(英) |
explainable AI / white box / tree / / / / / |
文献情報 |
信学技報, vol. 119, no. 328, NC2019-49, pp. 79-84, 2019年12月. |
資料番号 |
NC2019-49 |
発行日 |
2019-11-29 (MBE, NC) |
ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
MBE2019-58 NC2019-49 |
研究会情報 |
研究会 |
NC MBE |
開催期間 |
2019-12-06 - 2019-12-06 |
開催地(和) |
豊橋技術科学大学 |
開催地(英) |
Toyohashi Tech |
テーマ(和) |
NC, ME, 一般 |
テーマ(英) |
|
講演論文情報の詳細 |
申込み研究会 |
NC |
会議コード |
2019-12-NC-MBE |
本文の言語 |
日本語 |
タイトル(和) |
多分木によるニューラルネットワークのホワイトボックス化 |
サブタイトル(和) |
|
タイトル(英) |
Explaining Neural Networks by using a multiple tree |
サブタイトル(英) |
|
キーワード(1)(和/英) |
説明可能なAI / explainable AI |
キーワード(2)(和/英) |
ホワイトボックス化 / white box |
キーワード(3)(和/英) |
木構造 / tree |
キーワード(4)(和/英) |
/ |
キーワード(5)(和/英) |
/ |
キーワード(6)(和/英) |
/ |
キーワード(7)(和/英) |
/ |
キーワード(8)(和/英) |
/ |
第1著者 氏名(和/英/ヨミ) |
佐々木 駿也 / Shunya Sasaki / ササキ シュンヤ |
第1著者 所属(和/英) |
慶應義塾大学 (略称: 慶大)
Keio University (略称: Keio Univ) |
第2著者 氏名(和/英/ヨミ) |
萩原 将文 / Masafumi Hagiwara / ハギワラ マサフミ |
第2著者 所属(和/英) |
慶應義塾大学 (略称: 慶大)
Keio University (略称: Keio Univ) |
第3著者 氏名(和/英/ヨミ) |
/ / |
第3著者 所属(和/英) |
(略称: )
(略称: ) |
第4著者 氏名(和/英/ヨミ) |
/ / |
第4著者 所属(和/英) |
(略称: )
(略称: ) |
第5著者 氏名(和/英/ヨミ) |
/ / |
第5著者 所属(和/英) |
(略称: )
(略称: ) |
第6著者 氏名(和/英/ヨミ) |
/ / |
第6著者 所属(和/英) |
(略称: )
(略称: ) |
第7著者 氏名(和/英/ヨミ) |
/ / |
第7著者 所属(和/英) |
(略称: )
(略称: ) |
第8著者 氏名(和/英/ヨミ) |
/ / |
第8著者 所属(和/英) |
(略称: )
(略称: ) |
第9著者 氏名(和/英/ヨミ) |
/ / |
第9著者 所属(和/英) |
(略称: )
(略称: ) |
第10著者 氏名(和/英/ヨミ) |
/ / |
第10著者 所属(和/英) |
(略称: )
(略称: ) |
第11著者 氏名(和/英/ヨミ) |
/ / |
第11著者 所属(和/英) |
(略称: )
(略称: ) |
第12著者 氏名(和/英/ヨミ) |
/ / |
第12著者 所属(和/英) |
(略称: )
(略称: ) |
第13著者 氏名(和/英/ヨミ) |
/ / |
第13著者 所属(和/英) |
(略称: )
(略称: ) |
第14著者 氏名(和/英/ヨミ) |
/ / |
第14著者 所属(和/英) |
(略称: )
(略称: ) |
第15著者 氏名(和/英/ヨミ) |
/ / |
第15著者 所属(和/英) |
(略称: )
(略称: ) |
第16著者 氏名(和/英/ヨミ) |
/ / |
第16著者 所属(和/英) |
(略称: )
(略称: ) |
第17著者 氏名(和/英/ヨミ) |
/ / |
第17著者 所属(和/英) |
(略称: )
(略称: ) |
第18著者 氏名(和/英/ヨミ) |
/ / |
第18著者 所属(和/英) |
(略称: )
(略称: ) |
第19著者 氏名(和/英/ヨミ) |
/ / |
第19著者 所属(和/英) |
(略称: )
(略称: ) |
第20著者 氏名(和/英/ヨミ) |
/ / |
第20著者 所属(和/英) |
(略称: )
(略称: ) |
講演者 |
第1著者 |
発表日時 |
2019-12-06 16:30:00 |
発表時間 |
25分 |
申込先研究会 |
NC |
資料番号 |
MBE2019-58, NC2019-49 |
巻番号(vol) |
vol.119 |
号番号(no) |
no.327(MBE), no.328(NC) |
ページ範囲 |
pp.79-84 |
ページ数 |
6 |
発行日 |
2019-11-29 (MBE, NC) |
|