講演抄録/キーワード |
講演名 |
2018-11-05 15:10
[ポスター講演]Integrated Gradientsの補正による脳波識別に貢献する特徴の可視化 ○立川和樹・河合祐司・朴 志勲・浅田 稔(阪大) IBISML2018-76 |
抄録 |
(和) |
深層学習の実社会応用,特に医療診断支援システムの実現に向けて,深層学習の識別に貢献した特徴の可視化法が数多く提案されている.
その内,integrated gradients法は,貢献を公平に評価するための公理を満たし,その計算量も少ない.
しかし,不適切な参照点の設定により,この手法の信頼性が低下することが指摘されている.
本研究では,Shapley sampling value法を用いて,任意の参照点でのintegrated gradients法の貢献を補正する方法を提案する.
任意の1データに対して,参照点を必要としない手法であるShapley sampling value法による貢献と,任意の参照点での
integrated gradients法による貢献の差分を求める.
そして,任意のデータに対して,その差分を加算することで,任意の参照点でのintegrated gradients法による貢献を補正する.
提案法は,入力特徴間で独立かつ同一の変換を経て,それらの出力を線形識別する識別器においては,
適切に参照点を設定したintegrated gradients法と理論的に同じ貢献が得られる.
三つの脳波データセットを用いて提案法による貢献が従来のintegrated gradients法による貢献よりも信頼性に優れ,その計算量がShapley sampling value法よりも非常に少ないことを示す. |
(英) |
Integrated gradients method has been widely employed to evaluate the degrees of contribution of input features to classification because it satisfies the desirable axioms for the fair attributions of the contribution.
This method, however, requires an appropriate reference point (hyperparameter) for reliable attributions of the contribution.
We propose compensated integrated gradients method that do not require setting the reference point.
The method compensates the attributions calculated by integrated gradients at an arbitrary reference point using the Shapley sampling value.
We prove that the method can obtain reliable attributions if processes of input features are mutually independent and identical in a classifier.
Using three EEG datasets, we empirically demonstrated that the attributions of the proposed method was more reliable than those of the conventional integrated gradients method, and the computational complexity of the proposed model was much less than that of the Shapley sampling value. |
キーワード |
(和) |
シャープレイ値 / 解釈性 / 脳波 / 畳み込みニューラルネットワーク / / / / |
(英) |
The Shapley value / Interpretability / EEG / Convolutional Neural Network / / / / |
文献情報 |
信学技報, vol. 118, no. 284, IBISML2018-76, pp. 241-247, 2018年11月. |
資料番号 |
IBISML2018-76 |
発行日 |
2018-10-29 (IBISML) |
ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
IBISML2018-76 |
研究会情報 |
研究会 |
IBISML |
開催期間 |
2018-11-05 - 2018-11-07 |
開催地(和) |
北海道民活動センター(かでる2.7) |
開催地(英) |
Hokkaido Citizens Activites Center (Kaderu 2.7) |
テーマ(和) |
情報論的学習理論ワークショップ (IBIS2018) |
テーマ(英) |
Information-Based Induction Science Workshop (IBIS2018) |
講演論文情報の詳細 |
申込み研究会 |
IBISML |
会議コード |
2018-11-IBISML |
本文の言語 |
日本語 |
タイトル(和) |
Integrated Gradientsの補正による脳波識別に貢献する特徴の可視化 |
サブタイトル(和) |
|
タイトル(英) |
Compensated Integrated Gradients for Visualization of Features Contributing to EEG Classification |
サブタイトル(英) |
|
キーワード(1)(和/英) |
シャープレイ値 / The Shapley value |
キーワード(2)(和/英) |
解釈性 / Interpretability |
キーワード(3)(和/英) |
脳波 / EEG |
キーワード(4)(和/英) |
畳み込みニューラルネットワーク / Convolutional Neural Network |
キーワード(5)(和/英) |
/ |
キーワード(6)(和/英) |
/ |
キーワード(7)(和/英) |
/ |
キーワード(8)(和/英) |
/ |
第1著者 氏名(和/英/ヨミ) |
立川 和樹 / Kazuki Tachikawa / タチカワ カズキ |
第1著者 所属(和/英) |
大阪大学 (略称: 阪大)
Osaka Univercity (略称: Osaka Univ.) |
第2著者 氏名(和/英/ヨミ) |
河合 祐司 / Yuji Kawai / カワイ ユウジ |
第2著者 所属(和/英) |
大阪大学 (略称: 阪大)
Osaka Univercity (略称: Osaka Univ.) |
第3著者 氏名(和/英/ヨミ) |
朴 志勲 / Jihoon Park / パク ジフン |
第3著者 所属(和/英) |
大阪大学 (略称: 阪大)
Osaka Univercity (略称: Osaka Univ.) |
第4著者 氏名(和/英/ヨミ) |
浅田 稔 / Minoru Asada / アサダ ミノル |
第4著者 所属(和/英) |
大阪大学 (略称: 阪大)
Osaka Univercity (略称: Osaka Univ.) |
第5著者 氏名(和/英/ヨミ) |
/ / |
第5著者 所属(和/英) |
(略称: )
(略称: ) |
第6著者 氏名(和/英/ヨミ) |
/ / |
第6著者 所属(和/英) |
(略称: )
(略称: ) |
第7著者 氏名(和/英/ヨミ) |
/ / |
第7著者 所属(和/英) |
(略称: )
(略称: ) |
第8著者 氏名(和/英/ヨミ) |
/ / |
第8著者 所属(和/英) |
(略称: )
(略称: ) |
第9著者 氏名(和/英/ヨミ) |
/ / |
第9著者 所属(和/英) |
(略称: )
(略称: ) |
第10著者 氏名(和/英/ヨミ) |
/ / |
第10著者 所属(和/英) |
(略称: )
(略称: ) |
第11著者 氏名(和/英/ヨミ) |
/ / |
第11著者 所属(和/英) |
(略称: )
(略称: ) |
第12著者 氏名(和/英/ヨミ) |
/ / |
第12著者 所属(和/英) |
(略称: )
(略称: ) |
第13著者 氏名(和/英/ヨミ) |
/ / |
第13著者 所属(和/英) |
(略称: )
(略称: ) |
第14著者 氏名(和/英/ヨミ) |
/ / |
第14著者 所属(和/英) |
(略称: )
(略称: ) |
第15著者 氏名(和/英/ヨミ) |
/ / |
第15著者 所属(和/英) |
(略称: )
(略称: ) |
第16著者 氏名(和/英/ヨミ) |
/ / |
第16著者 所属(和/英) |
(略称: )
(略称: ) |
第17著者 氏名(和/英/ヨミ) |
/ / |
第17著者 所属(和/英) |
(略称: )
(略称: ) |
第18著者 氏名(和/英/ヨミ) |
/ / |
第18著者 所属(和/英) |
(略称: )
(略称: ) |
第19著者 氏名(和/英/ヨミ) |
/ / |
第19著者 所属(和/英) |
(略称: )
(略称: ) |
第20著者 氏名(和/英/ヨミ) |
/ / |
第20著者 所属(和/英) |
(略称: )
(略称: ) |
講演者 |
第1著者 |
発表日時 |
2018-11-05 15:10:00 |
発表時間 |
180分 |
申込先研究会 |
IBISML |
資料番号 |
IBISML2018-76 |
巻番号(vol) |
vol.118 |
号番号(no) |
no.284 |
ページ範囲 |
pp.241-247 |
ページ数 |
7 |
発行日 |
2018-10-29 (IBISML) |