お知らせ 研究会の開催と会場に参加される皆様へのお願い(2022年6月開催~)
電子情報通信学会 研究会発表申込システム
講演論文 詳細
技報閲覧サービス
[ログイン]
技報アーカイブ
 トップに戻る 前のページに戻る   [Japanese] / [English] 

講演抄録/キーワード
講演名 2019-12-06 16:55
畳み込みニューラルネットワークの判断根拠を可視化する手法の評価
森 澪希田中宏喜京都産大MBE2019-59 NC2019-50
抄録 (和) 畳み込みニューラルネットワーク(CNN)の判断根拠を可視化する手法は数多く提案されているが,それが正しく機能していることを客観的に評価できる手法は見当たらない.本研究では,人間の判断根拠とは無関係に,CNNの出力の変化にのみ基づいて,可視化手法の性能を直接評価する手法を提案する.入力画像にたいし可視化手法が可視化した領域をマスクした画像を作成し,マスクのないオリジナル画像を入力したときに比べて,CNNの最大応答クラスの出力が,マスク画像を入力したときどれだけ低下したかを測るスコアを考案する.そして最大応答クラスの可視化像でマスクした場合と,それ以外のクラスの可視化像でマスクした場合のスコアを比較することで,可視化手法が各クラスに関係する特徴を限定的に可視化できているかを評価する.代表的な可視化手法に本手法を適用した結果,可視化手法によって,その性能に大きな差がみられることがわかった. 
(英) Recent work has proposed a variety of techniques to visualize what a convolutional neural networks (CNN) utilizes to classify input images into particular classes. However, no established method can objectively evaluate which one provides better visual explanation. In this study, we present a method that directly evaluates the performance of the visualization method based only on changes in the output of the CNN, regardless of whether the visualized features are used by human for image classification. We devised a score measuring how much the output of the CNN's maximum response class decreases when the input is a masked image in which image region corresponding to the visualized features is masked, compared to when the input is an image without masking. By comparing the score when the mask is derived from the visualized features of the maximum response class with the score when the mask is derived from those for the remaining classes, the present method evaluates whether the visualization method produces features specifically relevant to individual classes. We applied the present method to several representative visualization algorithms. Our results suggest that there is a considerable difference in the explanation ability between them.
キーワード (和) 畳み込みニューラルネットワーク / 判断根拠の可視化 / / / / / /  
(英) Convolutional neural network / Visualization / Visual explanation / / / / /  
文献情報 信学技報, vol. 119, no. 328, NC2019-50, pp. 85-88, 2019年12月.
資料番号 NC2019-50 
発行日 2019-11-29 (MBE, NC) 
ISSN Print edition: ISSN 0913-5685  Online edition: ISSN 2432-6380
著作権に
ついて
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034)
PDFダウンロード MBE2019-59 NC2019-50

研究会情報
研究会 NC MBE  
開催期間 2019-12-06 - 2019-12-06 
開催地(和) 豊橋技術科学大学 
開催地(英) Toyohashi Tech 
テーマ(和) NC, ME, 一般 
テーマ(英)  
講演論文情報の詳細
申込み研究会 NC 
会議コード 2019-12-NC-MBE 
本文の言語 日本語 
タイトル(和) 畳み込みニューラルネットワークの判断根拠を可視化する手法の評価 
サブタイトル(和)  
タイトル(英) Evaluation of the visualization techniques providing explanations for decisions of convolutional neural networks 
サブタイトル(英)  
キーワード(1)(和/英) 畳み込みニューラルネットワーク / Convolutional neural network  
キーワード(2)(和/英) 判断根拠の可視化 / Visualization  
キーワード(3)(和/英) / Visual explanation  
キーワード(4)(和/英) /  
キーワード(5)(和/英) /  
キーワード(6)(和/英) /  
キーワード(7)(和/英) /  
キーワード(8)(和/英) /  
第1著者 氏名(和/英/ヨミ) 森 澪希 / Mizuki Mori / モリ ミズキ
第1著者 所属(和/英) 京都産業大学 (略称: 京都産大)
Kyoto-Sangyo University (略称: Kyoto-Sangyo Univ)
第2著者 氏名(和/英/ヨミ) 田中 宏喜 / Hiroki Tanaka / タナカ ヒロキ
第2著者 所属(和/英) 京都産業大学 (略称: 京都産大)
Kyoto-Sangyo University (略称: Kyoto-Sangyo Univ)
第3著者 氏名(和/英/ヨミ) / /
第3著者 所属(和/英) (略称: )
(略称: )
第4著者 氏名(和/英/ヨミ) / /
第4著者 所属(和/英) (略称: )
(略称: )
第5著者 氏名(和/英/ヨミ) / /
第5著者 所属(和/英) (略称: )
(略称: )
第6著者 氏名(和/英/ヨミ) / /
第6著者 所属(和/英) (略称: )
(略称: )
第7著者 氏名(和/英/ヨミ) / /
第7著者 所属(和/英) (略称: )
(略称: )
第8著者 氏名(和/英/ヨミ) / /
第8著者 所属(和/英) (略称: )
(略称: )
第9著者 氏名(和/英/ヨミ) / /
第9著者 所属(和/英) (略称: )
(略称: )
第10著者 氏名(和/英/ヨミ) / /
第10著者 所属(和/英) (略称: )
(略称: )
第11著者 氏名(和/英/ヨミ) / /
第11著者 所属(和/英) (略称: )
(略称: )
第12著者 氏名(和/英/ヨミ) / /
第12著者 所属(和/英) (略称: )
(略称: )
第13著者 氏名(和/英/ヨミ) / /
第13著者 所属(和/英) (略称: )
(略称: )
第14著者 氏名(和/英/ヨミ) / /
第14著者 所属(和/英) (略称: )
(略称: )
第15著者 氏名(和/英/ヨミ) / /
第15著者 所属(和/英) (略称: )
(略称: )
第16著者 氏名(和/英/ヨミ) / /
第16著者 所属(和/英) (略称: )
(略称: )
第17著者 氏名(和/英/ヨミ) / /
第17著者 所属(和/英) (略称: )
(略称: )
第18著者 氏名(和/英/ヨミ) / /
第18著者 所属(和/英) (略称: )
(略称: )
第19著者 氏名(和/英/ヨミ) / /
第19著者 所属(和/英) (略称: )
(略称: )
第20著者 氏名(和/英/ヨミ) / /
第20著者 所属(和/英) (略称: )
(略称: )
講演者
発表日時 2019-12-06 16:55:00 
発表時間 25 
申込先研究会 NC 
資料番号 IEICE-MBE2019-59,IEICE-NC2019-50 
巻番号(vol) IEICE-119 
号番号(no) no.327(MBE), no.328(NC) 
ページ範囲 pp.85-88 
ページ数 IEICE-4 
発行日 IEICE-MBE-2019-11-29,IEICE-NC-2019-11-29 


[研究会発表申込システムのトップページに戻る]

[電子情報通信学会ホームページ]


IEICE / 電子情報通信学会