講演抄録/キーワード |
講演名 |
2018-12-13 14:40
畳み込みニューラルネットワークからのルール抽出 ○月本 洋・佐藤優也(東京電機大) PRMU2018-79 |
抄録 |
(和) |
畳み込みニューラルネットワークの内部構造の理解に関しては,可視化の手法があるが,特徴量を抽出する手法はほとんどない.本稿では,畳み込みニューラルネットワークの全結合層からルールを抽出することで,特徴量を抽出する方法を提示する.ルール抽出方法は,以前,筆者の一人が開発した方法(近似法)を用いた.ルールの入力は,畳み込み層の出力なので,ルールを理解する際には,この出力を最大化する画像を求める必要がある.畳み込み層出力最大化画像は,SmoothGradを用いて求めた.本稿では,このルール抽出方法をMNISTデータに適用した結果を報告する. |
(英) |
To understand the inner structures of convolutional neural networks, several techniques of visualization have been developed. However, few techniques have been developed to extract features from convolutional neural networks. This paper presents a method of extracting features from convolutional neural networks by extracting rules from fully connected layers. The rule extraction method developed by one of the authors was adopted. The inputs of the rules are the outputs of convolutional layers. To understand the rules, the images maximizing the outputs of convolutional layers are needed, which are calculated by Smoothgrad. The method was applied to MNIST data. |
キーワード |
(和) |
畳み込みニューラルネットワーク / 特徴抽出 / ルール抽出 / 近似法 / SmoothGrad / MNIST / / |
(英) |
convolutional neural networks / feature extraction / rule extraction / Approximation method / SmoothGrad / MNIST / / |
文献情報 |
信学技報, vol. 118, no. 362, PRMU2018-79, pp. 23-28, 2018年12月. |
資料番号 |
PRMU2018-79 |
発行日 |
2018-12-06 (PRMU) |
ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
PRMU2018-79 |