講演抄録/キーワード |
講演名 |
2020-03-17 09:45
畳み込みニューラルネットワークからのルール抽出 ~ 教示法によるルール抽出 ~ ○佐藤優也・月本 洋(東京電機大) PRMU2019-89 |
抄録 |
(和) |
以前畳み込みニューラルネットワークから論理式を抽出をする手法(近似法:分解法の一種)を報告したが,そのネットワークの全結合層に中間層が存在する場合に精度が極端に下がることが判明した.本稿では,全結合層を1つのブラックボックスとして論理式を抽出すると良い結果が得られたので,その方法を提示する.また,論理式の入力として畳み込み・プーリング層の出力を最大化する画像を生成した後に,生成した出力最大化画像と全結合層の論理式を統合して,全結合層の論理式が示す特徴を可視化する方法も提示する.本稿では,これらの手法をMNISTデータセットを学習させた畳み込みニューラルネットワークに対して行った結果を報告する. |
(英) |
We presented a decompositional method of rule extraction from convolutional neural networks in the past. However, we found that the accuracy was extremely low in the case of fully connected layers with hidden layers. This paper presents a pedagogical extracting method. Also, this paper presents a method merging rules and images maximizing the output of convolutional/pooling layers, and visualizing features of the rules extracted from fully connected layers. These methods were applied to convolutional neural networks trained with MNIST dataset. |
キーワード |
(和) |
畳み込みニューラルネットワーク / 特徴抽出 / ルール抽出 / SmoothGrad / MNIST / 教示法 / / |
(英) |
convolutional neural network / feature extraction / rule extraction / SmoothGrad / MNIST / pedagogical method / / |
文献情報 |
信学技報, vol. 119, no. 481, PRMU2019-89, pp. 121-126, 2020年3月. |
資料番号 |
PRMU2019-89 |
発行日 |
2020-03-09 (PRMU) |
ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
PRMU2019-89 |