| 講演名 | 2020-03-17 畳み込みニューラルネットワークからのルール抽出 佐藤 優也(東京電機大), 月本 洋(東京電機大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 以前畳み込みニューラルネットワークから論理式を抽出をする手法(近似法:分解法の一種)を報告したが，そのネットワークの全結合層に中間層が存在する場合に精度が極端に下がることが判明した．本稿では，全結合層を1つのブラックボックスとして論理式を抽出すると良い結果が得られたので，その方法を提示する．また，論理式の入力として畳み込み・プーリング層の出力を最大化する画像を生成した後に，生成した出力最大化画像と全結合層の論理式を統合して，全結合層の論理式が示す特徴を可視化する方法も提示する．本稿では，これらの手法をMNISTデータセットを学習させた畳み込みニューラルネットワークに対して行った結果を報告する． |
| 抄録(英) | We presented a decompositional method of rule extraction from convolutional neural networks in the past. However, we found that the accuracy was extremely low in the case of fully connected layers with hidden layers. This paper presents a pedagogical extracting method. Also, this paper presents a method merging rules and images maximizing the output of convolutional/pooling layers, and visualizing features of the rules extracted from fully connected layers. These methods were applied to convolutional neural networks trained with MNIST dataset. |
| キーワード(和) | 畳み込みニューラルネットワーク / 特徴抽出 / ルール抽出 / SmoothGrad / MNIST / 教示法 |
| キーワード(英) | convolutional neural network / feature extraction / rule extraction / SmoothGrad / MNIST / pedagogical method |
| 資料番号 | PRMU2019-89 |
| 発行日 | 2020-03-09 (PRMU) |
| 研究会情報 | |
| 研究会 | PRMU / IPSJ-CVIM |
|---|---|
| 開催期間 | 2020/3/16(から2日開催) |
| 開催地（和） | 京都大学 |
| 開催地（英） | |
| テーマ（和） | 安全安心、セキュリティ・防災 |
| テーマ（英） | |
| 委員長氏名（和） | 佐藤 洋一(東大) |
| 委員長氏名（英） | Yoichi Sato(Univ. of Tokyo) |
| 副委員長氏名（和） | 玉木 徹(広島大) / 木村 昭悟(NTT) |
| 副委員長氏名（英） | Toru Tamaki(Hiroshima Univ.) / Akisato Kimura(NTT) |
| 幹事氏名（和） | 入江 豪(NTT) / 牛久 祥孝(オムロンサイニックエックス) |
| 幹事氏名（英） | Go Irie(NTT) / Yoshitaka Ushiku(OMRON SINICX) |
| 幹事補佐氏名（和） | 内田 祐介(DeNA) / 山下 隆義(中部大) |
| 幹事補佐氏名（英） | Yusuke Uchida(DeNA) / Takayoshi Yamashita(Chubu Univ.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Pattern Recognition and Media Understanding / Special Interest Group on Computer Vision and Image Media |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 畳み込みニューラルネットワークからのルール抽出 |
| サブタイトル（和） | 教示法によるルール抽出 |
| タイトル（英） | Rule Extraction from convolutional neural networks |
| サブタイトル（和） | Rule Extraction with A Pedagogical Method |
| キーワード(1)（和/英） | 畳み込みニューラルネットワーク / convolutional neural network |
| キーワード(2)（和/英） | 特徴抽出 / feature extraction |
| キーワード(3)（和/英） | ルール抽出 / rule extraction |
| キーワード(4)（和/英） | SmoothGrad / SmoothGrad |
| キーワード(5)（和/英） | MNIST / MNIST |
| キーワード(6)（和/英） | 教示法 / pedagogical method |
| 第 1 著者 氏名（和/英） | 佐藤 優也 / Yuya Sato |
| 第 1 著者 所属（和/英） | 東京電機大学(略称：東京電機大) Tokyo Denki University(略称：Tokyo Denki Univ) |
| 第 2 著者 氏名（和/英） | 月本 洋 / Hiroshi Tsukimoto |
| 第 2 著者 所属（和/英） | 東京電機大学(略称：東京電機大) Tokyo Denki University(略称：Tokyo Denki Univ.) |
| 発表年月日 | 2020-03-17 |
| 資料番号 | PRMU2019-89 |
| 巻番号（vol） | vol.119 |
| 号番号（no） | PRMU-481 |
| ページ範囲 | pp.121-126(PRMU), |
| ページ数 | 6 |
| 発行日 | 2020-03-09 (PRMU) |