| 講演名 | 2023-06-29 深層学習によるSaliency Mapに対する選択的推論 三輪 大貴(名工大), Vo Nguyen Le Duy(理研), 白石 智洸(名大), 竹内 一郎(名大/理研), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 近年，幅広い分野において，DNNモデルを使用した画像分類が行われているが，その予測はブラックボックス的である．そのため，予測根拠を可視化する手法（Saliency Map）が提案されているが，その結果の信頼性については多くの問題が指摘されている．そこで，統計的仮説検定の枠組みによって，Saliency Mapの信頼性の評価することを考える．しかし，従来の統計的仮説検定ではDNNによる選択バイアスの影響により，妥当な検定を行うことはできない．本研究では，近年盛んに研究が行われている選択的推論を導入し，Type I Error Rateを制御できる妥当な検定を提案する．また，Saliency Mapの1つであるGrad-camに対して，本手法を適用した結果について報告する．k |
| 抄録(英) | The usefulness of image classification using DNN models has been confirmed in various fields, but the prediction mechanism of these models cannot be fully understood. Therefore, a type of methods called Saliency Map has been proposed to visualize the explanation of predictions, but issues regarding the reliability of the results have been pointed out. In this study, we consider evaluating the reliability of Saliency Map using the framework of statistical hypothesis testing. Unfortunately, conventional statistical hypothesis testing cannot perform valid tests due to the selection bias caused by DNNs. Therefore, we introduce the concept of selective inference, which has been actively studied in recent years, and propose a valid testing method that can properly control Type I Error Rate. In this paper, we specifically report the results when the proposed method is applied to saliency maps obtained by Grad-cam, one of the most frequently used Saliency Map techniques. |
| キーワード(和) | 選択的推論 / 統計的仮説検定 / 顕著性マップ / 深層学習 |
| キーワード(英) | Selective Inference / Statistical Hypothesis Testing / Saliency Map / Deep Learning |
| 資料番号 | NC2023-5,IBISML2023-5 |
| 発行日 | 2023-06-22 (NC, IBISML) |
| 研究会情報 | |
| 研究会 | NC / IBISML / IPSJ-BIO / IPSJ-MPS |
|---|---|
| 開催期間 | 2023/6/29(から3日開催) |
| 開催地（和） | 沖縄科学技術大学院大学カンファレンス・センター |
| 開催地（英） | OIST Conference Center |
| テーマ（和） | 機械学習によるバイオデータマイニング、一般 |
| テーマ（英） | |
| 委員長氏名（和） | 田中 宏和(東京都市大) / 杉山 将(東大) |
| 委員長氏名（英） | Hirokazu Tanaka(Tokyo City Univ.) / Masashi Sugiyama(Univ. of Tokyo) |
| 副委員長氏名（和） | 井澤 淳(筑波大) / 神嶌 敏弘(産総研) / 津田 宏治(東大) |
| 副委員長氏名（英） | Jun Izawa(Univ. of Tsukub) / Toshihiro Kamishima(AIST) / Koji Tsuda(Univ. of Tokyo) |
| 幹事氏名（和） | 寺島 裕貴(NTT) / 田中 沙織(奈良先端大) / 岩田 具治(NTT) / 中村 篤祥(北大) |
| 幹事氏名（英） | Hiroki Terashima(NTT) / Saori Tanaka(NAIST) / Tomoharu Iwata(NTT) / Atsuyoshi Nakamura(Hokkaido Univ.) |
| 幹事補佐氏名（和） | 田和辻 可昌(早大) / 堀井 隆斗(阪大) / 河原 吉伸(阪大) / 鈴木 大慈(東工大) |
| 幹事補佐氏名（英） | Yoshimasa Tawatsuji(Waseda Univ.) / Takato Horii(Osaka Univ.) / Yoshinobu Kawahara(Osaka Univ.) / Taiji Suzuki(Tokyo Inst. of Tech.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Neurocomputing / Technical Committee on Information-Based Induction Sciences and Machine Learning / Special Interest Group on Bioinformatics and Genomics / Special Interest Group on Mathematical Modeling and Problem Solving |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 深層学習によるSaliency Mapに対する選択的推論 |
| サブタイトル（和） | |
| タイトル（英） | Selective Inference for DNN-driven Saliency Map |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 選択的推論 / Selective Inference |
| キーワード(2)（和/英） | 統計的仮説検定 / Statistical Hypothesis Testing |
| キーワード(3)（和/英） | 顕著性マップ / Saliency Map |
| キーワード(4)（和/英） | 深層学習 / Deep Learning |
| 第 1 著者 氏名（和/英） | 三輪 大貴 / Daiki Miwa |
| 第 1 著者 所属（和/英） | 名古屋工業大学(略称：名工大) Nagoya Institute of Technology(略称：NITech) |
| 第 2 著者 氏名（和/英） | Vo Nguyen Le Duy / Vo Nguyen Le Duy |
| 第 2 著者 所属（和/英） | 理学研究所(略称：理研) RIKEN(略称：RIKEN) |
| 第 3 著者 氏名（和/英） | 白石 智洸 / Tomohiro Shiraishi |
| 第 3 著者 所属（和/英） | 名古屋大学(略称：名大) Nagoya University(略称：Nagoya Univ.) |
| 第 4 著者 氏名（和/英） | 竹内 一郎 / Ichiro Takeuchi |
| 第 4 著者 所属（和/英） | 名古屋大学/理化学研究所(略称：名大/理研) Nagoya University/RIKEN(略称：Nagoya Univ./RIKEN) |
| 発表年月日 | 2023-06-29 |
| 資料番号 | NC2023-5,IBISML2023-5 |
| 巻番号（vol） | vol.123 |
| 号番号（no） | NC-90,IBISML-91 |
| ページ範囲 | pp.30-34(NC), pp.30-34(IBISML), |
| ページ数 | 5 |
| 発行日 | 2023-06-22 (NC, IBISML) |