| 講演名 | 2022-06-16 秘密鍵を用いた画像分類器のAutoAttackに対する頑健性評価 田中 美貴(都立大), エイプリルピョン マウンマウン(都立大), 越前 功(NII), 貴家 仁志(都立大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 深層学習モデルの予測結果を不正に操作する敵対的事例攻撃に対する対策が，急務の課題となっている．本稿では，先に提案した秘密鍵を用いた画像分類器の頑健性を，敵対的事例攻撃のベンチマーク法であるAutoAttackを用いて評価する．さらに秘密鍵を用いた画像分類器のための敵対的事例攻撃検出器を提案する。実験において，秘密鍵を用いた画像分類器はブラックボックス攻撃に対して脆弱性があること，提案された検出器を組み合わせて使用することによって，その脆弱性が改善され，最新のベンチマーク結果を上回ることを確認する． |
| 抄録(英) | Deep neural network (DNN) models are well-known to easily misclassify prediction results by using input images with small perturbations, called adversarial examples, so investigating countermeasures for adversarial examples is an urgent issue. In this paper, the secret key-based defense that we proposed is evaluated in terms of robustness against adversarial examples in accordance with a benchmark attack method, called AutoAttack. In addition, we propose a detection method of adversarial examples to be combined with the secret key-based defense. In an experiment, the secret key-based classification model is confirmed that it is not robust enough against a black box attack, and the combined use of the key-based defense and the proposed detector outperforms the latest benchmark. |
| キーワード(和) | 敵対的事例 / 機械学習 / 深層学習 / 敵対的事例の検出 |
| キーワード(英) | Adversarial example / Machine learning / Deep learning / Adversarial detection |
| 資料番号 | CAS2022-7,VLD2022-7,SIP2022-38,MSS2022-7 |
| 発行日 | 2022-06-09 (CAS, VLD, SIP, MSS) |
| 研究会情報 | |
| 研究会 | CAS / SIP / VLD / MSS |
|---|---|
| 開催期間 | 2022/6/16(から2日開催) |
| 開催地（和） | 八戸工業大学 1号館201室（多目的ホール） |
| 開催地（英） | Hachinohe Institute of Technology |
| テーマ（和） | システムと信号処理および一般 |
| テーマ（英） | |
| 委員長氏名（和） | 前田 義信(新潟大) / 坂東 幸浩(NTT) / 小林 和淑(京都工繊大) / 尾崎 敦夫(阪工大) |
| 委員長氏名（英） | Yoshinobu Maeda(Niigata Univ.) / Yukihiro Bandou(NTT) / Kazutoshi Kobayashi(Kyoto Inst. of Tech.) / Atsuo Ozaki(Osaka Inst. of Tech.) |
| 副委員長氏名（和） | 相原 康敏(オムニビジョン) / 田中 聡久(東京農工大) / 仲地 孝之(琉球大学) / 池田 奈美子(NTT) / 山口 真悟(山口大) |
| 副委員長氏名（英） | Yasutoshi Aibara(OmniVisionManufacturing) / Toshihisa Tanaka(Tokyo Univ. Agri.&Tech.) / Takayuki Nakachi(Ryukyu Univ.) / Minako Ikeda(NTT) / Shingo Yamaguchi(Yamaguchi Univ.) |
| 幹事氏名（和） | 伊藤 尚(富山高専) / 鈴木 寛人(ルネサスエレクトロニクス) / 杉本 憲治郎(Xiaomi) / 渡辺 修(拓殖大) / 田中 雄一(東京農工大) / 兼本 大輔(大阪大学) / 宮村 信(NEC) / 小林 孝一(北大) / 劉 健全(NEC) |
| 幹事氏名（英） | Nao Ito(NIT, Toyama college) / Hiroto Suzuki(Renesas) / Kenjiro Sugimoto(Xiaomi) / Osamu Watanabe(Takushoku Univ.) / Yuichi Tanaka(Tokyo Univ. Agri.&Tech.) / Daisuke Kanemoto(Osaka Univ.) / Makoto Miyamura(NEC) / Koichi Kobayashi(Hokkaido Univ.) / Jianquan Liui(NEC) |
| 幹事補佐氏名（和） | 山口 基(テクノプロ) / 中村 洋平(日立) / 佐藤 隆英(山梨大) / 下田 真二(ソニーLSIデザイン) / 越田 俊介(八戸工大) / 吉田 太一(電通大) / 京地 清介(北九州市立大) / / 白井 匡人(島根大) |
| 幹事補佐氏名（英） | Motoi Yamaguchi(TECHNOPRO) / Yohei Nakamura(Hitachi) / Takahide Sato(Univ. of Yamanashi) / Shinji Shimoda(Sony LSI Design) / Shunsuke Koshita(Hachinohe Inst. of Tech.) / Taichi Yoshida(UEC) / Seisuke Kyochi(Univ. of Kitakyushu) / / Masato Shirai(Shimane Univ.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Circuits and Systems / Technical Committee on Signal Processing / Technical Committee on VLSI Design Technologies / Technical Committee on Mathematical Systems Science and its Applications |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 秘密鍵を用いた画像分類器のAutoAttackに対する頑健性評価 |
| サブタイトル（和） | |
| タイトル（英） | Adversarial Robustness of Secret Key-Based Defenses against AutoAttack |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 敵対的事例 / Adversarial example |
| キーワード(2)（和/英） | 機械学習 / Machine learning |
| キーワード(3)（和/英） | 深層学習 / Deep learning |
| キーワード(4)（和/英） | 敵対的事例の検出 / Adversarial detection |
| 第 1 著者 氏名（和/英） | 田中 美貴 / Miki Tanaka |
| 第 1 著者 所属（和/英） | 東京都立大学(略称：都立大) Tokyo Metropolitan University(略称：Tokyo Metro Univ.) |
| 第 2 著者 氏名（和/英） | エイプリルピョン マウンマウン / April Pyone MaungMaung |
| 第 2 著者 所属（和/英） | 東京都立大学(略称：都立大) Tokyo Metropolitan University(略称：Tokyo Metro Univ.) |
| 第 3 著者 氏名（和/英） | 越前 功 / Isao Echizen |
| 第 3 著者 所属（和/英） | 国立情報学研究所(略称：NII) National Institute of Informatics(略称：NII) |
| 第 4 著者 氏名（和/英） | 貴家 仁志 / Hitoshi Kiya |
| 第 4 著者 所属（和/英） | 東京都立大学(略称：都立大) Tokyo Metropolitan University(略称：Tokyo Metro Univ.) |
| 発表年月日 | 2022-06-16 |
| 資料番号 | CAS2022-7,VLD2022-7,SIP2022-38,MSS2022-7 |
| 巻番号（vol） | vol.122 |
| 号番号（no） | CAS-75,VLD-76,SIP-77,MSS-78 |
| ページ範囲 | pp.34-39(CAS), pp.34-39(VLD), pp.34-39(SIP), pp.34-39(MSS), |
| ページ数 | 6 |
| 発行日 | 2022-06-09 (CAS, VLD, SIP, MSS) |