| 講演名 | 2022-06-24 敵対的サンプルを用いた心電図に対する物理攻撃手法の評価 小野 大河(早大), 菅原 健(電通大), 佐久間 淳(筑波大/理研), 森 達哉(早大/理研/NICT), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 本研究は深層学習を用いた自動医療診断システムに対する敵対的攻撃の概念実証を狙いとする．具体的には心電図を入力値として不整脈を検知する分類器に対し，意図的に分類器の出力を変化させるような入力を生成する攻撃をハードウェア実装し，物理世界での実用性を評価した．この結果, およそ42.1%の確率で心筋症の検知を偽装する攻撃を実現した. また，こうした攻撃が自動医療診断システムに対して引き起こす脅威と攻撃シナリオを議論する． |
| 抄録(英) | This work aims to assess the reality and feasibility of applying adversarial examples to attack cardiac diagnosis systems powered by machine learning algorithms. To this end, we introduce "adversarial beats", which are adversarial perturbations tailored specifically against classification systems designed to diagnose electrocardiograms (ECGs). We formulate an algorithm to generate adversarial beats, and evaluate their feasibility in a physical environment by designing a hardware attack. To the best of our knowledge, our work is the first in evaluating the proficiency of adversarial examples for ECGs in a physical setup. Our real-world experiments demonstrate that against an automated ECG diagnosis setup, we can leverage our proposed method to fake the presence of potential signs of cardiomyopathy with approximately 42.1% chance of success. We conclude that our proposed method can be leveraged by attackers to influence clinical decisions, which could be applied to fraudulent clinical transactions. |
| キーワード(和) | 深層学習 / 敵対的サンプル / ハードウェア |
| キーワード(英) | DNN / Adversarial Examples / Hardware |
| 資料番号 | IA2022-11,ICSS2022-11 |
| 発行日 | 2022-06-16 (IA, ICSS) |
| 研究会情報 | |
| 研究会 | IA / ICSS |
|---|---|
| 開催期間 | 2022/6/23(から2日開催) |
| 開催地（和） | 長崎県立大学シーボルト校 |
| 開催地（英） | Univ. of Nagasaki |
| テーマ（和） | インターネットセキュリティ、一般 |
| テーマ（英） | Internet Security, etc. |
| 委員長氏名（和） | 義久 智樹(阪大) / 吉岡 克成(横浜国大) |
| 委員長氏名（英） | Tomoki Yoshihisa(Osaka Univ.) / Katsunari Yoshioka(Yokohama National Univ.) |
| 副委員長氏名（和） | 近堂 徹(広島大) / 屏 雄一郎(KDDI総合研究所) / 山本 寛(立命館大) / 神谷 和憲(NTT) / 笠間 貴弘(NICT) |
| 副委員長氏名（英） | Toru Kondo(Hiroshima Univ.) / Yuichiro Hei(KDDI Research) / Hiroshi Yamamoto(Ritsumeikan Univ.) / Kazunori Kamiya(NTT) / Takahiro Kasama(NICT) |
| 幹事氏名（和） | 大平 健司(阪大) / 坂野 遼平(工学院大) / 渡辺 俊貴(NEC) / 山田 明(KDDI labs.) / 山内 利宏(岡山大) |
| 幹事氏名（英） | Kenji Ohira(Osaka Univ.) / Ryohei Banno(Kogakuin Univ.) / Toshiki Watanabe(NEC) / Akira Yamada(KDDI labs.) / Toshihiro Yamauchi(Okayama Univ.) |
| 幹事補佐氏名（和） | 小谷 大祐(京大) / 中村 遼(福岡大) / 野林 大起(九工大) / 木藤 圭亮(三菱電機) / 菅原 健(電通大) |
| 幹事補佐氏名（英） | Daisuke Kotani(Kyoto Univ.) / Ryo Nakamurai(Fukuoka Univ.) / Daiki Nobayashi(Kyushu Inst. of Tech.) / Keisuke Kito(Mitsubishi Electric) / Takeshi Sugawara(Univ. of Electro-Comm.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Internet Architecture / Technical Committee on Information and Communication System Security |
|---|---|
| 本文の言語 | ENG-JTITLE |
| タイトル（和） | 敵対的サンプルを用いた心電図に対する物理攻撃手法の評価 |
| サブタイトル（和） | |
| タイトル（英） | Application of Adversarial Examples to Physical ECG Signals |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 深層学習 / DNN |
| キーワード(2)（和/英） | 敵対的サンプル / Adversarial Examples |
| キーワード(3)（和/英） | ハードウェア / Hardware |
| 第 1 著者 氏名（和/英） | 小野 大河 / Taiga Ono |
| 第 1 著者 所属（和/英） | 早稲田大学(略称：早大) Waseda University(略称：Waseda Univ.) |
| 第 2 著者 氏名（和/英） | 菅原 健 / Takeshi Sugawara |
| 第 2 著者 所属（和/英） | 電気通信大学(略称：電通大) The University of Electro-Communications(略称：UEC) |
| 第 3 著者 氏名（和/英） | 佐久間 淳 / Jun Sakuma |
| 第 3 著者 所属（和/英） | 筑波大学/理化学研究所(略称：筑波大/理研) University of Tsukuba/RIKEN(略称：Tsukuba Univ./RIKEN) |
| 第 4 著者 氏名（和/英） | 森 達哉 / Tatsuya Mori |
| 第 4 著者 所属（和/英） | 早稲田大学/理化学研究所/情報通信研究機構(略称：早大/理研/NICT) Waseda University/RIKEN/National Institute of Information and Communications Technology(略称：Waseda Univ./RIKEN/NICT) |
| 発表年月日 | 2022-06-24 |
| 資料番号 | IA2022-11,ICSS2022-11 |
| 巻番号（vol） | vol.122 |
| 号番号（no） | IA-85,ICSS-86 |
| ページ範囲 | pp.61-66(IA), pp.61-66(ICSS), |
| ページ数 | 6 |
| 発行日 | 2022-06-16 (IA, ICSS) |