| 講演名 | 2020-03-03 Adversarial Attacks against Electrocardiograms 小野 大河(早大), 菅原 健(電通大), 森 達哉(早大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 本研究は深層学習を用いた自動医療診断システムに対する敵対的攻撃の概念実証を狙いとする．具体的には心電図を入力値として不整脈を検知する分類器に対し，意図的に分類器の出力を変化させるような入力を生成する攻撃を提案し，その評価を行う．はじめに提案手法をソフトウェア実装し，心拍の実計測データを用いて評価した．この結果，物理的制約を満たすべく，波形に大幅な制限を加えた状態にあっても，高確率で攻撃が成功することを明らかにした．つぎに提案手法をハードウェア実装し，物理世界での実用性を評価した．この結果，40回の試行で3--5件の攻撃成功を実現した．また，こうした攻撃が自動医療診断システムに対して引き起こす脅威と具体的な攻撃シナリオを議論する． |
| 抄録(英) | Recent advancements in clinical services powered by deep learning have been met with the threat of Adversarial Examples. The exact methods in which adversaries may utilize Adversarial Examples in certain attack scenarios, however, are still unclear. Our research presents a proof-of-concept attack to show that adversaries are able to utilize Adversarial Examples of electrocardiograms to take advantage of carelessly implemented diagnostic systems for cardiology. Adversarial perturbations are introduced into ECG readings via hardware manipulation, and the resulting hardware attack successfully manipulates the diagnosis results of a healthy patient 3--5 times throughout 40 tries, potentially allowing adversaries to influence clinical decisions. |
| キーワード(和) | 深層学習 / Adversarial Examples / Hardware |
| キーワード(英) | DNN / Adversarial Examples / Hardware |
| 資料番号 | ICSS2019-90 |
| 発行日 | 2020-02-24 (ICSS) |
| 研究会情報 | |
| 研究会 | ICSS / IPSJ-SPT |
|---|---|
| 開催期間 | 2020/3/2(から2日開催) |
| 開催地（和） | 沖縄県青年会館 |
| 開催地（英） | Okinawa-Ken-Seinen-Kaikan |
| テーマ（和） | セキュリティ、トラスト、一般 |
| テーマ（英） | Security, Trust, etc. |
| 委員長氏名（和） | 高倉 弘喜(NII) |
| 委員長氏名（英） | Hiroki Takakura(NII) |
| 副委員長氏名（和） | 吉岡 克成(横浜国大) / 神谷 和憲(NTT) |
| 副委員長氏名（英） | Katsunari Yoshioka(Yokohama National Univ.) / Kazunori Kamiya(NTT) |
| 幹事氏名（和） | 笠間 貴弘(NICT) / 山田 明(KDDI labs.) |
| 幹事氏名（英） | Takahiro Kasama(NICT) / Akira Yamada(KDDI labs.) |
| 幹事補佐氏名（和） | 木藤 圭亮(三菱電機) / 山内 利宏(岡山大) |
| 幹事補佐氏名（英） | Keisuke Kito(Mitsubishi Electric) / Toshihiro Yamauchi(Okayama Univ.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Information and Communication System Security / Special Interest Group on Security Psychology and Trust |
|---|---|
| 本文の言語 | ENG |
| タイトル（和） | |
| サブタイトル（和） | |
| タイトル（英） | Adversarial Attacks against Electrocardiograms |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 深層学習 / DNN |
| キーワード(2)（和/英） | Adversarial Examples / Adversarial Examples |
| キーワード(3)（和/英） | Hardware / Hardware |
| 第 1 著者 氏名（和/英） | 小野 大河 / Taiga Ono |
| 第 1 著者 所属（和/英） | 早稲田大学(略称：早大) Waseda University(略称：Waseda Univ.) |
| 第 2 著者 氏名（和/英） | 菅原 健 / Takeshi Sugawara |
| 第 2 著者 所属（和/英） | 電気通信大学(略称：電通大) University of Electro-Communications(略称：UEC) |
| 第 3 著者 氏名（和/英） | 森 達哉 / Tatsuya Mori |
| 第 3 著者 所属（和/英） | 早稲田大学(略称：早大) Waseda University(略称：Waseda Univ.) |
| 発表年月日 | 2020-03-03 |
| 資料番号 | ICSS2019-90 |
| 巻番号（vol） | vol.119 |
| 号番号（no） | ICSS-437 |
| ページ範囲 | pp.131-136(ICSS), |
| ページ数 | 6 |
| 発行日 | 2020-02-24 (ICSS) |