| 講演名 | 2023-08-04 連合学習におけるバックドアの発動遅延によるステルスな学習撹乱 筒井 政成(東大), 金子 竜也(東大), 高前田 伸也(東大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 連合学習(Federated Learning)は,複数のエッジデバイスクライアントが,各々のプライベートな訓練データを他者に開示することなく,代わりにモデルパラメタの共有と統合を繰り返すことで,一つのモデルの学習を進める機械学習手法である. しかし,不特定多数のクライアントが学習に関与するこの手法において,モデルは常に悪意あるクライアントによる攻撃リスクに晒される.特に,特定の特徴をもつ入力に対してだけ推論を誤るようにモデルを改変するバックドア攻撃は重大な脅威とされ,防衛手法も多数研究されている.その中でも,検証用のクライアントが随時モデルの精度を監視し,その異常報告に応じて適宜モデルの状態を巻き戻すフィードバックベースの防衛手法は,プライバシー保護と安全性を両立する堅牢な防衛手法である. 本研究では,まず既存の防衛手法を,より合理的な問題設定のもとで発展させたチェック&ロールバック方式を提案する.そして,モデルの異常が攻撃直後に発生する,というフィードバックベースの防衛手法の前提に潜む脆弱性を明らかにするため,新たな学習妨害攻撃手法を提案する. それは,モデルの異常発生までに,敢えて遅延が生じるような攻撃を行うことで,隠密に学習の撹乱を引き起こす攻撃手法である. 本攻撃手法の提案をもって,連合学習のバックドア攻撃における新たな防衛手法の必要性を示す. |
| 抄録(英) | |
| キーワード(和) | 深層学習 / 連合学習 / バックドア攻撃 / セキュリティ |
| キーワード(英) | |
| 資料番号 | CPSY2023-26,DC2023-26 |
| 発行日 | 2023-07-26 (CPSY, DC) |
| 研究会情報 | |
| 研究会 | CPSY / DC / IPSJ-ARC |
|---|---|
| 開催期間 | 2023/8/2(から3日開催) |
| 開催地（和） | 函館アリーナ |
| 開催地（英） | Hakodate Arena |
| テーマ（和） | SWoPP2023: 並列／分散／協調システムとディペンダブルコンピューティングおよび一般 |
| テーマ（英） | SWoPP2023: Parallel, Distributed and Cooperative Processing Systems and Dependable Computing |
| 委員長氏名（和） | 中島 耕太(富士通研) / 土屋 達弘(阪大) / 井上 弘士(九大) |
| 委員長氏名（英） | Kota Nakajima(Fujitsu Lab.) / Tatsuhiro Tsuchiya(Osaka Univ.) / Hiroshi Inoue(Kyushu Univ.) |
| 副委員長氏名（和） | 井口 寧(北陸先端大) / 津邑 公暁(名工大) / 細川 利典(日大) |
| 副委員長氏名（英） | Yasushi Inoguchi(JAIST) / Tomoaki Tsumura(Nagoya Inst. of Tech.) / Toshinori Hosokawa(Nihon Univ.) |
| 幹事氏名（和） | 小林 諒平(筑波大) / 小川 周吾(日立) / 新井 雅之(日大) / 難波 一輝(千葉大) / 近藤 正章(東大) / 塩谷 亮太(名大) / 田中 美帆(富士通研) / 長谷川 揚平(東芝メモリ) |
| 幹事氏名（英） | Ryohei Kobayashi(Univ. of Tsukuba) / Shugo Ogawa(Hitachi) / Masayuki Arai(Nihon Univ.) / Kazuteru Namba(Chiba Univ.) / Masaaki Kondo(Univ. of Tokyo) / Ryota Shioya(Nagoya Univ.) / Miho Tanaka(Fujitsu Labs.) / Yohei Hasegawa(Toshiba Memory) |
| 幹事補佐氏名（和） | 坂本 龍一(東工大) / 本田 巧(富士通) |
| 幹事補佐氏名（英） | Ryuichi Sakamoto(Tokyo Inst. of Tech.) / Takumi Honda(Fujitsu) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Computer Systems / Technical Committee on Dependable Computing / Special Interest Group on System Architecture |
|---|---|
| 本文の言語 | JPN-ONLY |
| タイトル（和） | 連合学習におけるバックドアの発動遅延によるステルスな学習撹乱 |
| サブタイトル（和） | |
| タイトル（英） | |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 深層学習 |
| キーワード(2)（和/英） | 連合学習 |
| キーワード(3)（和/英） | バックドア攻撃 |
| キーワード(4)（和/英） | セキュリティ |
| 第 1 著者 氏名（和/英） | 筒井 政成 / Masayoshi Tsutsui |
| 第 1 著者 所属（和/英） | 東京大学(略称：東大) University of Tokyo(略称：UTokyo) |
| 第 2 著者 氏名（和/英） | 金子 竜也 / Tatsuya Kaneko |
| 第 2 著者 所属（和/英） | 東京大学(略称：東大) University of Tokyo(略称：UTokyo) |
| 第 3 著者 氏名（和/英） | 高前田 伸也 / Shinya Takamaeda |
| 第 3 著者 所属（和/英） | 東京大学(略称：東大) University of Tokyo(略称：UTokyo) |
| 発表年月日 | 2023-08-04 |
| 資料番号 | CPSY2023-26,DC2023-26 |
| 巻番号（vol） | vol.123 |
| 号番号（no） | CPSY-145,DC-146 |
| ページ範囲 | pp.106-111(CPSY), pp.106-111(DC), |
| ページ数 | 6 |
| 発行日 | 2023-07-26 (CPSY, DC) |