| 講演名 | 2024-02-29 知識蒸留を用いた垂直連合学習におけるデータ漏洩攻撃の提案 水門 巧実(阪大), 小泉 佑揮(阪大), 武政 淳二(阪大), 長谷川 亨(阪大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 垂直連合学習は、同一サンプルで特徴が異なるデータを所有する参加者が、データを秘匿しながらも協働?て機械学習モデルを訓練するための手法である。従来の垂直連合学習では、推論が可能なサンプルは限られており、また、推論時には全ての参加者がプロセスに関与する必要があった。このような制限を克服するために、Vertical Federated Knowledge Transfer (VFedTrans) と呼ばれる新しい手法が提案されている。この手法では、FedSVDと呼ばれる連合特異値分解から得られる潜在表現に基づいた知識蒸留を組み込むことで、参加者は自身の所有するデータを他の参加者に対して秘匿しながらも、ローカルに推論を行うことが可能であるとされている。また、このアプローチにより、従来の垂直連合学習で提案されたデータ漏洩攻撃がVFedTransでは無効となる。これに対して、本研究では、セミオネストな参加者が潜在表現と元のデータの間の線形関係をニューラルネットワークを用いて推論することで、他の参加者のデータを再構築する攻撃を提案する。さらに、医療と金融に関する2つのデータセットを利用して、攻撃手法の評価を行う。 |
| 抄録(英) | Vertical federated learning is a method for participants who have data with the same samples but different features to collaboratively train a machine learning model while keeping their data private. In traditional vertical federated learning, the samples to be inferred are limited, and all participants have to involve during inference phase. To overcome these limitations, Vertical Federated Knowledge Transfer (VFedTrans) has been proposed. In VFedTrans, participants can make inference locally while keeping their data private by using latent representation derived from federated singular value decomposition (FedSVD). This approach also makes the data leakage attacks against the traditional vertical federated learning invalid for VFedTrans. However, this work proposes an attack in which a semi-honest participant infers a linear relationship between latent representation and the original data with neural network and then reconstructs data of other participants. Furthermore, we use two datasets on healthcare and finance and evaluate our attack method. |
| キーワード(和) | 垂直連合学習 / 知識蒸留 / 知識転移 / プライバシー攻撃 |
| キーワード(英) | Vertical Federated Learning / Knowledge Distillation / Knowledge Transfer / Privacy Attack |
| 資料番号 | NS2023-187 |
| 発行日 | 2024-02-22 (NS) |
| 研究会情報 | |
| 研究会 | NS / IN |
|---|---|
| 開催期間 | 2024/2/29(から2日開催) |
| 開催地（和） | 沖縄コンベンションセンター |
| 開催地（英） | Okinawa Convention Center |
| テーマ（和） | 一般 |
| テーマ（英） | General |
| 委員長氏名（和） | 大石 哲矢(NTT) / 波戸 邦夫(NTT) |
| 委員長氏名（英） | Tetsuya Oishi(NTT) / Kunio Hato(NTT) |
| 副委員長氏名（和） | 三好 匠(芝浦工大) / 村瀬 勉(名大) |
| 副委員長氏名（英） | Takumi Miyoshi(Shibaura Inst. of Tech.) / Tsutomu Murase(Nagoya Univ.) |
| 幹事氏名（和） | 島崎 大作(NTT) / 山口 実靖(工学院大) / 濱田 浩気(NTT) / 秦泉寺 久美(NTT) / 加藤 尭彦(KDDI総合研究所) / 三角 真(福岡大) |
| 幹事氏名（英） | Daisaku Shimazaki(NTT) / Saneyasu Yamaguchi(Kogakuin Univ.) / Koki Hamada(NTT) / Kumi Jinzenji(NTT) / Takahiko Kato(KDDI Research) / Makoto Misumi(Fukuoka Univ.) |
| 幹事補佐氏名（和） | 山本 宏(NTT) |
| 幹事補佐氏名（英） | Hiroshi Yamamoto(NTT) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Network Systems / Technical Committee on Information Networks |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 知識蒸留を用いた垂直連合学習におけるデータ漏洩攻撃の提案 |
| サブタイトル（和） | |
| タイトル（英） | Proposal of a Data Leakage Attack against a Vertical Federated Learning System based on Knowledge Distillation |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 垂直連合学習 / Vertical Federated Learning |
| キーワード(2)（和/英） | 知識蒸留 / Knowledge Distillation |
| キーワード(3)（和/英） | 知識転移 / Knowledge Transfer |
| キーワード(4)（和/英） | プライバシー攻撃 / Privacy Attack |
| 第 1 著者 氏名（和/英） | 水門 巧実 / Takumi Suimon |
| 第 1 著者 所属（和/英） | 大阪大学(略称：阪大) Osaka University(略称：Osaka Univ.) |
| 第 2 著者 氏名（和/英） | 小泉 佑揮 / Yuki Koizumi |
| 第 2 著者 所属（和/英） | 大阪大学(略称：阪大) Osaka University(略称：Osaka Univ.) |
| 第 3 著者 氏名（和/英） | 武政 淳二 / Junji Takemasa |
| 第 3 著者 所属（和/英） | 大阪大学(略称：阪大) Osaka University(略称：Osaka Univ.) |
| 第 4 著者 氏名（和/英） | 長谷川 亨 / Toru Hasegawa |
| 第 4 著者 所属（和/英） | 大阪大学(略称：阪大) Osaka University(略称：Osaka Univ.) |
| 発表年月日 | 2024-02-29 |
| 資料番号 | NS2023-187 |
| 巻番号（vol） | vol.123 |
| 号番号（no） | NS-397 |
| ページ範囲 | pp.90-95(NS), |
| ページ数 | 6 |
| 発行日 | 2024-02-22 (NS) |