| 講演名 | 2022-11-24 クロスサイロ連合学習における差分プライバシを考慮したインセンティブメカニズムによる社会的余剰最大化 宮越 奨太(福井大), 橘 拓至(福井大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 複数の組織が参加するクロスサイロ連合学習では，多数の組織がローカルモデルの学習に参加することで，訓練データが増加してグローバルモデルの予測精度が向上する．各組織は訓練データを内部でのみ使用し，機械学習パラメータを公開・共有することで，所有データに関するプライバシを保護している．しかしながら，機械学習パラメータから訓練データを推定される可能性があり，差分プライバシを用いることで訓練データの推定を回避することができる．一方で，差分プライバシの利用はグローバルモデルの予測精度を低下させてしまい，他組織の差分プライバシによって獲得報酬が減少すると連合学習へ参加する意欲が抑制されてしまう．そこで本稿では，差分プライバシを用いたクロスサイロ連合学習において社会余剰最大化を達成するインセンティブメカニズムを提案する．提案するメカニズムでは，組織間で金銭移転を行うことでクロスサイロ連合学習への積極的な参加を促す．提案法の性能をシミュレーションで評価し，各組織が協力してプライバシを保護しながら社会余剰を最大化することを示す．さらに，各組織に対して，連合学習へ部分的に参加させることによる社会的余剰への効果も検証する． |
| 抄録(英) | In cross-silo federated learning, where multiple organizations participate, the prediction accuracy of the global model is improved by increasing the training data when a larger number of organizations participate in the learning of the local model. Each organization protects the privacy of its own data by using the training data only internally and disclosing and sharing the machine learning parameters. However, there is a possibility that the training data may be reconstructed from the machine learning parameters. This reconstruction can be avoided by using differential privacy. On the other hand, the prediction accuracy of the global model is reduced by using the differential privacy. The differential privacy of other organizations may reduce the number of participating organizations by decreasing the obtained revenue. Therefore, in this paper, we propose an incentive mechanism to maximize social surplus in cross-silo federated learning with differential privacy. The mechanism encourages active participation in cross-silo federated learning by transferring money between organizations. We evaluate the performance of the proposed method by simulation and show that each organization cooperates to maximize the social surplus while protecting privacy. We also examine whether partial participation of each organization in federated learning can further increase social surplus. |
| キーワード(和) | 連合学習 / 差分プライバシ / インセンティブメカニズム / 分散アルゴリズム |
| キーワード(英) | Federated learning / Differential privacy / Incentive mechanism / Distributed algorithm |
| 資料番号 | NS2022-101 |
| 発行日 | 2022-11-17 (NS) |
| 研究会情報 | |
| 研究会 | NS / ICM / CQ |
|---|---|
| 開催期間 | 2022/11/24(から2日開催) |
| 開催地（和） | 福岡大学文系センター棟 + オンライン開催 |
| 開催地（英） | Humanities and Social Sciences Center, Fukuoka Univ. + Online |
| テーマ（和） | ネットワーク品質，ネットワーク計測・管理，ネットワーク仮想化，ネットワークサービス，ブロックチェーン，セキュリティ，ネットワークインテリジェンス・AI，一般 |
| テーマ（英） | Network quality, Network measurement/management, Network virtualization, Network service, Blockchain, Security, Network intelligence/AI, etc. |
| 委員長氏名（和） | 大石 哲矢(NTT) / 野村 祐士(富士通) / 岡本 淳(NTT) |
| 委員長氏名（英） | Tetsuya Oishi(NTT) / Yuji Nomura(Fujitsu) / Jun Okamoto(NTT) |
| 副委員長氏名（和） | 三好 匠(芝浦工大) / 三好 優(NTT) / 高橋 英士(NEC) / 平栗 健史(日本工大) / 長谷川 剛(東北大) |
| 副委員長氏名（英） | Takumi Miyoshi(Shibaura Insti of Tech.) / Yu Miyoshi(NTT) / Eiji Takahashi(NEC) / Takefumi Hiraguri(Nippon Inst. of Tech.) / Gou Hasegawa(Tohoku Univ.) |
| 幹事氏名（和） | 池邉 隆(NTT) / 山口 実靖(工学院大) / 加藤 能史(NTT) / 内海 哲哉(富士通) / 恵木 則次(NTT) / 山本 寛(立命館大) |
| 幹事氏名（英） | Takashi Ikebe(NTT) / Saneyasu Yamaguchi(Kogakuin Univ.) / Yoshifumi Kato(NTT) / Tetsuya Uchiumi(Fujitsu) / Noritsugu Egi(NTT) / Hiroshi Yamamoto(Ritsumeikan Univ.) |
| 幹事補佐氏名（和） | 三原 孝太郎(NTT) / 山本 嶺(電通大) / 川嶋 喜美子(NTT) / 中村 遼(福岡大) / 中平 俊朗(NTT) / 塚常 健太(都立大) |
| 幹事補佐氏名（英） | Kotaro Mihara(NTT) / Ryo Yamamoto(Univ. of Electro-Comm) / Kimiko Kawashima(NTT) / Ryo Nakamura(Fukuoka Univ.) / Toshiro Nakahira(NTT) / Kenta Tsukatsune(Tokyo Metroplitan Univ.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Network Systems / Technical Committee on Information and Communication Management / Technical Committee on Communication Quality |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | クロスサイロ連合学習における差分プライバシを考慮したインセンティブメカニズムによる社会的余剰最大化 |
| サブタイトル（和） | |
| タイトル（英） | Social Surplus Maximization Using Incentive Mechanism for Cross-Silo Federated Learning with Differential Privacy |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 連合学習 / Federated learning |
| キーワード(2)（和/英） | 差分プライバシ / Differential privacy |
| キーワード(3)（和/英） | インセンティブメカニズム / Incentive mechanism |
| キーワード(4)（和/英） | 分散アルゴリズム / Distributed algorithm |
| 第 1 著者 氏名（和/英） | 宮越 奨太 / Shota Miyagoshi |
| 第 1 著者 所属（和/英） | 福井大学(略称：福井大) University of Fukui(略称：Univ. Fukui) |
| 第 2 著者 氏名（和/英） | 橘 拓至 / Takuji Tachibana |
| 第 2 著者 所属（和/英） | 福井大学(略称：福井大) University of Fukui(略称：Univ. Fukui) |
| 発表年月日 | 2022-11-24 |
| 資料番号 | NS2022-101 |
| 巻番号（vol） | vol.122 |
| 号番号（no） | NS-274 |
| ページ範囲 | pp.7-12(NS), |
| ページ数 | 6 |
| 発行日 | 2022-11-17 (NS) |