| 講演名 | 2022-06-27 モデルパラメータの重要度に基づくAIの知識忘却に関する研究 山下 智也(NTT), 山田 真徳(NTT), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | コンピュータ技術や Deep Learning 技術の進展により Deep Learning の精度は大きく向上した.そ の結果，Deep Learning の普及は進み様々な分野において成果を挙げるようになった.しかし，Deep Learning の 普及が進むとともに，Deep Learning を介した個人情報漏洩やプライバシー侵害に関する問題が生じると考えられ ている.本論文では，Deep Learning モデルが持つ知識を忘却させることによって，これらの問題の解決を目指 す.本論文では，Deep Learning モデルのモデルパラメータにノイズを乗せることによって所望のタスクに対する 知識を忘却させる手法を提案する.そして，実験によって提案手法が Deep Learning モデルの知識の忘却を実現 していることを確認する. |
| 抄録(英) | The accuracy of Deep Learning has been greatly improved by the progress of research in computer technology and Deep Learning techniques, and it has produced results in many fields. However, as Deep Learning becomes more widely used, problems related to privacy violation and data leakage are expected to arise. In this paper, we aim to solve these problems by making Deep Learning models forget their knowledge. We propose a method of forgetting knowledge about a desired task by adding noise to Deep Learning model parameters. Experimental results confirm that the proposed method achieves knowledge oblivion of Deep Learning models. |
| キーワード(和) | 深層学習 / 継続学習 / EWC / 破滅的忘却 / 個人情報保護 |
| キーワード(英) | Deep Learning / Continual Learning / EWC / Catastrophic Forgetting / Privacy Protection |
| 資料番号 | NC2022-3,IBISML2022-3 |
| 発行日 | 2022-06-20 (NC, IBISML) |
| 研究会情報 | |
| 研究会 | NC / IBISML / IPSJ-BIO / IPSJ-MPS |
|---|---|
| 開催期間 | 2022/6/27(から3日開催) |
| 開催地（和） | 琉球大学50周年記念館 |
| 開催地（英） | |
| テーマ（和） | 機械学習によるバイオデータマイニング、一般 |
| テーマ（英） | |
| 委員長氏名（和） | 山川 宏(東大) / 杉山 将(東大) |
| 委員長氏名（英） | Hiroshi Yamakawa(Univ of Tokyo) / Masashi Sugiyama(Univ. of Tokyo) |
| 副委員長氏名（和） | 田中 宏和(東京都市大学) / 神嶌 敏弘(産総研) / 津田 宏治(東大) |
| 副委員長氏名（英） | Hirokazu Tanaka(Tokyo City Univ.) / Toshihiro Kamishima(AIST) / Koji Tsuda(Univ. of Tokyo) |
| 幹事氏名（和） | 寺島 裕貴(NTT) / 西田 知史(NICT) / 岩田 具治(NTT) / 中村 篤祥(北大) |
| 幹事氏名（英） | Hiroki Terashima(NTT) / Satoshi Nishida(NICT) / Tomoharu Iwata(NTT) / Atsuyoshi Nakamura(Hokkaido Univ.) |
| 幹事補佐氏名（和） | 田和辻 可昌(早大) / 栗川 知己(関西医科大) / 河原 吉伸(阪大) / 鈴木 大慈(東工大) |
| 幹事補佐氏名（英） | Yoshimasa Tawatsuji(Waseda Univ.) / Tomoki Kurikawa(KMU) / Yoshinobu Kawahara(Osaka Univ.) / Taiji Suzuki(Tokyo Inst. of Tech.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Neurocomputing / Technical Committee on Infomation-Based Induction Sciences and Machine Learning / Special Interest Group on Bioinformatics and Genomics / Special Interest Group on Mathematical Modeling and Problem Solving |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | モデルパラメータの重要度に基づくAIの知識忘却に関する研究 |
| サブタイトル（和） | |
| タイトル（英） | AI knowledge forgetting based on the importance of model parameters |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 深層学習 / Deep Learning |
| キーワード(2)（和/英） | 継続学習 / Continual Learning |
| キーワード(3)（和/英） | EWC / EWC |
| キーワード(4)（和/英） | 破滅的忘却 / Catastrophic Forgetting |
| キーワード(5)（和/英） | 個人情報保護 / Privacy Protection |
| 第 1 著者 氏名（和/英） | 山下 智也 / Tomoya Yamashita |
| 第 1 著者 所属（和/英） | 日本電信電話(略称：NTT) NTT Social Informatics Laboratories(略称：NTT) |
| 第 2 著者 氏名（和/英） | 山田 真徳 / Masanori Yamada |
| 第 2 著者 所属（和/英） | 日本電信電話(略称：NTT) NTT Social Informatics Laboratories(略称：NTT) |
| 発表年月日 | 2022-06-27 |
| 資料番号 | NC2022-3,IBISML2022-3 |
| 巻番号（vol） | vol.122 |
| 号番号（no） | NC-89,IBISML-90 |
| ページ範囲 | pp.14-19(NC), pp.14-19(IBISML), |
| ページ数 | 6 |
| 発行日 | 2022-06-20 (NC, IBISML) |