| 講演名 | 2022-06-27 Evaluating and Enhancing Reliabilities of AI-Powered Tools 張 景鋒(RIKEN-AIP), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 標準学習（ST）により学習させたモデルを導入すると、自然なテストデータに対してはうまく機能する。しかし、これらのモデルは、敵対的攻撃によってアルゴリズム的に生成された敵対的なテストデータ（敵対的事例とも呼ばれる）を扱うことができない。敵対的攻撃とは、自然データに対して特別に設計された微小な摂動を加え、敵対的データに変換し、学習済みモデルを惑わせ、誤った予測をさせるアルゴリズムである。敵対的学習は、敵対的攻撃に対して学習済みモデルのロバストな精度を向上させることを目的としている。本発表では、敵対的学習を用いて、画像ノイズ除去やノンパラメトリック二標本検定などのツールの信頼性を評価・向上させる。 |
| 抄録(英) | When we deploy models trained by standard training (ST), they work well on natural test data. However, those models cannot handle adversarial test data (also known as adversarial examples) that are algorithmically generated by adversarial attacks. An adversarial attack is an algorithm which applies specially designed tiny perturbations on natural data to transform them into adversarial data, in order to mislead a trained model and let it give wrong predictions. Adversarial training (AT) aims at improving the robust accuracy of trained models against adversarial attacks. In this presentation, we leverage the techniques of AT to evaluate/enhance the reliabilities of some AI tools, such as image denoiser and non-parametric two-sample tests. |
| キーワード(和) | 敵対的学習 |
| キーワード(英) | Adversarial robustness |
| 資料番号 | NC2022-4,IBISML2022-4 |
| 発行日 | 2022-06-20 (NC, IBISML) |
| 研究会情報 | |
| 研究会 | NC / IBISML / IPSJ-BIO / IPSJ-MPS |
|---|---|
| 開催期間 | 2022/6/27(から3日開催) |
| 開催地（和） | 琉球大学50周年記念館 |
| 開催地（英） | |
| テーマ（和） | 機械学習によるバイオデータマイニング、一般 |
| テーマ（英） | |
| 委員長氏名（和） | 山川 宏(東大) / 杉山 将(東大) |
| 委員長氏名（英） | Hiroshi Yamakawa(Univ of Tokyo) / Masashi Sugiyama(Univ. of Tokyo) |
| 副委員長氏名（和） | 田中 宏和(東京都市大学) / 神嶌 敏弘(産総研) / 津田 宏治(東大) |
| 副委員長氏名（英） | Hirokazu Tanaka(Tokyo City Univ.) / Toshihiro Kamishima(AIST) / Koji Tsuda(Univ. of Tokyo) |
| 幹事氏名（和） | 寺島 裕貴(NTT) / 西田 知史(NICT) / 岩田 具治(NTT) / 中村 篤祥(北大) |
| 幹事氏名（英） | Hiroki Terashima(NTT) / Satoshi Nishida(NICT) / Tomoharu Iwata(NTT) / Atsuyoshi Nakamura(Hokkaido Univ.) |
| 幹事補佐氏名（和） | 田和辻 可昌(早大) / 栗川 知己(関西医科大) / 河原 吉伸(阪大) / 鈴木 大慈(東工大) |
| 幹事補佐氏名（英） | Yoshimasa Tawatsuji(Waseda Univ.) / Tomoki Kurikawa(KMU) / Yoshinobu Kawahara(Osaka Univ.) / Taiji Suzuki(Tokyo Inst. of Tech.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Neurocomputing / Technical Committee on Infomation-Based Induction Sciences and Machine Learning / Special Interest Group on Bioinformatics and Genomics / Special Interest Group on Mathematical Modeling and Problem Solving |
|---|---|
| 本文の言語 | ENG |
| タイトル（和） | |
| サブタイトル（和） | |
| タイトル（英） | Evaluating and Enhancing Reliabilities of AI-Powered Tools |
| サブタイトル（和） | Adversarial Robustness |
| キーワード(1)（和/英） | 敵対的学習 / Adversarial robustness |
| 第 1 著者 氏名（和/英） | 張 景鋒 / Jingfeng Zhang |
| 第 1 著者 所属（和/英） | RIKEN Center for Advanced Intelligence Project(略称：RIKEN-AIP) RIKEN Center for Advanced Intelligence Project(略称：RIKEN-AIP) |
| 発表年月日 | 2022-06-27 |
| 資料番号 | NC2022-4,IBISML2022-4 |
| 巻番号（vol） | vol.122 |
| 号番号（no） | NC-89,IBISML-90 |
| ページ範囲 | pp.20-46(NC), pp.20-46(IBISML), |
| ページ数 | 27 |
| 発行日 | 2022-06-20 (NC, IBISML) |