| 講演名 | 2023-12-21 部分的な確率ベイジアンニューラルネットワークの利益に関して 佐藤 滉起(広島大), アンドラーデ ダニエル(広島大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | ベイジアンニューラルネットワーク(BNN)は, 予測結果の不確実性に対処する一方で, 計算コストが高いという欠点がある. 事後分布の近似法の一つであるマルコフ連鎖モンテカルロ法（MCMC）は, ニューラルネットワークに含まれる多くのモデルパラメータをサンプリングする必要がある. これによって, 大規模なデータセットやモデルの計算効率が悪化し, 予測精度が低くなることが懸念される. そこで, 本研究では数多くの回帰データで実験を行った. モデルパラメータを一部固定することで学習効率を大きく向上させ, 結果的に通常のBNNのほぼ同等の精度を達成できることを確認した. |
| 抄録(英) | Bayesian neural networks (BNNs) can model uncertainty in the prediction results better than ordinary neural networks. However, accurate approximation of the posterior distribution via Markov chain Monte Carlo (MCMC) methods is computationally expensive due to the large number of parameters in the BNNs. Therefore, in this study, we evaluate the effectiveness of fixing some of the model parameters using the Maximum-A-Posterior (MAP) method, and only sample from a small set of remaining parameters. Extensive evaluation of various regression datasets confirm the effectiveness of the partial stochastic BNNs. |
| キーワード(和) | ニューラルネットワーク / ベイス推論 / マルコフ連鎖モンテカルロ法 / サンプリング効率 |
| キーワード(英) | Neural Networks / Bayesian Inference / Markov Chain Monte Carlo / sampling efficiency |
| 資料番号 | IBISML2023-36 |
| 発行日 | 2023-12-13 (IBISML) |
| 研究会情報 | |
| 研究会 | IBISML |
|---|---|
| 開催期間 | 2023/12/20(から2日開催) |
| 開催地（和） | 国立情報学研究所 |
| 開催地（英） | National Institute of Informatics |
| テーマ（和） | 機械学習一般 |
| テーマ（英） | machine learning, etc. |
| 委員長氏名（和） | 杉山 将(東大) |
| 委員長氏名（英） | Masashi Sugiyama(Univ. of Tokyo) |
| 副委員長氏名（和） | 神嶌 敏弘(産総研) / 津田 宏治(東大) |
| 副委員長氏名（英） | Toshihiro Kamishima(AIST) / Koji Tsuda(Univ. of Tokyo) |
| 幹事氏名（和） | 岩田 具治(NTT) / 中村 篤祥(北大) |
| 幹事氏名（英） | Tomoharu Iwata(NTT) / Atsuyoshi Nakamura(Hokkaido Univ.) |
| 幹事補佐氏名（和） | 河原 吉伸(阪大) / 鈴木 大慈(東大) |
| 幹事補佐氏名（英） | Yoshinobu Kawahara(Osaka Univ.) / Taiji Suzuki(Univ.of Tokyo) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Information-Based Induction Sciences and Machine Learning |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 部分的な確率ベイジアンニューラルネットワークの利益に関して |
| サブタイトル（和） | |
| タイトル（英） | On the benefits of Partial Stochastic Bayesian Neural Networks |
| サブタイトル（和） | |
| キーワード(1)（和/英） | ニューラルネットワーク / Neural Networks |
| キーワード(2)（和/英） | ベイス推論 / Bayesian Inference |
| キーワード(3)（和/英） | マルコフ連鎖モンテカルロ法 / Markov Chain Monte Carlo |
| キーワード(4)（和/英） | サンプリング効率 / sampling efficiency |
| 第 1 著者 氏名（和/英） | 佐藤 滉起 / Koki Sato |
| 第 1 著者 所属（和/英） | 広島大学(略称：広島大) Hiroshima University(略称：Hiroshima Univ.) |
| 第 2 著者 氏名（和/英） | アンドラーデ ダニエル / Daniel Andrade |
| 第 2 著者 所属（和/英） | 広島大学(略称：広島大) Hiroshima University(略称：Hiroshima Univ.) |
| 発表年月日 | 2023-12-21 |
| 資料番号 | IBISML2023-36 |
| 巻番号（vol） | vol.123 |
| 号番号（no） | IBISML-311 |
| ページ範囲 | pp.37-41(IBISML), |
| ページ数 | 5 |
| 発行日 | 2023-12-13 (IBISML) |