| 大会名称 |
|---|
| 2019年 情報科学技術フォーラム(FIT) |
| 大会コ－ド |
| F |
| 開催年 |
| 2019 |
| 発行日 |
| 2019-08-20 |
| セッション番号 |
| 3h |
| セッション名 |
| ニューロと生体情報科学 |
| 講演日 |
| 2019/09/03 |
| 講演場所(会議室等) |
| 一般教育棟 A棟 A43 |
| 講演番号 |
| G-008 |
| タイトル |
| ニューラルネットワークの分散学習における新たな合意重み決定法 |
| 著者名 |
| 原田和明, 右田剛史, 高橋規一, |
| キーワード |
| ニューラルネットワーク, 分散学習, 非凸最適化, 平均合意 |
| 抄録 |
| 近年，大規模な訓練データを複数のニューラルネットワークに分散的に学習させる方法が提案された．これは，各ニューラルネットワークが，自身に割り当てられた訓練データに対する損失を減少させる処理（局所最適化）と，自身のパラメータ値を近傍のニューラルネットワークのパラメータ値の重み付き平均に置き換える処理（合意更新）を交互に繰り返し行う方法であり，ニューラルネットワーク間の通信を表すグラフの構造や合意重み等に関するいくつかの条件の下で収束性が証明されている．本発表では，新たな合意重み決定法を提案し，上記の条件を満たさなくても合意が達成されることや，従来法よりも速く収束することを実験的に示す． |
| 本文pdf |
| PDF download (283.7KB) |