講演抄録/キーワード |
講演名 |
2007-05-21 10:25
不偏尤度逆伝播学習 ○関野正志・新田克己(東工大) NC2007-1 |
抄録 |
(和) |
ニューラルネットワークの学習法として誤差逆伝搬法が知られている.ニューラルネットワークを誤差逆伝搬法により学習すると,学習の後半において汎化誤差が悪化する過学習と呼ばれる減少が生じる.本稿では,経験尤度のバイアスを補正した不偏尤度(情報量規準)を目的関数とする勾配法により,ニューラルネットワークを学習する不偏尤度逆伝搬学習を提案する.提案手法は,明示的に汎化誤差の推定量を最小化するので,近似性能の大幅な向上が期待できる. |
(英) |
The error backpropagation is one of the popular methods for training an artificial neural network.When the error backpropagation is used for training an artificial neural network, overfitting occurs in the latterhalf of training. This paper proposes the unbiased likelihood backpropagation learning which is the gradient discent method with unbiased likelihood (information criterion) as a target function. The proposed method is expected better approximation performance because the method explicitly minimize an estimator of the generalization error. |
キーワード |
(和) |
不偏学習 / ニューラルネットワーク / 誤差逆伝播法 / 情報量基準 / 過学習 / / / |
(英) |
unbiased learning / neural network / backpropagation / information criterion / overfitting / / / |
文献情報 |
信学技報, vol. 107, no. 50, NC2007-1, pp. 1-6, 2007年5月. |
資料番号 |
NC2007-1 |
発行日 |
2007-05-14 (NC) |
ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
NC2007-1 |