講演名 2007-03-14
Pade近似による学習理論のゼータ関数の極の推定
入口 亮介, 渡辺 澄夫,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) ニューラルネットワーク、混合正規分布、ベイズネットワーク、隠れマルコフモデル、ボルツマンマシン等の学習モデルは特異モデルと呼ばれ、パターン認識、時系列予測、システム制御等の様々な実問題に応用されている。しかしながらこれらの学習モデルは、階層的な構造や対称性に起因する特異点を持つため、最尤推定量が漸近正規性を持たない。そのため、従来の統計的正則モデルの漸近理論を適用することができず、理論的に最適なモデル選択や設計を行うためには代数幾何学的手法を用いた解析が必要となる。学習モデルの代数幾何学的な解析には、ブローアップによって学習モデルのゼータ関数の極を求める必要があるが、複雑なモデルになると困難である。本論文では、数値計算によりゼータ関数の極を求める新たな手法を提案する。
抄録(英) Learning machines such as neural networks, Gaussian mixtures, Bayes networks, hidden Markov models, and Boltzmann machines are called singular learning machines, which have been applied to many real problems such as pattern recognition, time-series prediction, and system control. However, these learning machines have singular points which are attributable to their hierarchical structures or symmetry property. Hence, the maximum likelihood estimators do not have asymptotic normality, and conventional asymptotic theory for statistical regular models can not be applied. Therefore, theoretical optimum model selections or designs involve algebraic geometrical analysis. The algebraic geometrical analysis requires blowing up, which is to obtain maximum poles of zeta functions in learning theory, however, it is hard for complex learning machines. In this paper, a new method which obtains the maximum poles of zeta functions in learning theory by numerical computations is proposed.
キーワード(和) 特異モデル / ベイズ学習 / 学習係数 / ゼータ関数 / Pade近似
キーワード(英) Singular Learning Machine / Beyes Learning / Learning Coefficient / Zeta Function / Fade Approximation
資料番号 NC2006-135
発行日

研究会情報
研究会 NC
開催期間 2007/3/7(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Neurocomputing (NC)
本文の言語 JPN
タイトル(和) Pade近似による学習理論のゼータ関数の極の推定
サブタイトル(和)
タイトル(英) Estimation of poles of zeta function in learning theory using pade approximation
サブタイトル(和)
キーワード(1)(和/英) 特異モデル / Singular Learning Machine
キーワード(2)(和/英) ベイズ学習 / Beyes Learning
キーワード(3)(和/英) 学習係数 / Learning Coefficient
キーワード(4)(和/英) ゼータ関数 / Zeta Function
キーワード(5)(和/英) Pade近似 / Fade Approximation
第 1 著者 氏名(和/英) 入口 亮介 / Ryosuke IRIGUCHI
第 1 著者 所属(和/英) 東京工業大学総合理工学研究科知能システム科学専攻
Department of Computational Intelligence and Systems Science, Tokyo Institute of Technology
第 2 著者 氏名(和/英) 渡辺 澄夫 / Sumio WATANABE
第 2 著者 所属(和/英) 東京工業大学精密工学研究所
Precision and intelligence Laboratory, Tokyo Institute of Technology
発表年月日 2007-03-14
資料番号 NC2006-135
巻番号(vol) vol.106
号番号(no) 588
ページ範囲 pp.-
ページ数 6
発行日