講演名 2022-03-08
入力分布が低次元超平面上にあるときの縮小ランク回帰の実対数閾値
広瀬 青(東工大), 渡邊 澄夫(東工大),
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 縮小ランク回帰は, 入力から出力への線形回帰を制限されたランクの中で行う統計モデルである.そのベ イズ推測における汎化損失の挙動は実対数閾値を用いて表され, また実対数閾値の具体的な値も解明されている. し かしながら, その結果を導く際に, 入力の分布が縮退していないことが仮定されていた. 本研究では, 入力の分布 が低次元の超平面上にあるときの実対数域値を理論的に明らかにする. また数値実験の結果と一致していたことを述 べる.本研究の結果は,縮小ランク回帰にベイズ推測を適用する場合には,入力データが実質的な分布よりも冗長で あっても,汎化損失は増大しないことを示している.
抄録(英) A reduced rank regression is a statistical model which estimates a linear regression function from in- puts to outputs with a restricted rank. Its generalization performance in Bayesian inference is given by a real log canonical threshold (RLCT), and its concrete values were clarified by an algebro-geometric method. However, such results needed a condition that the distribution of inputs are not degenerate. In this paper, we prove that RLCT of a reduced rank regression when the distribution of inputs is on a low dimensional hyperplane. It is also reported that the theoretical results coincided with a numerical experiment. Our result shows that the generalization loss does not increase even if the inputs are redundant for essential distribution.
キーワード(和) 縮小ランク回帰 / 実対数閾値 / 汎化誤差
キーワード(英) Reduced Rank Regression / Real Log Canonical Threshold / Generalization Error
資料番号 IBISML2021-32
発行日 2022-03-01 (IBISML)

研究会情報
研究会 IBISML
開催期間 2022/3/8(から2日開催)
開催地(和) オンライン開催
開催地(英) Online
テーマ(和) 機械学習・一般
テーマ(英) Machine Learning, etc.
委員長氏名(和) 竹内 一郎(名工大)
委員長氏名(英) Ichiro Takeuchi(Nagoya Inst. of Tech.)
副委員長氏名(和) 杉山 将(東大)
副委員長氏名(英) Masashi Sugiyama(Univ. of Tokyo)
幹事氏名(和) 津田 宏治(東大) / 神嶌 敏弘(産総研)
幹事氏名(英) Koji Tsuda(Univ. of Tokyo) / Toshihiro Kamishima(AIST)
幹事補佐氏名(和) 岩田 具治(NTT) / 中村 篤祥(北大)
幹事補佐氏名(英) Tomoharu Iwata(NTT) / Atsuyoshi Nakamura(Hokkaido Univ.)

講演論文情報詳細
申込み研究会 Technical Committee on Infomation-Based Induction Sciences and Machine Learning
本文の言語 JPN
タイトル(和) 入力分布が低次元超平面上にあるときの縮小ランク回帰の実対数閾値
サブタイトル(和)
タイトル(英) Real log canonical threshold of reduced rank regression when inputs are on a low dimensional hyperplane
サブタイトル(和)
キーワード(1)(和/英) 縮小ランク回帰 / Reduced Rank Regression
キーワード(2)(和/英) 実対数閾値 / Real Log Canonical Threshold
キーワード(3)(和/英) 汎化誤差 / Generalization Error
第 1 著者 氏名(和/英) 広瀬 青 / Joe Hirose
第 1 著者 所属(和/英) 東京工業大学(略称:東工大)
Tokyo Institute of Technology(略称:Tokyo Tech)
第 2 著者 氏名(和/英) 渡邊 澄夫 / Sumio Watanabe
第 2 著者 所属(和/英) 東京工業大学(略称:東工大)
Tokyo Institute of Technology(略称:Tokyo Tech)
発表年月日 2022-03-08
資料番号 IBISML2021-32
巻番号(vol) vol.121
号番号(no) IBISML-419
ページ範囲 pp.15-18(IBISML),
ページ数 4
発行日 2022-03-01 (IBISML)