講演抄録/キーワード |
講演名 |
2010-06-14 09:35
[招待講演]統計的機械学習の新展開 ~ 確率密度比に基づくアプローチ ~ ○杉山 将(東工大) IBISML2010-1 |
抄録 |
(和) |
統計的機械学習のほとんどの課題は,データの生成確率分布の推定を介して解
決することができる.しかし,確率分布の推定は機械学習における最も困難な
問題の一つとして知られているため,現実的には分布推定を回避しながら対象
となる課題を解決することが望ましい.例えば,パターン認識法の一つである
サポートベクトルマシンでは,データの生成確率を推定することなくパターン
認識に最低限必要な決定境界を直接学習することにより,高い汎化性能の獲得
を可能にした.
これまで,分布推定を介さない学習アルゴリズムの開発は,個々の機械学習課
題に対して個別に行われてきた.それに対し我々は,様々な機械学習課題に対
して統一的に分布推定を避けることのできる汎用的な枠組みを提案してきた.
この枠組みでは,確率分布でなく確率密度関数の比を考え,分子と分母の確率
密度関数を推定することなくそれらの比を直接推定する.密度比推定によって,
重点サンプリング(共変量シフト適応,ドメイン適応,マルチタスク学習),
ダイバージェンス推定(二標本検定,外れ値検出,変化点検知),相互情報量
推定(独立性検定,独立成分分析,特徴選択,十分次元削減,因果推定),条
件付き確率推定(確率的パターン認識,条件付き密度推定)など様々な機械学
習課題が解決できることを示してきた.従って,我々の開発してきた密度比直
接推定手法を用いることにより,上記の機械学習課題群を一挙に,かつ,高精
度に解決できるようになった.
本講演では,この枠組の全体像を紹介すると共に,最新の研究成果についても
述べる. |
(英) |
Recently, we developed a new ML framework that allows us to
systematically avoid density estimation. The key idea is to directly
estimate the ratio of density functions, not densities themselves.
Our framework includes various ML tasks such as importance sampling
(e.g., covariate shift adaptation, transfer learning, multitask
learning), divergence estimation (e.g., two-sample test, outlier
detection, change detection in time-series), mutual information
estimation (e.g., independence test, independent component analysis,
feature selection, sufficient dimension reduction, causal inference),
and conditional probability estimation (e.g., probabilistic
classification, conditional density estimation).
In this talk, I introduce the density ratio framework, review methods
of density ratio estimation, and show various real-world applications
including brain-computer interface, speech recognition, image
recognition, and robot control. |
キーワード |
(和) |
確率密度比 / 重点サンプリング / ダイバージェンス推定 / 相互情報量推定 / 条件付き確率推定 / / / |
(英) |
probability density ratios / importance sampling / divergence estimation / mutual information estimation / conditional probability estimation / / / |
文献情報 |
信学技報, vol. 110, no. 76, IBISML2010-1, pp. 1-1, 2010年6月. |
資料番号 |
IBISML2010-1 |
発行日 |
2010-06-07 (IBISML) |
ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
IBISML2010-1 |
研究会情報 |
研究会 |
IBISML |
開催期間 |
2010-06-14 - 2010-06-15 |
開催地(和) |
東大武田ホール |
開催地(英) |
Takeda Hall, Univ. Tokyo |
テーマ(和) |
機械学習とその応用 |
テーマ(英) |
Machine learning, etc. |
講演論文情報の詳細 |
申込み研究会 |
IBISML |
会議コード |
2010-06-IBISML |
本文の言語 |
日本語 |
タイトル(和) |
統計的機械学習の新展開 |
サブタイトル(和) |
確率密度比に基づくアプローチ |
タイトル(英) |
Advances in Statistical Machine Learning |
サブタイトル(英) |
An Approach based on Probability Density Ratios |
キーワード(1)(和/英) |
確率密度比 / probability density ratios |
キーワード(2)(和/英) |
重点サンプリング / importance sampling |
キーワード(3)(和/英) |
ダイバージェンス推定 / divergence estimation |
キーワード(4)(和/英) |
相互情報量推定 / mutual information estimation |
キーワード(5)(和/英) |
条件付き確率推定 / conditional probability estimation |
キーワード(6)(和/英) |
/ |
キーワード(7)(和/英) |
/ |
キーワード(8)(和/英) |
/ |
第1著者 氏名(和/英/ヨミ) |
杉山 将 / Masashi Sugiyama / スギヤマ マサシ |
第1著者 所属(和/英) |
東京工業大学 (略称: 東工大)
Tokyo Institute of Technology (略称: Tokyo Inst. of Tech.) |
第2著者 氏名(和/英/ヨミ) |
/ / |
第2著者 所属(和/英) |
(略称: )
(略称: ) |
第3著者 氏名(和/英/ヨミ) |
/ / |
第3著者 所属(和/英) |
(略称: )
(略称: ) |
第4著者 氏名(和/英/ヨミ) |
/ / |
第4著者 所属(和/英) |
(略称: )
(略称: ) |
第5著者 氏名(和/英/ヨミ) |
/ / |
第5著者 所属(和/英) |
(略称: )
(略称: ) |
第6著者 氏名(和/英/ヨミ) |
/ / |
第6著者 所属(和/英) |
(略称: )
(略称: ) |
第7著者 氏名(和/英/ヨミ) |
/ / |
第7著者 所属(和/英) |
(略称: )
(略称: ) |
第8著者 氏名(和/英/ヨミ) |
/ / |
第8著者 所属(和/英) |
(略称: )
(略称: ) |
第9著者 氏名(和/英/ヨミ) |
/ / |
第9著者 所属(和/英) |
(略称: )
(略称: ) |
第10著者 氏名(和/英/ヨミ) |
/ / |
第10著者 所属(和/英) |
(略称: )
(略称: ) |
第11著者 氏名(和/英/ヨミ) |
/ / |
第11著者 所属(和/英) |
(略称: )
(略称: ) |
第12著者 氏名(和/英/ヨミ) |
/ / |
第12著者 所属(和/英) |
(略称: )
(略称: ) |
第13著者 氏名(和/英/ヨミ) |
/ / |
第13著者 所属(和/英) |
(略称: )
(略称: ) |
第14著者 氏名(和/英/ヨミ) |
/ / |
第14著者 所属(和/英) |
(略称: )
(略称: ) |
第15著者 氏名(和/英/ヨミ) |
/ / |
第15著者 所属(和/英) |
(略称: )
(略称: ) |
第16著者 氏名(和/英/ヨミ) |
/ / |
第16著者 所属(和/英) |
(略称: )
(略称: ) |
第17著者 氏名(和/英/ヨミ) |
/ / |
第17著者 所属(和/英) |
(略称: )
(略称: ) |
第18著者 氏名(和/英/ヨミ) |
/ / |
第18著者 所属(和/英) |
(略称: )
(略称: ) |
第19著者 氏名(和/英/ヨミ) |
/ / |
第19著者 所属(和/英) |
(略称: )
(略称: ) |
第20著者 氏名(和/英/ヨミ) |
/ / |
第20著者 所属(和/英) |
(略称: )
(略称: ) |
講演者 |
第1著者 |
発表日時 |
2010-06-14 09:35:00 |
発表時間 |
50分 |
申込先研究会 |
IBISML |
資料番号 |
IBISML2010-1 |
巻番号(vol) |
vol.110 |
号番号(no) |
no.76 |
ページ範囲 |
p.1 |
ページ数 |
1 |
発行日 |
2010-06-07 (IBISML) |
|