お知らせ 研究会の開催と会場に参加される皆様へのお願い(2022年6月開催~)
電子情報通信学会 研究会発表申込システム
講演論文 詳細
技報閲覧サービス
[ログイン]
技報アーカイブ
 トップに戻る 前のページに戻る   [Japanese] / [English] 

講演抄録/キーワード
講演名 2016-11-17 14:00
離散分布の加法分解可能なスカラー汎関数におけるミニマックス最適推定量
福地一斗佐久間 淳筑波大IBISML2016-82
抄録 (和) 離散分布$P=(p_1,...,p_k)$において,単一の連続関数$phi$によって加法分解可能なスカラー汎関数$theta(P)=sum_{i=1}^kphi(p_i)$を推定する問題を取り扱う.この汎関数は$phi$の形によってShannonエントロピー,Renyiエントロピーなどの数多のエントロピーを含む値を表す.これらの推定は,機械学習において,decision-treeの学習や,特徴選択などの重要なコンポーネントとなっているため,加法分解可能な汎関数の推定をより正確に行うことによってこれらの性能が向上することが期待できる.これまでの研究において,$phi$の5階微分の大きさがパラメータ$alpha$で定義される上界をもつという仮定において,ミニマックスレートが$frac{k^2}{(nln n)^{2-2alpha}}+frac{k^{2alpha}}{n}$ような推定量を提案した.しかし,5階微分の仮定においてミニマックスレートを示したが,仮定が加法分解可能な汎関数の推定問題をどの程度網羅するかは明らかになっていない.本稿では,ミニマックスレートが定数より大きいかどうか解析することによって,加法分解可能なスカラー汎関数の推定問題において一致推定量が存在する条件を明らかにする.これにより,既存の推定量が要求する仮定が加法分解可能なスカラー汎関数の推定問題をどれだけカバーするか明らかにする. 
(英) We deal with a problem of estimating additively decomposable scalar functionals from a set of $n$ iid samples drawn from a discrete distribution $P=(p_1,...,p_k)$ of $k$ alphabets. The additively decomposable scalar functional of a single function $phi$ is formed as $theta(P)=sum_{i=1}^kphi(p_i)$, and by a choice of $phi$, it becomes entropy-like criteria including $f$-entropy, Shannon entropy, and R'enyi entropy. Estimation of these criteria is an important component for machine learning algorithms such as decision-tree learning and feature selection. More precise estimation of the functionals is thus expected to improve the performance of these algorithms. In our previous study, we introduced a minimax optimal estimator with rate $frac{k^2}{(nln n)^{2-2alpha}}+frac{k^{2alpha}}{n}$, where $alpha$ is a parameter of the bound on the fifth derivative of $phi$. However, the coverage of the assumption in the estimation problems of additively decomposable scalar functionals is not clear. In this paper, we reveal the conditions of $phi$ that the estimation problem of additively decomposable scalar functional of $phi$ has no consistent estimator. These conditions clarify the coverage of the assumption of the introduced minimax optimal estimator.
キーワード (和) 一致推定量 / ミニマックス最適性 / 汎関数推定 / 近似理論 / 代数的多項式近似 / / /  
(英) cosistent estimator / minimax optimality / functional estimation / approximation theory / algebraic polynomial approximation / / /  
文献情報 信学技報, vol. 116, no. 300, IBISML2016-82, pp. 259-265, 2016年11月.
資料番号 IBISML2016-82 
発行日 2016-11-09 (IBISML) 
ISSN Print edition: ISSN 0913-5685  Online edition: ISSN 2432-6380
著作権に
ついて
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034)
PDFダウンロード IBISML2016-82

研究会情報
研究会 IBISML  
開催期間 2016-11-16 - 2016-11-18 
開催地(和) 京都大学 
開催地(英) Kyoto Univ. 
テーマ(和) 情報論的学習理論ワークショップ(IBIS2016) 
テーマ(英) Information-Based Induction Science Workshop (IBIS2016) 
講演論文情報の詳細
申込み研究会 IBISML 
会議コード 2016-11-IBISML 
本文の言語 日本語 
タイトル(和) 離散分布の加法分解可能なスカラー汎関数におけるミニマックス最適推定量 
サブタイトル(和)  
タイトル(英) Minimax optimal estimator for additively decomposable scalar functionals of discrete distributions 
サブタイトル(英)  
キーワード(1)(和/英) 一致推定量 / cosistent estimator  
キーワード(2)(和/英) ミニマックス最適性 / minimax optimality  
キーワード(3)(和/英) 汎関数推定 / functional estimation  
キーワード(4)(和/英) 近似理論 / approximation theory  
キーワード(5)(和/英) 代数的多項式近似 / algebraic polynomial approximation  
キーワード(6)(和/英) /  
キーワード(7)(和/英) /  
キーワード(8)(和/英) /  
第1著者 氏名(和/英/ヨミ) 福地 一斗 / Kazuto Fukuchi / フクチ カズト
第1著者 所属(和/英) 筑波大学 (略称: 筑波大)
University of Tsukuba (略称: Univ. of Tsukuba)
第2著者 氏名(和/英/ヨミ) 佐久間 淳 / Jun Sakuma / サクマ ジュン
第2著者 所属(和/英) 筑波大学 (略称: 筑波大)
University of Tsukuba (略称: Univ. of Tsukuba)
第3著者 氏名(和/英/ヨミ) / /
第3著者 所属(和/英) (略称: )
(略称: )
第4著者 氏名(和/英/ヨミ) / /
第4著者 所属(和/英) (略称: )
(略称: )
第5著者 氏名(和/英/ヨミ) / /
第5著者 所属(和/英) (略称: )
(略称: )
第6著者 氏名(和/英/ヨミ) / /
第6著者 所属(和/英) (略称: )
(略称: )
第7著者 氏名(和/英/ヨミ) / /
第7著者 所属(和/英) (略称: )
(略称: )
第8著者 氏名(和/英/ヨミ) / /
第8著者 所属(和/英) (略称: )
(略称: )
第9著者 氏名(和/英/ヨミ) / /
第9著者 所属(和/英) (略称: )
(略称: )
第10著者 氏名(和/英/ヨミ) / /
第10著者 所属(和/英) (略称: )
(略称: )
第11著者 氏名(和/英/ヨミ) / /
第11著者 所属(和/英) (略称: )
(略称: )
第12著者 氏名(和/英/ヨミ) / /
第12著者 所属(和/英) (略称: )
(略称: )
第13著者 氏名(和/英/ヨミ) / /
第13著者 所属(和/英) (略称: )
(略称: )
第14著者 氏名(和/英/ヨミ) / /
第14著者 所属(和/英) (略称: )
(略称: )
第15著者 氏名(和/英/ヨミ) / /
第15著者 所属(和/英) (略称: )
(略称: )
第16著者 氏名(和/英/ヨミ) / /
第16著者 所属(和/英) (略称: )
(略称: )
第17著者 氏名(和/英/ヨミ) / /
第17著者 所属(和/英) (略称: )
(略称: )
第18著者 氏名(和/英/ヨミ) / /
第18著者 所属(和/英) (略称: )
(略称: )
第19著者 氏名(和/英/ヨミ) / /
第19著者 所属(和/英) (略称: )
(略称: )
第20著者 氏名(和/英/ヨミ) / /
第20著者 所属(和/英) (略称: )
(略称: )
講演者
発表日時 2016-11-17 14:00:00 
発表時間 180 
申込先研究会 IBISML 
資料番号 IEICE-IBISML2016-82 
巻番号(vol) IEICE-116 
号番号(no) no.300 
ページ範囲 pp.259-265 
ページ数 IEICE-7 
発行日 IEICE-IBISML-2016-11-09 


[研究会発表申込システムのトップページに戻る]

[電子情報通信学会ホームページ]


IEICE / 電子情報通信学会