| 講演名 | 2015-07-13 ［招待講演］新たな情報量による情報理論の再定式化 植松 友彦(東工大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | HanとVerd'uは、情報スペクトルと呼ばれる情報量の尺度を用いることで、最も一般的な情報理論が統一的に展開できることを示した。その後、Rennerや著者のグループは、smoothエントロピーやsmooth R'enyiダイバージェンスによる情報理論の各種問題の再定式化について検討を行い、情報スペクトルの代わりにこれらの尺度を用いても最も一般的な情報理論の統一的な取り扱いができることを明らかにした。小文では、情報理論の各種問題のsmoothエントロピーやsmooth R'enyiダイバージェンスによる再定式化について述べると共に、情報理論の各種問題のこれらの尺度を用いた統一的な取り扱いについて解説する。更に、これらの情報量の尺度がなぜ本質的な役割を果たすのかについても考察している。すなわち、smooth最大エントロピーとsmooth最小エントロピーがそれぞれ固定長符号化問題やintrinsic randomness問題に関して本質的な操作的意味を有していること、ならびにsmooth最小R'enyiダイバージェンスとsmooth最大R'enyiダイバージェンスがそれぞれ通信路符号化問題やレート・歪み理論に関して本質的な操作的意味を有することを解説し、これらの尺度を用いることで符号化逆定理が容易に導けることを述べる。 |
| 抄録(英) | Han and Verd'u introduced a new information measure called asinformation spectrum, and developed the most general information theoryin terms of the information spectrum. Later, Renner and Wolf introduced another new information measure called as smooth entropy, and reformulated the source coding problem. Since then, some research groups have developed methods to deal with generalsources and channels by using the smooth entropy or the smooth R'enyi divergence instead of the information spectrum. This paper surveys some researches which reformulate variousproblems in information theory in terms of the smooth entropyor the smooth R'enyi divergence. We also clarify why these information measuresare essential in the studyof general sources and channels. Specifically, the smooth max-entropy and the smooth min-entropy have clear operational meanings in the fixed-length source coding problem and the intrinsic randomness problem, respectively. Further, the smooth min R'enyi divergence and the smooth max R'enyi divergence have their operational meanings in the channel coding problem and the rate-distortion theory, respectively. We also demonstrate that the converse coding theorems can be easilyderived by using these information measures. |
| キーワード(和) | smoothエントロピー / smooth Renyiダイバージェンス / 情報源符号化定理 / 通信路符号化定理 / レート・歪み理論 / 乱数生成 |
| キーワード(英) | smooth entropy / smooth Renyi divergence / source coding theorem / channel coding theorem / rate-distortion theory / random number generation |
| 資料番号 | IT2015-27 |
| 発行日 | 2015-07-06 (IT) |
| 研究会情報 | |
| 研究会 | IT |
|---|---|
| 開催期間 | 2015/7/13(から2日開催) |
| 開催地（和） | 東京工業大学 |
| 開催地（英） | Tokyo Institute of Technology |
| テーマ（和） | フレッシュマンセッション，一般 |
| テーマ（英） | freshman session, general |
| 委員長氏名（和） | 大濱 靖匡(電通大) |
| 委員長氏名（英） | Yasutada Oohama(Univ. of Electro-Comm.) |
| 副委員長氏名（和） | 和田山 正(名工大) |
| 副委員長氏名（英） | Tadashi Wadayama(Nagoya Inst. of Tech.) |
| 幹事氏名（和） | 岩本 貢(電通大) / 葛岡 成晃(和歌山大) |
| 幹事氏名（英） | Mitsugu Iwamoto(Univ. of Electro-Comm.) / Shigeaki Kuzuoka(Wakayama Univ.) |
| 幹事補佐氏名（和） | 日下 卓也(岡山大) |
| 幹事補佐氏名（英） | Takuya Kusaka(Okayama Univ.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Information Theory |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | ［招待講演］新たな情報量による情報理論の再定式化 |
| サブタイトル（和） | |
| タイトル（英） | [Invited Talk] Reformulation of Information Theory by New Information Measures |
| サブタイトル（和） | |
| キーワード(1)（和/英） | smoothエントロピー / smooth entropy |
| キーワード(2)（和/英） | smooth Renyiダイバージェンス / smooth Renyi divergence |
| キーワード(3)（和/英） | 情報源符号化定理 / source coding theorem |
| キーワード(4)（和/英） | 通信路符号化定理 / channel coding theorem |
| キーワード(5)（和/英） | レート・歪み理論 / rate-distortion theory |
| キーワード(6)（和/英） | 乱数生成 / random number generation |
| 第 1 著者 氏名（和/英） | 植松 友彦 / Tomohiko Uyematsu |
| 第 1 著者 所属（和/英） | 東京工業大学(略称：東工大) Tokyo Institute of Technology(略称：Tokyo Tech) |
| 発表年月日 | 2015-07-13 |
| 資料番号 | IT2015-27 |
| 巻番号（vol） | vol.115 |
| 号番号（no） | IT-137 |
| ページ範囲 | pp.59-66(IT), |
| ページ数 | 8 |
| 発行日 | 2015-07-06 (IT) |