お知らせ 研究会の開催と会場に参加される皆様へのお願い(2020年10月開催~)
電子情報通信学会 研究会発表申込システム
講演論文 詳細
技報閲覧サービス
[ログイン]
技報アーカイブ
 トップに戻る 前のページに戻る   [Japanese] / [English] 

講演抄録/キーワード
講演名 2020-03-11 10:10
Relative Sentence Embeddingsに基づく文集合の可視化
石塚治也ブリヂストン)・持橋大地統計数理研IBISML2019-42
抄録 (和) 文の可視化は,蓄積する言語データにどのような意味的まとまりが存在するのかという全体像を把握することができ,企業などの組織において重要である.学習済み単語ベクトルから計算されるSIF ベクトル (Arora et al., ICLR, 2017) は,文の固有情報を反映しているベクトルであり,その利用は有効なアプローチの一つになる.本稿では,SIF はベクトルから計算される文の新たなデータ表現Relative Sentence Embeddings(RSE) と,それに基づく可視化手法を提案する.RSE は,SIF ベクトルに混合ガウスモデルを適用し,各文のクラスター所属確率を対数変換する事で計算される.提案手法では,RSE をt-SNE で圧縮する事で可視化表現を推定する.RSE を用いた可視化は,SIF ベクトルを単純に圧縮する場合と比較して,可視化表現のクラスター分離性が高くなる事が,高次元のガウス分布の統計的性質から示される.また.実験結果からこの理論的性質が実データにおいても成立している事が示された. 
(英) Sentence visualization is important for a organization, such as company or government, since it facilitates to understand underlying semantics within accumulated text collection. SIF vector (Arora et al., ICLR, 2017) estimated from pre-trained word vectors is a sentence vector which reflects sentence-specific information, and leveraging this data representation is one of effective approaches for this task. In this paper, we propose Relative Sentence Embeddings (RSEs) which are a novel sentence representation computed from SIF vectors and a visualization method based on this representation. RSEs are logarithmic transformation of mixing rates estimated by applying Gaussian mixture models to a set of SIF vectors. Visual coordinates are obtained by dimension reduction over RSEs via t-SNE. Utilizing properties of high-dimensional Gaussian distribution, we prove that these coordinates have higher cluster separacity than the
ones based on naive dimension reduction over SIF vectors. Experimental result shows our theoretical result is held in a real world dataset.
キーワード (和) テキスト可視化 / Semantic Visualization / 事前学習済み単語ベクトル / 文埋め込み / / / /  
(英) Text Visualization / Semantic Visualization / pre-trained word vectors / Sentence Embeddings / / / /  
文献情報 信学技報, vol. 119, no. 476, IBISML2019-42, pp. 63-70, 2020年3月.
資料番号 IBISML2019-42 
発行日 2020-03-03 (IBISML) 
ISSN Print edition: ISSN 0913-5685  Online edition: ISSN 2432-6380
著作権に
ついて
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034)
PDFダウンロード IBISML2019-42

研究会情報
研究会 IBISML  
開催期間 2020-03-10 - 2020-03-11 
開催地(和) 京都大学 
開催地(英) Kyoto University 
テーマ(和) 機械学習一般 
テーマ(英) Machine learning, etc. 
講演論文情報の詳細
申込み研究会 IBISML 
会議コード 2020-03-IBISML 
本文の言語 日本語 
タイトル(和) Relative Sentence Embeddingsに基づく文集合の可視化 
サブタイトル(和)  
タイトル(英) Sentence Visualization Based on Relative Sentence Embeddings 
サブタイトル(英)  
キーワード(1)(和/英) テキスト可視化 / Text Visualization  
キーワード(2)(和/英) Semantic Visualization / Semantic Visualization  
キーワード(3)(和/英) 事前学習済み単語ベクトル / pre-trained word vectors  
キーワード(4)(和/英) 文埋め込み / Sentence Embeddings  
キーワード(5)(和/英) /  
キーワード(6)(和/英) /  
キーワード(7)(和/英) /  
キーワード(8)(和/英) /  
第1著者 氏名(和/英/ヨミ) 石塚 治也 / Haruya Ishizuka / イシヅカ ハルヤ
第1著者 所属(和/英) 株式会社ブリヂストン (略称: ブリヂストン)
Bridgeston Corporation (略称: Bridgestone Corp.)
第2著者 氏名(和/英/ヨミ) 持橋 大地 / Daichi Mochihashi / モチハシ ダイチ
第2著者 所属(和/英) 統計数理研究所 (略称: 統計数理研)
The Institute of Statistical Mathematics (略称: ISM)
第3著者 氏名(和/英/ヨミ) / /
第3著者 所属(和/英) (略称: )
(略称: )
第4著者 氏名(和/英/ヨミ) / /
第4著者 所属(和/英) (略称: )
(略称: )
第5著者 氏名(和/英/ヨミ) / /
第5著者 所属(和/英) (略称: )
(略称: )
第6著者 氏名(和/英/ヨミ) / /
第6著者 所属(和/英) (略称: )
(略称: )
第7著者 氏名(和/英/ヨミ) / /
第7著者 所属(和/英) (略称: )
(略称: )
第8著者 氏名(和/英/ヨミ) / /
第8著者 所属(和/英) (略称: )
(略称: )
第9著者 氏名(和/英/ヨミ) / /
第9著者 所属(和/英) (略称: )
(略称: )
第10著者 氏名(和/英/ヨミ) / /
第10著者 所属(和/英) (略称: )
(略称: )
第11著者 氏名(和/英/ヨミ) / /
第11著者 所属(和/英) (略称: )
(略称: )
第12著者 氏名(和/英/ヨミ) / /
第12著者 所属(和/英) (略称: )
(略称: )
第13著者 氏名(和/英/ヨミ) / /
第13著者 所属(和/英) (略称: )
(略称: )
第14著者 氏名(和/英/ヨミ) / /
第14著者 所属(和/英) (略称: )
(略称: )
第15著者 氏名(和/英/ヨミ) / /
第15著者 所属(和/英) (略称: )
(略称: )
第16著者 氏名(和/英/ヨミ) / /
第16著者 所属(和/英) (略称: )
(略称: )
第17著者 氏名(和/英/ヨミ) / /
第17著者 所属(和/英) (略称: )
(略称: )
第18著者 氏名(和/英/ヨミ) / /
第18著者 所属(和/英) (略称: )
(略称: )
第19著者 氏名(和/英/ヨミ) / /
第19著者 所属(和/英) (略称: )
(略称: )
第20著者 氏名(和/英/ヨミ) / /
第20著者 所属(和/英) (略称: )
(略称: )
講演者
発表日時 2020-03-11 10:10:00 
発表時間 25 
申込先研究会 IBISML 
資料番号 IEICE-IBISML2019-42 
巻番号(vol) IEICE-119 
号番号(no) no.476 
ページ範囲 pp.63-70 
ページ数 IEICE-8 
発行日 IEICE-IBISML-2020-03-03 


[研究会発表申込システムのトップページに戻る]

[電子情報通信学会ホームページ]


IEICE / 電子情報通信学会