電子情報通信学会 研究会発表申込システム
講演論文 詳細
技報閲覧サービス
技報オンライン
‥‥ (ESS/通ソ/エレソ/ISS)
技報アーカイブ
‥‥ (エレソ/通ソ)
 トップに戻る 前のページに戻る   [Japanese] / [English] 

講演抄録/キーワード
講演名 2018-09-07 13:10
Fine-tuningに基づくショートテキストの自動分類
志村和也李 吉屹福本文代山梨大
技報オンラインサービス実施中
抄録 (和) 本研究では,階層構造を利用することにより,複数のラベルが付与されたショートテキストを高精度で分類する手法を提案する.カテゴリの階層構造において,下位のレベルは訓練データ量が少ないため,分類精度は低下する.本研究ではこの問題を解決するために,畳み込みニューラルネットワーク (CNN) の Fine-tuning を利用した.具体的には,階層構造の各レベルごとに CNN を用いて学習を行い,親レベルで得られたパラメータを子レベルを学習する際の CNN のパラメータの初期値として利用する.この処理を階層構造のトップレベルから最下層レベルまで繰り返し行うことにより, CNN のモデルを学習した.ベンチマークデータセットとして RCV1 データセットを用いた実験の結果,提案手法は CNN を用いた State-of-the-art の手法である XML-CNN と比べ,マイクロ平均 F 値で 1.2% ,マクロ平均 F 値で 7.4% の精度の向上が確認できた. 
(英) We propose an approach for multi-label categorization of short texts and explore the use of a hierarchical structure (HS) of categories. The lower the HS level, the worse the categorization performance because the number of training data per category in the lower level is much smaller than that in the upper level. We use a transfer learning technique by fine-tuning to learn the hierarchical structure of categories. We applied the Convolutional Neural Network (CNN) with fine-tuning. By transferring and finely tuning the trained parameters of CNN at each level of HS, we aim to improve the accuracy at the lower level of the HS. The results using a benchmark dataset show that the proposed method is competitive with the state-of-the-art CNN based multi-label categorization method XML-CNN, as the improvement of our method attained at 1.2% in Micro-F1 and 7.4% in Macro-F1 compared with XML-CNN.
キーワード (和) ショートテキスト分類 / マルチラベル分類 / 畳み込みニューラルネットワーク / Fine-tuning / / / /  
(英) short text categorization / multi-label categorization / convolutional neural network / fine-tuning / / / /  
文献情報 信学技報, vol. 118, no. 210, NLC2018-20, pp. 73-78, 2018年9月.
資料番号 NLC2018-20 
発行日 2018-08-30 (NLC) 
ISSN Print edition: ISSN 0913-5685  Online edition: ISSN 2432-6380

研究会情報
研究会 NLC IPSJ-DC  
開催期間 2018-09-06 - 2018-09-07 
開催地(和) 成蹊大学 
開催地(英) Seikei University 
テーマ(和) 第13回 テキストアナリティクス・シンポジウム 
テーマ(英) The Thirteenth Text Analytics Symposium 
講演論文情報の詳細
申込み研究会 NLC 
会議コード 2018-09-NLC-DC 
本文の言語 日本語 
タイトル(和) Fine-tuningに基づくショートテキストの自動分類 
サブタイトル(和)  
タイトル(英) Short text categorization with fine-tuning 
サブタイトル(英)  
キーワード(1)(和/英) ショートテキスト分類 / short text categorization  
キーワード(2)(和/英) マルチラベル分類 / multi-label categorization  
キーワード(3)(和/英) 畳み込みニューラルネットワーク / convolutional neural network  
キーワード(4)(和/英) Fine-tuning / fine-tuning  
キーワード(5)(和/英) /  
キーワード(6)(和/英) /  
キーワード(7)(和/英) /  
キーワード(8)(和/英) /  
第1著者 氏名(和/英/ヨミ) 志村 和也 / Kazuya Shimura / シムラ カズヤ
第1著者 所属(和/英) 山梨大学 (略称: 山梨大)
University of Yamanashi (略称: Univ of Yamanashi)
第2著者 氏名(和/英/ヨミ) 李 吉屹 / Jiyi Li / ジイ リ
第2著者 所属(和/英) 山梨大学 (略称: 山梨大)
University of Yamanashi (略称: Univ of Yamanashi)
第3著者 氏名(和/英/ヨミ) 福本 文代 / Fumiyo Fukumoto / フクモト フミヨ
第3著者 所属(和/英) 山梨大学 (略称: 山梨大)
University of Yamanashi (略称: Univ of Yamanashi)
第4著者 氏名(和/英/ヨミ) / /
第4著者 所属(和/英) (略称: )
(略称: )
第5著者 氏名(和/英/ヨミ) / /
第5著者 所属(和/英) (略称: )
(略称: )
第6著者 氏名(和/英/ヨミ) / /
第6著者 所属(和/英) (略称: )
(略称: )
第7著者 氏名(和/英/ヨミ) / /
第7著者 所属(和/英) (略称: )
(略称: )
第8著者 氏名(和/英/ヨミ) / /
第8著者 所属(和/英) (略称: )
(略称: )
第9著者 氏名(和/英/ヨミ) / /
第9著者 所属(和/英) (略称: )
(略称: )
第10著者 氏名(和/英/ヨミ) / /
第10著者 所属(和/英) (略称: )
(略称: )
第11著者 氏名(和/英/ヨミ) / /
第11著者 所属(和/英) (略称: )
(略称: )
第12著者 氏名(和/英/ヨミ) / /
第12著者 所属(和/英) (略称: )
(略称: )
第13著者 氏名(和/英/ヨミ) / /
第13著者 所属(和/英) (略称: )
(略称: )
第14著者 氏名(和/英/ヨミ) / /
第14著者 所属(和/英) (略称: )
(略称: )
第15著者 氏名(和/英/ヨミ) / /
第15著者 所属(和/英) (略称: )
(略称: )
第16著者 氏名(和/英/ヨミ) / /
第16著者 所属(和/英) (略称: )
(略称: )
第17著者 氏名(和/英/ヨミ) / /
第17著者 所属(和/英) (略称: )
(略称: )
第18著者 氏名(和/英/ヨミ) / /
第18著者 所属(和/英) (略称: )
(略称: )
第19著者 氏名(和/英/ヨミ) / /
第19著者 所属(和/英) (略称: )
(略称: )
第20著者 氏名(和/英/ヨミ) / /
第20著者 所属(和/英) (略称: )
(略称: )
講演者
発表日時 2018-09-07 13:10:00 
発表時間 25 
申込先研究会 NLC 
資料番号 IEICE-NLC2018-20 
巻番号(vol) IEICE-118 
号番号(no) no.210 
ページ範囲 pp.73-78 
ページ数 IEICE-6 
発行日 IEICE-NLC-2018-08-30 


[研究会発表申込システムのトップページに戻る]

[電子情報通信学会ホームページ]


IEICE / 電子情報通信学会