お知らせ 2023年度・2024年度 学生員 会費割引キャンペーン実施中です
お知らせ 技術研究報告と和文論文誌Cの同時投稿施策(掲載料1割引き)について
お知らせ 電子情報通信学会における研究会開催について
お知らせ NEW 参加費の返金について
電子情報通信学会 研究会発表申込システム
講演論文 詳細
技報閲覧サービス
[ログイン]
技報アーカイブ
 トップに戻る 前のページに戻る   [Japanese] / [English] 

講演抄録/キーワード
講演名 2021-09-16 13:00
Ensemble BERT-BiLSTM-CNN Model for Sequence Classification
Vuong Thi HongNII/SOKENDAI)・Takasu AtsuhiroNIIDE2021-12
抄録 (和) Ensemble methods use multiple learning algorithms to obtain better predictive performance. Currently, deep learning models with multilayer processing architecture are showed that the performance is better than the traditional classification models. Ensemble deep learning models combine the advantages of both ensemble learning and deep learning such that the final model has better performance. This paper presents a novel ensemble deep learning method, achieving robust and effective sequence classification facing sparse data. We use the BERT (Bidirectional Encoder Representation from Transformers) as the word embedding method. Then, we integrate the BiLSTM (Bidirectional Long Short-Term Memory) and CNN (Convolutional Neural Network) with an attention mechanism for sequence classification. We evaluate our ensemble models with two datasets with the different baseline methods. The first dataset is from IMDB and contains 50,000 movie reviews, labeled with two sentiment classes. The second dataset is the Toxic Comment Dataset with more than 150,000 comments for six classes. The experimental results show that our proposed method provides an accurate, reliable, and effective solution for sequence data classification. 
(英) Ensemble methods use multiple learning algorithms to obtain better predictive performance. Currently, deep learning models with multilayer processing architecture are showed that the performance is better than the traditional classification models. Ensemble deep learning models combine the advantages of both ensemble learning and deep learning such that the final model has better performance. This paper presents a novel ensemble deep learning method, achieving robust and effective sequence classification facing sparse data. We use the BERT (Bidirectional Encoder Representation from Transformers) as the word embedding method. Then, we integrate the BiLSTM (Bidirectional Long Short-Term Memory) and CNN (Convolutional Neural Network) with an attention mechanism for sequence classification. We evaluate our ensemble models with two datasets with the different baseline methods. The first dataset is from IMDB and contains 50,000 movie reviews, labeled with two sentiment classes. The second dataset is the Toxic Comment Dataset with more than 150,000 comments for six classes. The experimental results show that our proposed method provides an accurate, reliable, and effective solution for sequence data classification.
キーワード (和) Ensemble deep learning / Sequence classification / BERT / BiLSTM / CNN / / /  
(英) Ensemble deep learning / Sequence classification / BERT / BiLSTM / CNN / / /  
文献情報 信学技報, vol. 121, no. 176, DE2021-12, pp. 1-6, 2021年9月.
資料番号 DE2021-12 
発行日 2021-09-09 (DE) 
ISSN Online edition: ISSN 2432-6380
著作権に
ついて
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034)
PDFダウンロード DE2021-12

研究会情報
研究会 DE IPSJ-DBS IPSJ-IFAT  
開催期間 2021-09-16 - 2021-09-17 
開催地(和) オンライン開催 
開催地(英) Online 
テーマ(和) ビッグデータを対象とした管理・情報検索・知識獲得および一般 
テーマ(英) Management, information retrieval, knowledge acquisition and general for big data 
講演論文情報の詳細
申込み研究会 DE 
会議コード 2021-09-DE-DBS-IFAT 
本文の言語 英語 
タイトル(和)  
サブタイトル(和)  
タイトル(英) Ensemble BERT-BiLSTM-CNN Model for Sequence Classification 
サブタイトル(英)  
キーワード(1)(和/英) Ensemble deep learning / Ensemble deep learning  
キーワード(2)(和/英) Sequence classification / Sequence classification  
キーワード(3)(和/英) BERT / BERT  
キーワード(4)(和/英) BiLSTM / BiLSTM  
キーワード(5)(和/英) CNN / CNN  
キーワード(6)(和/英) /  
キーワード(7)(和/英) /  
キーワード(8)(和/英) /  
第1著者 氏名(和/英/ヨミ) Vuong Thi Hong / Vuong Thi Hong /
第1著者 所属(和/英) National Institute of Informatics/SOKENDAI (略称: NII/総研大)
National Institute of Informatics/SOKENDAI (略称: NII/SOKENDAI)
第2著者 氏名(和/英/ヨミ) Takasu Atsuhiro / Takasu Atsuhiro /
第2著者 所属(和/英) National Institute of Informatics (略称: NII)
National Institute of Informatics (略称: NII)
第3著者 氏名(和/英/ヨミ) / /
第3著者 所属(和/英) (略称: )
(略称: )
第4著者 氏名(和/英/ヨミ) / /
第4著者 所属(和/英) (略称: )
(略称: )
第5著者 氏名(和/英/ヨミ) / /
第5著者 所属(和/英) (略称: )
(略称: )
第6著者 氏名(和/英/ヨミ) / /
第6著者 所属(和/英) (略称: )
(略称: )
第7著者 氏名(和/英/ヨミ) / /
第7著者 所属(和/英) (略称: )
(略称: )
第8著者 氏名(和/英/ヨミ) / /
第8著者 所属(和/英) (略称: )
(略称: )
第9著者 氏名(和/英/ヨミ) / /
第9著者 所属(和/英) (略称: )
(略称: )
第10著者 氏名(和/英/ヨミ) / /
第10著者 所属(和/英) (略称: )
(略称: )
第11著者 氏名(和/英/ヨミ) / /
第11著者 所属(和/英) (略称: )
(略称: )
第12著者 氏名(和/英/ヨミ) / /
第12著者 所属(和/英) (略称: )
(略称: )
第13著者 氏名(和/英/ヨミ) / /
第13著者 所属(和/英) (略称: )
(略称: )
第14著者 氏名(和/英/ヨミ) / /
第14著者 所属(和/英) (略称: )
(略称: )
第15著者 氏名(和/英/ヨミ) / /
第15著者 所属(和/英) (略称: )
(略称: )
第16著者 氏名(和/英/ヨミ) / /
第16著者 所属(和/英) (略称: )
(略称: )
第17著者 氏名(和/英/ヨミ) / /
第17著者 所属(和/英) (略称: )
(略称: )
第18著者 氏名(和/英/ヨミ) / /
第18著者 所属(和/英) (略称: )
(略称: )
第19著者 氏名(和/英/ヨミ) / /
第19著者 所属(和/英) (略称: )
(略称: )
第20著者 氏名(和/英/ヨミ) / /
第20著者 所属(和/英) (略称: )
(略称: )
講演者 第1著者 
発表日時 2021-09-16 13:00:00 
発表時間 30分 
申込先研究会 DE 
資料番号 DE2021-12 
巻番号(vol) vol.121 
号番号(no) no.176 
ページ範囲 pp.1-6 
ページ数
発行日 2021-09-09 (DE) 


[研究会発表申込システムのトップページに戻る]

[電子情報通信学会ホームページ]


IEICE / 電子情報通信学会