| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2022-05-27 15:10 ［ポスター講演］A Transformer for Long Medical Documents ○Cherubin Mugisha・Incheon Paik（UoA）  SC2022-8 |
|
| 抄録 | （和） | Natural language processing models are advancing technology by extracting valuable information from different datasets. Biomedical texts are characterized by various challenges that require domain-specific models for effective biomedical text mining. Long sequences require large memory for a quadratic computation. With this work, we are introducing a transformer for long medical documents. We Trained this model with different biomedical datasets and it can handle a sequence length of up 4096 tokens. To build our model, we generated a Byte-level tokenization using the Byte-Pair Encoding inspired by RoBERTa, in addition to an attention mechanism that scales linearly with the sequence length. We fine-tuned our model and demonstrated competitive results on question answering tasks. |
| （英） | Natural language processing models are advancing technology by extracting valuable information from different datasets. Biomedical texts are characterized by various challenges that require domain-specific models for effective biomedical text mining. Long sequences require large memory for a quadratic computation. With this work, we are introducing a transformer for long medical documents. We Trained this model with different biomedical datasets and it can handle a sequence length of up 4096 tokens. To build our model, we generated a Byte-level tokenization using the Byte-Pair Encoding inspired by RoBERTa, in addition to an attention mechanism that scales linearly with the sequence length. We fine-tuned our model and demonstrated competitive results on question answering tasks. |
|
| キーワード | （和） | Transformer / Medical text / Tokenization / MIMIC / / / / |
| （英） | Transformer / Medical text / Tokenization / MIMIC / / / / | |
| 文献情報 | 信学技報, vol. 122, no. 50, SC2022-8, pp. 43-53, 2022年5月. | |
| 資料番号 | SC2022-8 | |
| 発行日 | 2022-05-20 (SC) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | SC2022-8 |
|
| 研究会情報 | |
| 研究会 | SC |
| 開催期間 | 2022-05-27 - 2022-05-27 |
| 開催地（和） | オンライン開催 |
| 開催地（英） | Online |
| テーマ（和） | サービス化するAI技術とDX, 一般 |
| テーマ（英） | AI Service and Digital Transformation, and general topics |
| 講演論文情報の詳細 | |
| 申込み研究会 | SC |
| 会議コード | 2022-05-SC |
| 本文の言語 | 英語 |
| タイトル（和） | |
| サブタイトル（和） | |
| タイトル（英） | A Transformer for Long Medical Documents |
| サブタイトル（英） | |
| キーワード(1)（和/英） | Transformer / Transformer |
| キーワード(2)（和/英） | Medical text / Medical text |
| キーワード(3)（和/英） | Tokenization / Tokenization |
| キーワード(4)（和/英） | MIMIC / MIMIC |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | Cherubin Mugisha / Cherubin Mugisha / |
| 第1著者 所属（和/英） | University of Aizu (略称： 会津大) University of Aizu (略称： UoA) |
| 第2著者 氏名（和/英/ヨミ） | Incheon Paik / Incheon Paik / |
| 第2著者 所属（和/英） | University of Aizu (略称： 会津大) University of Aizu (略称： UoA) |
| 第3著者 氏名（和/英/ヨミ） | / / |
| 第3著者 所属（和/英） | (略称： ) (略称： ) |
| 第4著者 氏名（和/英/ヨミ） | / / |
| 第4著者 所属（和/英） | (略称： ) (略称： ) |
| 第5著者 氏名（和/英/ヨミ） | / / |
| 第5著者 所属（和/英） | (略称： ) (略称： ) |
| 第6著者 氏名（和/英/ヨミ） | / / |
| 第6著者 所属（和/英） | (略称： ) (略称： ) |
| 第7著者 氏名（和/英/ヨミ） | / / |
| 第7著者 所属（和/英） | (略称： ) (略称： ) |
| 第8著者 氏名（和/英/ヨミ） | / / |
| 第8著者 所属（和/英） | (略称： ) (略称： ) |
| 第9著者 氏名（和/英/ヨミ） | / / |
| 第9著者 所属（和/英） | (略称： ) (略称： ) |
| 第10著者 氏名（和/英/ヨミ） | / / |
| 第10著者 所属（和/英） | (略称： ) (略称： ) |
| 第11著者 氏名（和/英/ヨミ） | / / |
| 第11著者 所属（和/英） | (略称： ) (略称： ) |
| 第12著者 氏名（和/英/ヨミ） | / / |
| 第12著者 所属（和/英） | (略称： ) (略称： ) |
| 第13著者 氏名（和/英/ヨミ） | / / |
| 第13著者 所属（和/英） | (略称： ) (略称： ) |
| 第14著者 氏名（和/英/ヨミ） | / / |
| 第14著者 所属（和/英） | (略称： ) (略称： ) |
| 第15著者 氏名（和/英/ヨミ） | / / |
| 第15著者 所属（和/英） | (略称： ) (略称： ) |
| 第16著者 氏名（和/英/ヨミ） | / / |
| 第16著者 所属（和/英） | (略称： ) (略称： ) |
| 第17著者 氏名（和/英/ヨミ） | / / |
| 第17著者 所属（和/英） | (略称： ) (略称： ) |
| 第18著者 氏名（和/英/ヨミ） | / / |
| 第18著者 所属（和/英） | (略称： ) (略称： ) |
| 講演者 | 第1著者 |
| 発表日時 | 2022-05-27 15:10:00 |
| 発表時間 | 3分 |
| 申込先研究会 | SC |
| 資料番号 | SC2022-8 |
| 巻番号（vol） | vol.122 |
| 号番号（no） | no.50 |
| ページ範囲 | pp.43-53 |
| ページ数 | 11 |
| 発行日 | 2022-05-20 (SC) |
[研究会発表申込システムのトップページに戻る]