| 講演名 | 2023-03-02 Vision Transformerの係数付き1bit化 佐藤 駿(東京理科大), 澤田 隼(東京理科大), 大村 英史(東京理科大), 桂田 浩一(東京理科大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 1bit化とはニューラルネットワークのモデルの数値表現を1bit化することで，大幅な計算速度の向上と省メモリ化を実現する最適化手法である．1bit化は画像処理で幅広く用いられる畳み込みニューラルネットワーク（CNN）を対象に盛んに研究されているものの，画像分類モデルとして近年優れた性能を示しているVision Transformer（ViT）を対象とするものは活発に検討されていない．そこで本研究ではViTを対象に1bit化を検討する．ViTは多層パーセプトロン（MLP）とMulti-Head Self Attention（MHSA）の繰り返しが主な構造となっている．本研究ではこの繰り返し構造において，1bit化の適用箇所や1bit化の手法の違いによってどのように精度が変化するかについて実験を行った．その結果，浮動小数点の係数を使った畳み込み層の1bit化手法がViTにおいても有効なことを確認した．さらにMLP部のみの1bit化，あるいはMHSA部のみの1bit化を行うことによって性能が大きく改善されることも明らかにした． |
| 抄録(英) | 1bit neural network optimization is an optimization technique that achieves a significant increase in computational speed and memory savings by converting the numerical representation of the model to 1bit. Although binarization has been actively studied on convolutional neural network (CNN) few studies have conducted on Vision Transformer (ViT) that has attracted attention as a new image classification model. In this report, we investigate effectiveness of binarization on ViT. The main components of ViT are multi-layer perceptron (MLP) and multi-head self-attention (MHSA), which are repeatedly appeared in the basic blocks of ViT. In the experiment, we examined how the performance of ViT changes according to the components where binarization is applied and the variations of binarization. As a result, we confirmed that binarization with floating-point scaling factor for the convolutional layer is effective. Experimental results also revealed that the performances are improved even if the binarization is applied only to the MLP or the MHSA component. |
| キーワード(和) | 畳み込みニューラルネットワーク / Vision Transformer / 最適化 / 1bit 化 |
| キーワード(英) | Convolutional Neural Network / Vision Transformer / Optimization / Binarization |
| 資料番号 | PRMU2022-83,IBISML2022-90 |
| 発行日 | 2023-02-23 (PRMU, IBISML) |
| 研究会情報 | |
| 研究会 | PRMU / IBISML / IPSJ-CVIM |
|---|---|
| 開催期間 | 2023/3/2(から2日開催) |
| 開催地（和） | はこだて未来大学 |
| 開催地（英） | Future University Hakodate |
| テーマ（和） | 異分野連携(PRMU)、AutoML (CVIM)、機械学習の理論と応用の広がり(IBISML) |
| テーマ（英） | |
| 委員長氏名（和） | 内田 誠一(九大) / 杉山 将(東大) |
| 委員長氏名（英） | Seiichi Uchida(Kyushu Univ.) / Masashi Sugiyama(Univ. of Tokyo) |
| 副委員長氏名（和） | 舩冨 卓哉(奈良先端大) / 安倍 満(デンソーアイティーラボラトリ) / 神嶌 敏弘(産総研) / 津田 宏治(東大) |
| 副委員長氏名（英） | Takuya Funatomi(NAIST) / Mitsuru Anpai(Denso IT Lab.) / Toshihiro Kamishima(AIST) / Koji Tsuda(Univ. of Tokyo) |
| 幹事氏名（和） | 山口 光太(サイバーエージェント) / 松井 勇佑(東大) / 岩田 具治(NTT) / 中村 篤祥(北大) |
| 幹事氏名（英） | Kouta Yamaguchi(CyberAgent) / Yusuke Matsui(Univ. of Tokyo) / Tomoharu Iwata(NTT) / Atsuyoshi Nakamura(Hokkaido Univ.) |
| 幹事補佐氏名（和） | 井上 中順(東工大) / 川西 康友(理研) / 河原 吉伸(阪大) / 鈴木 大慈(東工大) |
| 幹事補佐氏名（英） | Nakamasa Inoue(Tokyo Inst. of Tech.) / Yasutomo Kawanishi(Riken) / Yoshinobu Kawahara(Osaka Univ.) / Taiji Suzuki(Tokyo Inst. of Tech.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Pattern Recognition and Media Understanding / Technical Committee on Information-Based Induction Sciences and Machine Learning / Special Interest Group on Computer Vision and Image Media |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | Vision Transformerの係数付き1bit化 |
| サブタイトル（和） | |
| タイトル（英） | Binarization of Vision Transformer with Scaling Factors |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 畳み込みニューラルネットワーク / Convolutional Neural Network |
| キーワード(2)（和/英） | Vision Transformer / Vision Transformer |
| キーワード(3)（和/英） | 最適化 / Optimization |
| キーワード(4)（和/英） | 1bit 化 / Binarization |
| 第 1 著者 氏名（和/英） | 佐藤 駿 / Shun Sato |
| 第 1 著者 所属（和/英） | 東京理科大学(略称：東京理科大) Tokyo University of Science(略称：TUS) |
| 第 2 著者 氏名（和/英） | 澤田 隼 / Shun Sawada |
| 第 2 著者 所属（和/英） | 東京理科大学(略称：東京理科大) Tokyo University of Science(略称：TUS) |
| 第 3 著者 氏名（和/英） | 大村 英史 / Hidefumi Ohmura |
| 第 3 著者 所属（和/英） | 東京理科大学(略称：東京理科大) Tokyo University of Science(略称：TUS) |
| 第 4 著者 氏名（和/英） | 桂田 浩一 / Kouichi katsurada |
| 第 4 著者 所属（和/英） | 東京理科大学(略称：東京理科大) Tokyo University of Science(略称：TUS) |
| 発表年月日 | 2023-03-02 |
| 資料番号 | PRMU2022-83,IBISML2022-90 |
| 巻番号（vol） | vol.122 |
| 号番号（no） | PRMU-404,IBISML-405 |
| ページ範囲 | pp.134-139(PRMU), pp.134-139(IBISML), |
| ページ数 | 6 |
| 発行日 | 2023-02-23 (PRMU, IBISML) |