| 講演名 | 2023-03-23 Intel Xeon及び富士通A64FX上でのビット削減版準同型暗号ライブラリの評価 西 将輝(早大), 宍戸 哲平(早大), 李 欣怡(早大), 木村 啓二(早大), 佐野 健太郎(理研), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 深層学習が様々な場面で利用されるようになり，それと共に学習データや入力データ，推論結果，さらには学習モデルの保護が問題となりつつある．そのため，データを暗号化したまま演算処理できる準同型暗号による深層学習が注目されている．しかしながら，準同型暗号による演算コストは高く，これまでに, 並列化やハードウェアアクセラレータの利用といった様々な高速化手法が提案されている．一方筆者等は，深層学習の推論処理において多くのビット数が必要としないことに注目し, ビット削減版準同型暗号を利用した深層学習推論を提案してきた．本稿ではまず，ビット削減版の深層学習処理を準同型暗号ライブラリ SEAL と SEAL を用いた深層学習フレームワーク HE-Transformer に実装し，Intel Xeon プロセッサ上で評価した．さらに，富士通 A64FX 上でビット削減版準同型暗号を実装し評価を行なった．評価の結果，CryptoNets を用いた MNIST データセットの分類においてオリジナルのnGraph-HE2 に対し Intel Xeon 上で最大で 9.37 倍の速度向上が得られた．また，富士通 A64FX 上で行列積を評価した結果，Intel Xeon W-2145 と比較して，最大 1.08 倍の速度向上が得られた． |
| 抄録(英) | As deep learning is used in various applications, the protection of training data, input data, inference results, and training models is becoming an issue. Therefore, deep learning with homomorphic encryption, which can perform operations while keeping the data encrypted, has been attracting attention. However, the computational cost of homomorphic encryption is high, and various speed-up methods such as parallelization and use of hardware accelerators have been proposed. On the other hand, the authors have focused on the fact that deep learning inference does not require a large number of bits, and have proposed a deep learning inference method using a bit-reduced version of homomorphic encryption. In this paper, we first implemented the bit-reduced deep learning process on the homomorphic encryption library SEAL and the deep learning framework HE-Transformer, which uses SEAL, and evaluated them on an Intel Xeon processor. In addition, we implemented and evaluated a bit-reduced version of the homomorphic encryption on a Fujitsu A64FX. As a result of the evaluation, we achieved a maximum speedup of 9.37 times on the Intel Xeon processor compared to the original nGraph-HE2 in the classification of MNIST datasets using CryptoNets. The evaluation of matrix products on Fujitsu A64FX showed a speedup of up to 1.08x compared to Intel Xeon W-2145. |
| キーワード(和) | 準同型暗号 / 深層学習 / SIMD / 並列化 / A64FX |
| キーワード(英) | Homomorphic Encryption / Deep Learning / SIMD / Parallelization / A64FX |
| 資料番号 | CPSY2022-38,DC2022-97 |
| 発行日 | 2023-03-16 (CPSY, DC) |
| 研究会情報 | |
| 研究会 | DC / CPSY / IPSJ-SLDM / IPSJ-EMB / IPSJ-ARC |
|---|---|
| 開催期間 | 2023/3/23(から3日開催) |
| 開催地（和） | 天城町防災センター（徳之島） |
| 開催地（英） | Amagi Town Disaster Prevention Center (Tokunoshima) |
| テーマ（和） | 組込み技術とネットワークに関するワークショップ ETNET2023 |
| テーマ（英） | |
| 委員長氏名（和） | 土屋 達弘(阪大) / 鯉渕 道紘(NII) / 越智 裕之(立命館大) / / 津邑 公暁(名工大) |
| 委員長氏名（英） | Tatsuhiro Tsuchiya(Osaka Univ.) / Michihiro Koibuchi(NII) / Hiroyuki Ochi(Ritsumeikan Univ.) / / Hiroshi Inoue(Nagoya Institute of Technology) |
| 副委員長氏名（和） | 細川 利典(日大) / 中島 耕太(富士通研) / 津邑 公暁(名工大) |
| 副委員長氏名（英） | Toshinori Hosokawa(Nihon Univ.) / Kota Nakajima(Fujitsu Lab.) / Tomoaki Tsumura(Nagoya Inst. of Tech.) |
| 幹事氏名（和） | 新井 雅之(日大) / 難波 一輝(千葉大) / 井口 寧(北陸先端大) / 小川 周吾(日立) / 川村 一志(東工大) / 今川 隆司(明大) / 細田 浩希(ソニーセミコンダクタソリューションズ) / 田中 勇気(日立) / / 今村 智史(富士通) / 谷本 輝夫(九大) / 新田 高庸(会津大) / 八巻 隼人(電通大) |
| 幹事氏名（英） | Masayuki Arai(Nihon Univ.) / Kazuteru Namba(Chiba Univ.) / Yasushi Inoguchi(JAIST) / Shugo Ogawa(Hitachi) / Kazushi Kawamura(Tokyo Inst. of Tech.) / Takashi Imagawa(Meiji Univ.) / Hiroki Hosoda(Sony Semiconductor Solutions) / Yuki Tanaka(HITACHI) / / Satoshi Imamura(Fujitsu) / Teruo Tanimoto(Kyushu Univ.) / Koyo Nitta(Univ. of Aizu) / Hayato Yamaki(Univ. of Electro-Communications) |
| 幹事補佐氏名（和） | / 小林 諒平(筑波大) / 宮島 敬明(明大) |
| 幹事補佐氏名（英） | / Ryohei Kobayashi(Tsukuba Univ.) / Takaaki Miyajima(Meiji Univ.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Dependable Computing / Technical Committee on Computer Systems / Special Interest Group on System and LSI Design Methodology / Special Interest Group on Embedded Systems / Special Interest Group on System Architecture |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | Intel Xeon及び富士通A64FX上でのビット削減版準同型暗号ライブラリの評価 |
| サブタイトル（和） | |
| タイトル（英） | Evaluation of Bit-Reduced Homomorphic Encryption Library on Intel Xeon and Fujitsu A64FX |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 準同型暗号 / Homomorphic Encryption |
| キーワード(2)（和/英） | 深層学習 / Deep Learning |
| キーワード(3)（和/英） | SIMD / SIMD |
| キーワード(4)（和/英） | 並列化 / Parallelization |
| キーワード(5)（和/英） | A64FX / A64FX |
| 第 1 著者 氏名（和/英） | 西 将輝 / Masaki Nishi |
| 第 1 著者 所属（和/英） | 早稲田大学(略称：早大) Waseda University(略称：Waseda Univ.) |
| 第 2 著者 氏名（和/英） | 宍戸 哲平 / Teppei Shishido |
| 第 2 著者 所属（和/英） | 早稲田大学(略称：早大) Waseda University(略称：Waseda Univ.) |
| 第 3 著者 氏名（和/英） | 李 欣怡 / Xinyi Li |
| 第 3 著者 所属（和/英） | 早稲田大学(略称：早大) Waseda University(略称：Waseda Univ.) |
| 第 4 著者 氏名（和/英） | 木村 啓二 / Keiji Kimura |
| 第 4 著者 所属（和/英） | 早稲田大学(略称：早大) Waseda University(略称：Waseda Univ.) |
| 第 5 著者 氏名（和/英） | 佐野 健太郎 / Kentaro Sano |
| 第 5 著者 所属（和/英） | 理化学研究所(略称：理研) Center for Computational Science(略称：RIKEN) |
| 発表年月日 | 2023-03-23 |
| 資料番号 | CPSY2022-38,DC2022-97 |
| 巻番号（vol） | vol.122 |
| 号番号（no） | CPSY-451,DC-452 |
| ページ範囲 | pp.25-30(CPSY), pp.25-30(DC), |
| ページ数 | 6 |
| 発行日 | 2023-03-16 (CPSY, DC) |