AI開発ではデータの大容量化に伴い、学習の長時間化が課題になっています。GRAPHCOREが開発する最先端のAIプロセッサIPU はユニークなアーキテクチャを持ち、ソフトウェア開発環境Poplar SDK と併せて高いAI学習の性能を実現します。

また学習モデルの研究も進んでおり、自然言語処理で利用されていたTransformer は、コンピュータビジョンの分野でもVision Transformer として有力候補になりつつあります。Vision Transformer は従来のモデルと比較して、計算量を落としながら高い精度を達成できるという特長を持ちます。

今回のウェビナーでは、冒頭でフィックスターズの冨田明彦が、同社のサービスとGRAPHCORE社との関係を説明します。その後、伊藤康宏 Field AI Engineer GRAPHCORE とフィックスターズの三石拓司が、Vision Transformer のIPU への移植と、性能改善に向けた作業方針から実際の最適化プロセスまでを、その結果とともに解説します。

重要ポイント： 

• Vision Transformer 概要とその利点
• 機械学習フレームワークPyTorchを用いたVision Transformer 移植方法
• Vision Transformer の性能改善方法
• IPU-PODアーキテクチャの利点とプロファイリングツールPopVision