<img height="1" width="1" style="display:none" src="https://www.facebook.com/tr?id=145304570664993&amp;ev=PageView&amp;noscript=1">
ETRI Graphcore header

Jul 06, 2022 \ Research, Large models

ETRIとGraphcoreが大規模モデル向け高効率ソフトウェアで提携

筆者

Minwoo Kang

Graphcoreと韓国電子通信研究院(ETRI)は、高効率なAIコンピュート性能のための新たなソフトウェアアプローチを開発するため、複数年にわたるパートナーシップを締結しました。

2022年から2025年に及ぶこのパートナーシップは、韓国政府の資金提供を受けて行われるもので、研究開発費とライセンス収入において韓国最大の公的研究機関であるETRIの世界最先端の能力と、効率的で高性能な機械知能向け計算システムの開発と事業化において実績があるGraphcoreのリーダーシップが融合されることになります。

増え続けるモデルの要求に応える

自然言語処理(NLP)などのタスクに使われる最新のモデルの規模は、近年飛躍的に大きくなっており、パラメータは数億から数千億に増え、その傾向は数兆まで及ぶ勢いです。

AICAS_modelgrowth特に、トランジスタ密度やクロック速度、計算精度の向上だけでは、もはやこのようなモデルの規模の拡大には対応しきれないため、コストと時間をかけて大規模モデルを学習させることがますます困難になります。

GraphcoreとETRIのパートナーシップでは、AIコンピュート機能の性能、効率、アクセス性を向上させる新しいソフトウェアアプローチについて研究し、単一のシステムや技術だけを所有することや、それらに依存することによる負担を軽減することにより、この問題の解決を目指します。

所有権と非依存性、利便性

今回のパートナーシップでは、主要な検討事項が3つ定義されています。

所有権—新しい性能と効率の向上を実現することで、大規模モデルの学習に必要なコンピュート機能資源の維持に伴う負担を軽減します。

非依存性—開発者が、競争力のある効率的な装置構造やアクセラレータ技術を幅広い選択肢から選べる環境を醸成します。

利便性—システム最適化技術を新しいモデルに応用する簡単な方法を見つけることで、並列化モデルを開発する際のコスト負担や複雑さを軽減します。.

ETRI partnership fig_1500今回のパートナーシップにおいて、ETRIは性能、効率、利便性、および非依存性を向上させるためのソフトウェアの開発を主に担当します。一方Graphcoreは、技術検証や事業化に関する指導を通じてETRIを支援します。

「AI革命はあらゆる人に開かれたものであるべきで、法外なコストや時間の制約を受けたり、技術的な統一性に制約されたりしてはなりません」と、ETRIのKim Myung-joon社長は述べています。「特に、Graphcoreと協力して、最先端のAIモデルを扱う開発者の参入障壁を下げ、選択肢の幅を広げることができることをうれしく思います」

「私たちは、急速に変化するAIのニーズに効率的に対応する技術の特定と開発に取り組もうとしていますが、ETRIにはそのようなコミットメントを共有するパートナーがいます」と、Graphcoreの営業担当SVPであるFabrice Moizanは述べています。「機械知能向けの高効率な超並列計算システムの開発で培った当社の経験は、広く使われているAI計算システムに関連する技術的制約や所有の負担を新たな方法で軽減しようとするETRIを、強力に後押しするでしょう」

GraphcoreのIPU技術は、自然言語処理向けのGPTやBERT、コンピュータビジョン向けのEfficientNetやResNet、グラフニューラルネットワークなど、実に幅広い大規模環境のAIアプリケーションにおいて実際の性能をスケールメリットとして発揮しています。

Graphcoreは、今年発売した最新のBow IPUプロセッサやAIコンピュータシステムのBow Podラインアップに続き、次世代IPU技術の開発をすでに開始しており、脳のパラメトリック能力を超える世界初の超知能AIコンピュータ「Goodコンピュータ」に搭載する予定です。Goodコンピュータに関するさらなる最新情報は、今後数四半期にわたって提供される予定で、Graphcoreではこの超知能マシンによって実現する、AIにおける次のブレークスルーの開発に携わる企業やAIイノベーターとの積極的な協働を切望しています。

その他の投稿