WoWファクタ：Graphcoreのシステムが大幅なパワーアップと効率化を実現

Graphcoreは本日、世界初の3D Wafer-on-Wafer プロセッサ「Bow IPU」を発表しました。このプロセッサは、当社の次世代Bow Pod AIコンピュータシステムの心臓部であり、現実世界のAIアプリケーションにおいて、従来のプロセッサよりも最大40%高い性能と16%高い電力効率を実現し、すべて同価格で、既存のソフトウェアを変更する必要がないことを特徴としています。

フラッグシップモデルのBow Pod256は89ペタフロップスを超えるAIコンピュート機能が特長であるのに対し、スーパースケールのBow POD1024は350ペタフロップスのAIコンピート機能を特長とします。機械学習エンジニアはこれらのモデルを使って、飛躍的に増大するAIモデルのサイズに後れを取らず、機械知能における新たなブレークスルーを実現できるようになります。

お客様の成功 

新しいBow Podシステムは現在発売中で、世界中に向けて出荷が始まっています。

Bowの性能と効率の向上を最初に実感していただけるお客様の一つに、米国エネルギー省（DOE）のパシフィック・ノースウエスト国立研究所（PNNL）があり、 サイバーセキュリティや計算機化学などの用途に使用されます。

「パシフィック・ノースウエスト国立研究所では、機械学習とグラフニューラルネットワークの限界を超え、既存の技術では困難だった科学的問題に取り組んでいます」と、PNNLの計算・理論化学研究所の共同ディレクターであるスタネイ・チョードリー氏は述べています。

「例えば、計算化学やサイバーセキュリティの用途での応用について研究しています。今年は、Graphcoreシステムのおかげで、このような用途の学習と推論にかかる時間を数日から数時間へ大幅に短縮できました。このような時間の短縮によって、機械学習のツールを有意義な方法で研究活動に取り入れることができるようになると期待しています。このような最新世代の技術でコラボレーションを拡大することが楽しみです。」

米国のクラウドサービスプロバイダーであるCirrascale社は、同社のGraphcloud IPUベアメタルサービスの一部として、Bow Podシステムを本日よりお客様に提供します。またヨーロッパのクラウドサービスプロバイダーであるG-Core Labs社は、Bow IPUクラウドインスタンスを2022年第2四半期より開始すると発表しています。

実際の成果 

Bow Podは、自然言語処理用のGPTやBERT、コンピュータビジョン用のEfficientNetやResNet、グラフニューラルネットワークなど、幅広いAI用途に向けて実世界の性能を大規模に提供するためのものです。

Bow Podシステムを導入したことで、当社のMk2 IPU-Podシステムと同じピークパワーエンベロープにおいて、幅広いAI用途で性能が最大40%向上した事例も報告されています。

Bow Pod₁₆は、最先端のコンピュータビジョンモデルであるEfficientNetにおいて、同等のNvidia DGX A100システムよりも5倍以上も高い性能を、実に半額の価格で実現します。これは総保有コストの面において、最大で10倍の優位性があることになります。

電力効率の向上 

最大40%の性能向上に加え、Bow Podシステムでは従来のプロセッサよりも電力効率が大幅に向上しています。

実在するさまざまなアプリケーションでテストした結果、Bow Podではワットあたりの性能が最大16%向上しています。

WoWファクタ 

これほどまで大幅な性能と電力効率の向上を実現するために、Bow Podシステムの心臓部であるBow IPUプロセッサには世界初の3次元半導体技術が採用されています。

当社は光栄にも、TSMC社と緊密に連携して開発したWafer-on-Wafer 3D技術の主要取引先です。シリコンダイ間ではるかに高い帯域幅を実現すると期待されるWafer-on-Waferですが、当社のColossusアーキテクチャでは、電力効率の最適化と電力供給の向上をウエハレベルで実現するために使用されています。

BOW IPUのWafer-on-Waferでは、2枚のウエハを貼り合わせて新しい3Dダイを生成します。片方のウエハはAI処理用で、1,472個の独立したIPUコアタイルを備え、アーキテクチャの観点からGC200 IPUプロセッサと互換性があり、搭載されている900MBのプロセッサ内メモリで8,800以上のスレッドを実行できます。もう一方は、電源供給ダイを搭載したウエハです。

そして、処理コアとメモリのすぐ隣にある電源供給ダイに深いトレンチキャパシタを追加することで、より効率的に電力を供給できるようになり、350テラフロップスのAIコンピュート性能を実現し、40%の性能向上を達成しています。当社はTSMC社との緊密な連携により、バックサイドスルーシリコンビア（BTSV）とWafer-on-Wafer（WoW）のハイブリッド接合における多くの画期的な技術など、技術全体を完全に取得してきました。

「TSMCは、画期的なSoIC-WoW（Wafer-on-Wafer）ソリューションの顧客として、Graphcoreと緊密に協力してきました。Graphcore最先端の並列処理アーキテクチャにおける先駆的な設計は、当社の技術との組み合わせに最適です。Graphcoreは当社のWoWを介して、直接接続された電力供給を追加する機能の活用により、パフォーマンスの大幅な向上を実現しました。この技術のさらなる進化に協力できることを嬉しく思います。」

TSMC Europe社  General Manager、Paul de Bot

信頼される技術 

当社のお客様は各分野の大手企業ですが、性能と効率、信頼性を兼ね備えたコンピュータシステムを必要としています。しかし、すでにIPUをお使いのお客様であれば、Bow Podシステムへシームレスに移行できます。

パワフルで使いやすいPoplarソフトウェアスタックと、拡大を続けるIPU最適化モデルのライブラリを活用することで、Bow Podシステムのあらゆる能力が自然と引き出されます。
すべてのBow Podシステムの構成要素である新しいBow-2000 IPUマシンは、第2世代のIPU-M2000マシンと同じ堅牢なシステムアーキテクチャをベースにしながらも、パワフルなBow IPUプロセッサを4基搭載することで1.4ペタフロップスのAIコンピュート機能を実現しています。

Bow-2000は既存のIPU-PODシステムと完全な下位互換性があり、高速で低遅延のIPUファブリックや柔軟な1Uフォームファクタはすべてそのままです。

Bow-2000は、DellやAtos、Supermicro、Inspur、Lenovoなどの主要ブランドのホストサーバと組み合わせてBow Podシステムを構成しており、4台のBow-2000と1台のホストサーバで構成されるBow Pod16から、8台のBow-2000と1台のホストサーバで構成されるBow Pod32、Bow Pod64、より大型の当社主力システムであるBow Pod256やBow Pod1024まで、Bow Pod製品群全体の根本的な構成要素です。

商品供給 

Bow Podシステムは、Graphcoreの世界中の販売パートナーからすぐにご購入いただけます。

Bow Podの販売に際し、当社パートナーのコメントをいくつかご紹介します。

Cirrascale Cloud Services

「多くのAIイノベーターは、CirrascaleのGraphcloudでGraphcoreのIPUの能力を初めて体験することになります。また、計算能力を拡張しなければならないユーザーにとっては、柔軟性の高いスケールアッププラットフォームとなります。GraphcloudにBow Podが加わったことで、大規模なPod構成で大規模モデルを高速化したい場合でも、マルチテナンシーセットアップで個々のユーザーの能力を高めたい場合でも、クラウドにおけるAIコンピューティングが新たな性能レベルに進化します。」

Cirrascale Cloud Services社CEO、PJ Go

G-Core Labs 

「G-Core Labs のお客様にとって、性能は進歩を意味します。GraphcoreのIPUを使うことで、お客様はAIモデルをより短期間で開発・展開し、ビジネスで成果を得るまでの期間も短縮されます。Bow Podがもたらす計算能力の向上によって、人工知能のイノベーションが加速しています。それと同時に、G-Core Labsのクラウド上で簡単に利用できることから、利用機会の制限もなくなります。」

G-Core Labs社CEO、Andre Reitenbach

Atos

「GraphcoreのBow PODシステムは、人工知能コンピューティングの新たな標準となり、Atosの顧客はAIイノベーションをさらに推し進め、これまで以上に迅速に結果を出すことができるようになります。GraphcoreとAtosは、モデルのサイズと複雑さの増加に伴い、エクサスケールの提供に協力します。また同時に、Graphcoreは計算効率に注力しているため、ユーザーはAIへの投資に対して最大限の利益を得ることができます。」

Head of HPC & Quantum Atos、Agnès Boudot