<img height="1" width="1" style="display:none" src="https://www.facebook.com/tr?id=145304570664993&amp;ev=PageView&amp;noscript=1">
FP8 header

Jul 07, 2022 \ AI, FP8

GraphcoreとAMDがQualcomm Technologiesのサポートを得てAI向け8ビット浮動小数点形式を業界標準として提案

筆者

Roberto Mijat

システムメーカーやAIの実務者が、より低い精度での数値表現による性能と効率の向上を活かそうと試みているなか、Graphcoreは、人工知能(AI)向けの8ビット浮動小数点演算の業界標準を求める声をリードしています。

Graphcoreは、AI向けに設計された8ビット浮動小数点形式を作成し、機械学習で使用するための新しい2進演算の定義を行うIEEEのワーキンググループに採用されるよう提案します。

共通の標準を採用しやすいものにし、かつ強力にサポートするためには、このオープンで自由にライセンス可能な標準を選択することが、AIコンピューティングにとって最適な方法だと私たちは考えます。また私たちは、IEEEが正式な標準を策定するまでの間、他の業界関係者にも仕様を提供しています。

GraphcoreのCTO兼共同創業者であるSimon Knowlesは次のように述べています。「8ビット浮動小数点の登場は、AIコンピューティングの性能と効率に多大なメリットをもたらします。また業界全体にとっても、競合する形式が混在する紛らわしい状態ではなく、単一のオープンな標準に落ち着くチャンスでもあります」

AMDのコーポレートフェロー兼チーフGPUアーキテクトであるMike Mantor氏は次のように述べています。「この8ビット浮動小数点形式により、AMDは多くの種類のAIモデルの学習や推論の性能を劇的に向上させることができるようになります。AMDは業界標準の強力なサポーターとして、IEEEと共に8ビット浮動小数点表記法を新しい標準として採用することを提唱します」

Qualcomm Technologies, Inc.の製品管理担当シニアディレクターであるJohn Kehrli氏は次のように述べています。「8ビット浮動小数点演算の有力な形式として取り上げられている今回の提案は、推論における性能と効率の大幅な向上をもたらすほかに、クラウドやエッジにおける学習や推論のコスト削減に貢献する可能性もあります。私たちは、関連アプリケーションの業界標準としてGraphcoreが提案する8ビット浮動小数点を支持します」

標準を定める

16ビットと32ビットが混在するような低精度・混合精度の計算表記法は、AIではありふれたことです。それによって高い精度を維持しながら、ムーアの法則やデナード則の弱まる影響力に対抗できる効率性も実現しています。

8ビット浮動小数点への移行に伴い、人工知能の発展に携わるすべての人々が、AIネイティブで、学習と推論の両方においてシステム間のシームレスな相互運用性を可能にする標準をきっかけにつながり合うチャンスが訪れています。

Graphcoreの提案については、8ビット浮動小数点形式について発表した論文に詳しく記載されています。

業界標準が確立されるまでの間、この技術のライセンスをご希望の場合はGraphcore(legalteam@graphcore.ai)までお問い合わせください。私たちは、業界のすべてのベンダーがこの標準化の取り組みに寄与し、参加していただくことを推奨します。

×