그래프코어와 AMD, 퀄컴 지원 아래 AI 업계 표준으로 8비트 부동 소수점 형식 채택 제안

시스템 제조사와 AI 실무자들이 저정밀 수치 표현을 통해 성능과 효율성 향상을 모색하는 상황에서, 그래프코어가 인공지능(AI)을 위한 8비트 부동 소수점 컴퓨팅을 업계 전반에 적용되는 표준으로 내세우는 데 앞장섭니다.

그래프코어는 AI를 위한 8비트 부동 소수점 형식을 고안했는데요, 머신 러닝에 사용할 새로운 이진 산술을 정의하고 있는 IEEE 워킹 그룹에 이 형식을 채택할 것을 제안하는 작업을 진행중입니다.

업계 표준은 채택이 용이하고 강력한 지지를 얻을 수 있어야 하는데요, 그래프코어는 이러한 라이선스 허가가 자유로운 개방형 표준을 채택했을 때 AI 컴퓨팅이 가장 잘 활용될 수 있다고 믿고 있습니다. 그래프코어는 IEEE가 표준을 공식화할 때까지 업계에도 이 사양을 제공할 계획입니다.

그래프코어의 CTO겸 공동창립자 사이먼 놀스(Simon Knowles)는 “8비트 부동 소수점의 출현은 AI 컴퓨팅에 엄청난 성능과 효율성을 제공한다. 이는 업계에서 경쟁하는 여러 형식을 혼용하지 않고 하나의 개방형 표준에 정착할 수 있는 기회이기도 하다”라고 말했습니다.

AMD의 기업 연구원이자 최고 GPU 아키텍트인 마이크 맨터(Mike Mantor)도 “8비트 부동 소수점 형식을 통해 AMD는 여러 유형의 AI 모델에 크게 개선된 훈련 및 추론 성능을 제공할 수 있을 것이다. AMD는 업계 표준을 강력히 지지하며 IEEE와 함께 8비트 부동 소수점 표기법을 새로운 표준으로 채택하는 것을 지지한다”고 밝혔습니다.

퀄컴(Qualcomm Technologies, Inc.)의 제품 관리 부문 선임 책임자 존 켈리(John Kehrli)는 “이번 제안은 8비트 부동 소수점 컴퓨팅을 위한 강력한 포맷이 될 것으로, 성능과 효율성 모든 측면에서 추론에 상당한 이점을 제공하여 클라우드 및 엣지에 대한 훈련 및 추론 비용을 절감할 수 있을 것”일며, “관련 애플리케이션을 위한 업계 표준으로 8비트 부동 소수점을 채택하는 그래프코어의 제안을 지지한다”고 밝혔습니다.

업계 표준 설정

컴퓨팅에 16비트, 32비트 혼용과 같은 저정밀 또는 혼합정밀도 방식의 표기법을 사용하는 것은 AI 업계에서 흔히 있는 일입니다. 높은 수준의 정확도를 유지하면서 무어의 법칙과 데나드 스케일링의 작아지는 영향력에 대응할 수 있는 효율을 제공하기 때문인데요.

8비트 부동 소수점 전환은 인공 지능 개발 업계 모두가 AI에 특화된, 훈련과 추론을 위한 시스템 간 원활한 상호운용성을 지원하는 하나의 표준을 중심으로 통합할 수 있는 기회입니다.

이와 관련된 자세한 내용은 8비트 부동 소수점 형식에 대한 그래프코어의 논문에서 확인할 수 있습니다.

업계 표준이 설정되는 동안 기술 라이선스에 관심이 있는 기업들은 legalteam@graphcore.ai로 그래프코어에 언제든지 문의주시기 바랍니다. 업계 내 모든 벤더가 이번 표준화 노력에 동참해주시길 부탁드립니다.