그래프코어 IPU용 PyTorch Lightning 초기 릴리스 소개

PyTorch Lightning이 그래프코어 IPU를 지원하게 되었다는 소식을 기쁜 마음으로 전합니다. PyTorch Lightning 팀은 지난 몇 개월 동안 IPU 통합을 구축하기 위해 혼신의 노력을 기울였고, 이제 1.4 릴리스를 통해 커뮤니티에 그 결과물을 공개하려고 합니다. 개발자가 IPU를 더 쉽게 사용할 수 있도록 만들기 위해 그래프코어 팀과 긴밀하게 협력해 주셔서 대단히 감사합니다.

그래프코어는 유연하고 빠른 AI 컴퓨팅 솔루션에 대한 AI 연구 커뮤니티의 증가하는 요구 사항을 충족하고자 하는 PyTorch Lightning의 노력을 전적으로 지지합니다.

데이터 과학자와 딥러닝 실무자는 PyTorch Lightning을 사용하여 힘든 엔지니어링 작업(데이터 배포, 루프 관리, 로깅 처리 등)에서 벗어나 모델링 및 데이터 분석에 집중할 수 있습니다. 즉, 연구에 더 많은 시간을 투자할 수 있는 것입니다.

이 새로운 통합을 통해 PyTorch Lightning 사용자는 PopTorch API를 사용하는 IPU용 PyTorch 모델을 가져와 최소한의 코드 변경으로 실행하고 동일한 수준의 고성능을 얻을 수 있게 되었습니다.

PopTorch는 PyTorch 모델을 IPU 하드웨어에서 직접 실행할 수 있도록 지원하는 PyTorch용 확장 세트이며, 가능한 한 최소한의 코드 변경으로 IPU에서 실행할 수 있도록 설계되었습니다.

PyTorch Lightning의 장점

그래프코어는 AI 연구자들과 같은 이유로 PyTorch Lightning을 사랑합니다. PyTorch Lightning은 PyTorch 모델이 기본 플랫폼을 추상화할 수 있도록 학습 루프를 둘러싼 복잡성을 제거합니다. 따라서 IPU의 사용자 경험은 다른 플랫폼과 매우 유사합니다.

또한 보일러플레이트 코드를 제거하기 때문에 더 깔끔하고 사용이 간편하게 구현할 수 있습니다.

PyTorch Lightning을 사용하려면 PyTorch 모델의 PopTorch 구성과 마찬가지로 모델 함수를 지정해야 하므로 매우 익숙한 사용자 경험을 제공합니다.

그리고 IPU별 최적화 및 분해를 간섭하지 않으므로, IPU의 PyTorch Lightning 모델은 IPU용 표준 PyTorch 모델과 유사한 고성능을 보여 줍니다.

시작하는 방법

https://github.com/PyTorchLightning/pytorch-lightning#step-0-install에서 PyTorch Lightning을 설치하십시오.

기본적으로 PyTorch Lightning은 최신 버전의 PyTorch를 설치합니다. PopTorch에서 지원하는 PyTorch 버전을 설치했는지 확인하려면 PyTorch Lightning을 설치할 때 pip3 install --no-dependencies를 사용하거나, 나중에 지원되는 PyTorch 버전을 설치해야 합니다.

pip3 install pytorch-lightning

pip3 uninstall torch

pip3 install torch==1.7.1+cpu -f

https://download.pytorch.org/whl/torch_stable.html

PopTorch 설치

그래프코어 문서 포털에서 IPU 시스템에 대한 "시작하기" 가이드에 설명된 대로 Poplar SDK를 설치하십시오.

PopTorch는 Poplar SDK와 함께 설치 가능한 휠 파일로 제공됩니다. 올바르게 설치되었는지 확인하기 위한 전체 지침은 PopTorch 사용자 가이드에서 찾을 수 있습니다.

현재 PopTorch는 PyTorch 버전 1.7.1을 사용하고 있으며, 향후 릴리스에서 버전 숫자를 올릴 계획입니다. 일부 패키지는 최신 버전의 PyTorch를 설치하며, 개발자가 지원되는 버전을 pip 설치해야 할 수도 있습니다. 사용자 가이드 설치 단계의 버전 호환성 섹션을 참조하십시오.

중요

PopTorch 종속성이 올바르게 설치되려면 18.1 이상의 pip이 필요합니다.

기본 예제 실행

다음 코드 예제는 간단한 MNIST 예제를 사용하여 학습 모델을 실행하는 방법을 보여 줍니다.

IPU를 시작하는 방법

대학 연구원은 그래프코어의 아카데미 프로그램에 신청하여 IPU에 액세스할 수 있는 기회를 얻을 수 있습니다. 이 프로그램은 IPU를 사용하여 연구를 수행하고 발행하는 학자의 교과 과정이나 강의를 지원하도록 설계되었습니다. 참여에 선정된 연구원은 클라우드에서 그래프코어의 IPU 컴퓨팅 플랫폼과 소프트웨어 도구 및 지원에 무료로 액세스할 수 있습니다.