그래프코어, AI 연산 시스템 IPU-POD 모델군 확대...KT 초대규모 AI 컴퓨팅 환경 지원

IPU-POD128과 IPU-POD256 모델 출시
32페타플롭스 이상 AI 연산속도 지원
KT, 하이퍼스케일 AI 서비스에 IPU-POD128 사용
"대규모 AI 모델에 대한 학습 및 추론에 활용"

 

그래프코어가 각 32PFlops, 64 PFlops의 AI 연산속도를 지원하는 IPU-POD128과 IPU-POD256을 출시했다. (출처=그래프코어)

그래프코어가 인공지능(AI) 연산 시스템 IPU-POD 제품군을 확대했다. IPU-POD128과 IPU-POD256 모델을 출시했다고 18일 밝혔다.

 

그래프코어가 선보인 IPU-POD128 모델과 256 모델은 각각 32페타플롭스(PFlops, 초당 3만 2000조 번 연산), 64페타플롭스의 AI 연산속도를 지원한다. 지금까지 선보인 시리즈 중 최고 성능이다.

 

IPU-POD 시리즈는 시스템 전반에 걸쳐 대형 트랜스포머 기반 언어 모델을 빠르게 훈련 시키고, 프로덕션 환경에서 대규모 상용 AI 추론 애플리케이션을 구동하는 역할을 한다. 이러한 기능 덕분에 대규모 AI팀을 운영하는 기업에서 해당 제품군을 많이 사용했다. 분야는 클라우드 하이퍼스케일러, 국립 과학 컴퓨팅 센서, 금융 서비스, 제약 업계 등 다양하다.

 

이번 신제품의 IPU-POD128 모델의 경우 국내에서 KT가 가장 먼저 도입했다. 'KT 하이퍼스케일 AI 서비스'에 해당 제품군을 사용하고 있다.

 

이미희 KT 클라우드·DX 사업본부장은 "KT는 국내 최초로 IDC 내에 고집적 AI존(Zone)을 구축하고 그래프코어 지능형처리장치(IPU)를 활용해 KT 하이퍼스케일 AI 서비스를 제공하고 있다"면서 "그래픽처리장치(GPU)에서 IPU로의 전환을 위한 테스트를 진행하고 있다"고 밝혔다. 이어 "KT는 초대규모 AI 고성능컴퓨팅(HPC) 환경을 지원하고자 2개의 그래프코어 IPU-POD64를 확장 연결한 IPU-POD128로 하이퍼스케일 AI 서비스 확대를 진행 중"이라고 설명했다.

 

또 그는 "KT는 IPU-POD128을 가장 먼저 도입한 한국의 파트너사로, 이미 IPU-POD128이 제공하는 획기적인 연산 성능의 이점을 자사 AI 연구개발에 적용해 나가고 있다"면서 "32페타플롭스 수준의 AI 연산 처리가 가능해져 더욱 많은 고객이 대규모 AI 모델에 대한 학습 및 추론에 활용할 수 있을 것으로 기대된다"고 말했다.

 

BERT 언어 모델을 활용한 MLPerf 벤치마크 테스트 결과. (출처=그래프코어)

#IPU-POD128과 IPU-POD256 특징은

 

시스템 전반에 걸쳐 대형 트랜스포머 기반 언어 모델을 빠르게 훈련 시키고, 프로덕션 환경에서 대규모 상용 AI 추론 애플리케이션을 구동하는 것이 특징이다. 시스템을 더 작고 유연하게 분할해 개발자들의 IPU 활용도를 높이고, GPT 및 그래프신경망(GNN) 같은 새로운 모델을 활용해 과학적 발견을 가속화하도록 지원하는 장점이 있다.

 

#성능은

 

IPU-POD128과 IPU-POD256은 BERT, ResNet-50과 같이 광범위하게 사용되는 언어 및 비전 모델을 활용한 벤치마크 테스트 결과에서 인상적인 훈련 성능과 효율적인 확장 성능을 입증했다. 그래프코어 측은 향후 소프트웨어 개선을 통해 이러한 성능이 더욱 향상될 것이라고 밝혔다.

 

# 사용했을 시 장점은

 

여타 IPU-POD 시스템과 마찬가지로 AI 연산과 서버가 분리되어 여러 AI 워크로드에서 사용할 수 있다. 이를 통해 최적의 총소유비용(TCO)을 실현할 수 있다. 또 그래프코어가 최근에 발표한 그래프코어 스토리지 파트너의 기술을 활용, 시스템 스토리지를 특정 AI 워크로드에 맞게 최적화할 수 있다. 

 

AI타임스 김동원 기자 goodtuna@aitimes.com

 

Copyright © '인공지능 전문미디어' AI타임스 (http://www.aitimes.com/)
무단전재 및 재배포 금지

 

그래프코어, AI 연산 시스템 IPU-POD 모델군 확대...KT 초대규모 AI 컴퓨팅 환경 지원 - AI타임스