그래프코어, AI 최적화 칩 IPU 소개..."엔비디아 칩보다 성능 우월"

"AI 발전하는 만큼, 레거시 칩 한계에서 벗어나야"
병렬처리 강점인 IPU, GPU와 비교해 AI 개발에 유용
IPU-POD16, MLPerf 벤치마크에서 엔비디아 'DGX A100' 능가
국내 대표 고객사는 KT, NHN...파트너사 협력으로 생태계 강화할 것

 

파브리스 모이잔 그래프코어 글로벌 세일즈 부사장은 "현재 AI가 기존과는 다른 새로운 컴퓨팅을 요구하는 만큼, 기존 레거시 칩이 가진 한계에서 벗어나야 한다"고 말했다. (출처=AI타임스DB·셔터스톡, 편집=김동원 기자)

인공지능(AI) 개발과 운영에 사용하는 반도체 '지능처리장치(IPU, Intelligence Processing Unit)'를 공급하는 그래프코어가 AI 개발에 최적화된 칩 사용이 기술 성패를 가를 수 있다고 밝혔다. AI가 빠른 변화와 발전을 이루는 만큼, AI 개발사는 산업 성장 속도에 대응할 수 있는 반도체를 사용해야 기술 우위를 가져갈 수 있다는 설명이다.

 

파브리스 모이잔(Fabrice Moizan) 그래프코어 글로벌 세일즈 부사장은 9일 열린 기자간담회에서 "현재 AI 개발에는 그래픽처리장치(GPU)가 광범위하게 사용되고 있고 일부 GPU가 AI 모델에 효과가 있는 것으로 알려져 있지만, 이는 그 모델 자체가 애초에 GPU에서 생산됐기 때문"이라며 "현재 AI는 기존과는 완전히 다른 새로운 컴퓨팅을 요구하고 있어 AI를 십분 활용하기 위해서는 기존 레거시 칩 한계에서 벗어날 필요가 있다"고 말했다. 

 

그래프코어가 GPU 역할을 대신할 수 있는 반도체로 내세운 건 IPU다. 모이잔 부사장은 GPU와 차별된 IPU가 가진 대표적인 장점으로 병렬처리를 꼽았다.

 

그는 "AI 작업을 위해선 많은 병렬처리가 필요하고, 이를 처리할 수 있는 프로세서가 필요하다"면서 "IPU는 서로 독립적으로 기능할 수 있는 코어를 갖춰 그 역할을 할 수 있지만, GPU는 이러한 기능을 갖추지 못하고 있다"고 설명했다. 이어 "최근 이러한 IPU가 가진 강점으로 상당히 많은 기업과 조직에서 그래프코어 IPU를 사용해 작업을 하고 있다"고 밝혔다.

 

그래프코어는 고객 사례로 스탠포드 의대와 트랙터블을 소개했다. 스탠포드 의대는 차등 개인정보보호 AI 모델에 IPU를 사용하고 있다. 이 AI 모델은 환자 개인 데이터를 사용할 때 기밀은 보호하면서 필요한 정보만 사용할 수 있는 시스템이다.

 

모이잔 부사장은 "이 AI 모델은 GPU를 사용해서는 불가능한 모델"이라며 "스탠포드 의대는 안전한 시스템을 통해 엑스레이 연구를 하고 있다"고 밝혔다.

 

트랙터블은 미국 금융 분야 AI 스타트업이다. 자동차 사고 발생 시 사진을 활용해 예상 보험금 산출과 정비사에 부품 소지 여부 등을 분석할 수 있는 AI 모델을 개발하고 있다. 모이잔 부사장은 "이 AI 모델을 가동하는데 IPU와 최신 GPU를 사용했을 때 결과를 비교해보니 IPU를 사용했을 때 퍼포먼스가 5배 높았다"고 설명했다.

 

MLPerf 벤치마크에서 엔비디아 DGX A100 성능 능가

---

모이잔 부사장은 그래프코어의 IPU 우수성은 최근 열린 MLPerf 벤치마크 결과에서 증명할 수 있다고 밝혔다. MLPerf 벤치마크는 머신러닝(ML) 성능을 조사하는 벤치마크 중 하나다. 엄격한 규율을 토대로 칩 성능을 평가해 잠재 고객사에 각 칩의 성능을 비교할 수 있는 정보를 제공한다.

 

그래프코어는 최근 열린 MLPerf 1.1 벤치마크 대회에서 IPU를 기반으로 한 그래프코어 시스템이 엔비디아 대표 GPU 'DGX A100' 성능을 능가했다고 밝혔다. 이미지처리 모델인 RESNET-50과 자연어처리(NLP) 모델 BERT를 훈련하는 테스트에서 IPU 기반 시스템인 IPU-POD16의 성능 평가가 엔비디아 시스템보다 높게 나왔다고 발표했다.

 

실제로 IPU-POD16은 이미지처리 모델 ResNet-50을 훈련하는데 28분 3초를 기록했다. 엔비디아 DGX A100(29분 1초)보다 1분가량 빠른 속도다.

 

모이잔 부사장은 "IPU-POD16은 엔비디아 대표 DGX 모델보다 학습시간에 있어서 우위를 보였고, 더 놀라운 것은 IPU-POD 비용이 엔비디아 DGX A100과 비교했을 때 절반밖에 사용되지 않았다는 것"이라며 "통상적으로 ResNet-50 모델 학습에 GPU가 사용되고 있다는 점을 보았을 때 이번 결과는 더욱 주목할 만하다"고 평가했다.

 

그래프코어는 ResNet-50 훈련에서 자사의 IPU-POD16이 엔비디아의 DGX A100을 능가하는 성능을 기록했다고 밝혔다. (출처=그래프코어)

"한국 파트너사와의 협력으로 AI 생태계 강화할 것"

---

모이잔 부사장은 이번 기자간담회에서 한국 비즈니스 사업 강화 계획도 발표했다. IPU를 클라우드와 연계할 수 있는 클라우드 파트너사들과 협업을 맺고 있고, IPU-POD 고객사도 꾸준히 개척하고 있다고 밝혔다.

 

그래프코어는 IPU를 사용하는 국내 주요 고객사로 KT와 NHN을 꼽았다. KT는 IPU-POD128 모델을 가장 먼저 도입한 국내 고객사다. AI 연구개발(R&D) 통합 솔루션 '하이퍼스케일 AI 서비스'에 해당 제품군을 사용하고 있다.

 

NHN은 올해 6월 그래프코어와 기술 협력 업무협약(MOU) 체결 후 NHN 클라우드 공공 시스템 개발에 IPU 시스템을 사용하고 있다. 그래프코어 제품군을 활용해 고성능컴퓨팅(HPC) 환경과 AI 인프라 환경 등을 개발하고 있다.

 

모이잔 부사장은 "두 고객사는 그래프코어 시스템을 AI 데이터센터에 사용하고 있다"며 "두 회사 이외에도 많은 한국 기업이 AI 파트너로 그래프코어를 선택했다"고 말했다.

 

그는 이번 간담회에서 한국 기업과의 협력으로 AI 생태계를 강화할 뜻도 내비쳤다. "한국에서 중요한 역할을 담당하고 있는 클라우드 파트너사들과 협력을 강화하고 있다"며 "올해 메가존클라우드, 매커스시스템스 등 파트너 네트워크를 확장했다"고 설명했다.

 

강민우 그래프코어 한국지사장은 "AI는 IPU와 같은 하드웨어도 중요하지만, 이 하드웨어를 잘 사용할 수 있게 하는 소프트웨어 역할도 중요하다"며 "하드웨어뿐 아니라 소프트웨어도 초점을 맞춰 협력사들과 기술 진보를 이뤄갈 것"이라고 말했다. 

 

AI타임스 김동원 기자 goodtuna@aitimes.com

 

Copyright © '인공지능 전문미디어' AI타임스 (http://www.aitimes.com/)
무단전재 및 재배포 금지

 

그래프코어, AI 최적화 칩 IPU 소개..."엔비디아 칩보다 성능 우월" - AI타임스