KT, GPU 자원관리 플랫폼 '하이퍼스케일 AI 컴퓨팅' 출시 목전...자체 AI 칩도 개발 중

오는 10일 하이퍼스케일 AI 컴퓨팅 출시
클라우드에서 GPU 사용 최적화로 비용 3분의 1로 줄여
소프트웨어 이어 하드웨어 사업 계획도 밝혀
"내년 GPU 팜 조성 후 2023년 전용 AI칩 선보일 것"

 

KT가 소프트웨어부터 하드웨어 분야까지 AI 비즈니스 영역을 확장하고 있다. (출처=셔터스톡, 편집=김동원 기자)

KT가 소프트웨어부터 하드웨어 분야까지 계획하고 있는 인공지능(AI) 비즈니스 청사진을 공개했다. 오는 10일 '하이퍼스케일 AI 컴퓨팅' 출시에 이어 내년에는 거대 AI 언어모델, 2023년에는 전용 AI 칩을 선보인다는 방침이다.

 

김주성 KT 클라우드사업담당 상무는 8일 서울 양재 엘타워에서 열린 '2021 그랜드 클라우드 컨퍼런스'에서 "KT는 성공적인 AI 서비스 실현을 위한 플랫폼을 개발하고 있다"며 "12월 10일 AI 플랫폼 중 하나인 하이퍼스케일 AI 컴퓨팅을 출시할 예정"이라고 말했다. 또 "2023년까지 순수 국산 기술로 AI 풀스택(Full Stack) 영역까지 서비스를 확대할 예정"이라고 밝혔다.

 

하이퍼스케일 AI 컴퓨팅은 KT가 개발한 그래픽처리장치(GPU) 통합 자원관리 플랫폼이다. 클라우드 인스턴스에서 이용하는 GPU 자원을 효율적으로 운영해 사용자의 이용 부담을 낮출 수 있다.

 

GPU는 AI 연산에 주로 사용되는 칩이다. 이 칩은 AI 모델 추론을 위한 대규모 고성능 인프라가 필요해지면서 수요가 급격히 증가하고 있다. 실례로 오픈AI가 출시한 초거대 AI 모델인 GPT-3를 한 장의 GPU로 훈련시킨다면 335년이 걸린다는 조사결과가 있을 만큼, AI가 진화할수록 GPU 수요는 기하급수적으로 커지는 상황이다.

 

문제는 비용이다. 높은 성능을 요구하는 GPU의 경우 가격이 비싸다. 이러한 GPU를 여러 장 구매하기에는 중소기업과 스타트업이 가지는 부담은 클 수밖에 없다. AI 양극화 문제가 거론되는 이유도 이 때문이다.

 

비싼 가격을 감당하고자 기업들은 GPU를 직접 구매하기보단 KT, 아마존웹서비스(AWS), 마이크로소프트 등이 제공하는 클라우드 인스턴스를 활용해 GPU를 사용하고 있다. 하지만 이 역시 들어가는 비용이 상당하다.

 

김주성 상무는 "클라우드에서 GPU를 공급하는 것은 사실 고가로 서비스를 제공할 수밖에 없는 구조적인 한계가 있다"며 "GPU 사용의 경우 클라우드 서비스임에도 불구하고 전혀 클라우드스럽지 않게 제공해왔다"고 말했다.

 

클라우드에서 GPU 공급이 비싼 가격에 이뤄지는 이유는 GPU 자체가 컴퓨팅 노드에 꽂혀 제공되기 때문이다. 클라우드에서 서비스를 제공하더라도 가상기계에서 GPU를 일대일 맵핑으로 공급해야 한다. 사용자는 GPU를 사용하지 않아도 가상기계를 통해 GPU 이용 요금을 내야 하는 것.

 

KT가 출시를 목전에 둔 하이퍼스케일 AI 컴퓨팅은 GPU를 통합으로 사용하지 않고, 별도로 이용하게 만든 자원관리 플랫폼이다. 가상기계를 쓰더라도 연산할 때만 GPU를 사용하고, 연산하지 않을 때는 비용이 부과되지 않는다.

 

김 상무는 "실제로 A사의 연구개발(R&D) 형태를 하이퍼스케일 AI 컴퓨팅에 가상으로 돌렸더니 기존보다 비용의 3분의 1로 감소하는 것을 확인했다"며 "이 플랫폼은 모두 순수 국산 기술로 개발했다"고 밝혔다.

 

김주성 상무는 "하이퍼스케일 AI 컴퓨팅을 가상으로 사용했을 때 GPU 사용 비용이 기존보다 3분의 1로 감소하는 것을 확인했다"고 말했다. (사진=김동원 기자)

그는 이번 행사에서 KT가 계획하고 있는 AI 비즈니스 청사진도 함께 공개했다. 올해 하이퍼스케일 AI 컴퓨팅 출시를 시작으로 내년에는 대규모 GPU 팜(Farm)을 조성할 계획이라고 밝혔다. 2023년에는 전용 AI 칩 제작도 시행할 예정이라고 강조했다. 대규모 언어모델의 경우 내년 출시를 앞두고 있다고 말했다.

 

김 상무는 "엔비디아가 GPU를 공급하며 시장 독점에 성공했고 AMD, 인텔도 이에 대응하는 기술을 계속 선보이고 있다"면서 "KT는 순수 국산 기술로 AI 칩 시장에서의 가능성을 만들어나갈 것"이라고 밝혔다.

 

AI타임스 김동원 기자 goodtuna@aitimes.com

 

Copyright © '인공지능 전문미디어' AI타임스 (http://www.aitimes.com/)
무단전재 및 재배포 금지

 

KT, GPU 자원관리 플랫폼 '하이퍼스케일 AI 컴퓨팅' 출시 목전...자체 AI 칩도 개발 중 - AI타임스