"AI 양극화 벗어나 모두가 개발에 집중할 수 있는 환경 제공할 것"...신정규 래블업 대표 인터뷰

거대 AI 모델 등장과 딥러닝 고도화로 AI 양극화 우려
딥러닝 비용문제 해결할 방안 지속 연구 중
올해 하반기·내년 상반기 AI 최적화 기술 대거 공개 계획
오픈소스로 '백엔드닷에이아이 '플랫폼 제공해 효율적인 AI 개발 이끌어

 

신정규 래블업 대표. (사진=김동원 기자)

거대 인공지능(AI) 모델 등장으로 자본이 있는 기업과 없는 기업 간 AI 개발 양극화 문제가 예상되는 가운데 각 기업의 개발 역량을 지원해 이 문제를 해결하겠다는 기업이 등장했다. 래블업이다.

 

신정규 래블업 대표는 20일 AI타임스와 인터뷰에서 "딥러닝으로 학습된 애플리케이션이 많아지고 거대 AI 모델이 등장하면서 AI 시장이 자본력을 기준으로 양분될 가능성이 커졌다"며 "아이디어가 있어도 자본이 없어 AI 개발을 포기해야 하는 기업이 많아서는 안되기에 앞으로 양극화 문제를 줄이는 데 역량을 집중해 나가겠다"고 밝혔다.

 

래블업은 모든 랩(Lab)에 AI 기반 기술을 모두 사용하게 해주자는 취지로 2015년 설립된 회사다. AI 개발 플랫폼 '백엔드닷에이아이(Backend.AI)'를 오픈소스와 기업용 버전으로 제공한다. AI 개발에 필요한 그래픽처리장치(GPU)를 분할 제공하고, 개발 외적인 작업을 자동화하는 등 개발자가 개발에만 집중할 수 있는 환경을 조성해준다.

 

신 대표는 "AI기업이 보다 저렴한 비용으로 GPU를 이용하고 관리 부담을 줄일 수 있도록 지원하고 있다"며 "AI개발 최적화를 위한 연구를 계속 진행 중이고 관련 솔루션들을 올해 하반기와 내년 상반기에 선보일 계획"이라고 말했다.

 

◆ 거대 AI 모델로 양극화 염려되는 AI 시장, 비용 절감 솔루션으로 맞설 것

 

최근 많아진 거대 AI 모델 등장은 AI 개발에 양극화 현상의 원인이 되고 있다. 테슬라는 최근 자율주행 기술개발을 위해 마련한 자체 슈퍼컴퓨터에 총 5760개의 GPU가 탑재됐다고 공개했다. 네이버는 초대규모 AI 모델인 '하이퍼클로바'에 1000여 개 GPU가 들어갔다고 밝혔다. GPU 하나가 1000만원이라고 가정했을 때 최소 100억원 이상의 상당한 비용이 투자된 셈이다. 일반 중소기업이 진입하기엔 상당히 높은 벽이기도 하다.

 

신 대표는 앞으로 딥러닝 모델이 계속 발전하면서 비용 문제로 인한 AI 양극화 문제가 AI 발전에 발목을 잡을 수 있다고 경고했다. 그는 "앞으로 딥러닝 애플리케이션의 수는 지금보다 훨씬 증가할 것이고, 할 수 있는 영역도 달라질 것"이라며 "여기에 발생하는 딥러닝 자원이 상당히 크기 때문에 시장이 2개로 갈라질 수 있다"고 설명했다.

 

이어 "메모리반도체를 예로 들면, 초기 D램은 대학기관에서도 제작할 수 있었지만, 지금은 D램 성능 향상은 극소수의 대기업만 할 수 있는 일이 돼버렸다"며 "AI도 양극화가 고도화되면 일부 대기업의 역할로 국한되어질까 염려된다"고 지적했다.

 

해당 문제를 해결하기 위해 래블업이 꺼낸 카드는 '비용 절감'이다. 사용상 비용, 인터페이스의 어려움에서 오는 비용, 자원관리에서 오는 비용 등을 줄여 자본으로 인한 양극화를 최소화하겠다는 전략이다.

 

그는 "딥러닝 분야 모든 파이프라인 체인에서 비용감소가 어떻게 일어날지를 고민하고 있다"면서 "관련 연구를 지속하고 있고, 올해 하반기부터 많은 모델에서 훈련에 용이한 서비스를 대거 선보일 계획"이라고 밝혔다.

신정규 대표는 "올해 하반기와 내년 상반기에 AI 훈련에 용이한 다양한 서비스를 대거 선보이겠다"고 밝혔다. (사진=김동원 기자)

◆ GPU 분할 가상화와 자동화 기능으로 AI 개발 지원

 

래블업은 이미 백엔드닷에이아이 플랫폼을 통해 많은 기업의 AI 최적화를 지원하고 있다. 백엔드닷에이아이는 하나의 플랫폼에서 AI, 머신러닝(ML), 고성능컴퓨팅(HPC)에 필요한 연구개발(R&D)과 비즈니스 서비스, AI 서비스 추론 등을 관리하게 해주는 서비스다.

 

이 플랫폼의 대표 기능은 'GPU 분할 가상화'다. 데이터를 사용해 모델을 훈련하는 딥러닝에는 GPU가 사용된다. 하지만 GPU가 계속 동작하는 것은 아니다. 데이터는 가공과 연산, 분산처리, 추가 연산 등의 절차가 있어 데이터를 가공하는 등의 시간에는 GPU가 동작하지 않는다. 하나의 딥러닝 훈련 워크로드가 GPU를 점유하고 있으면, 해당 GPU는 사용되지 않더라도 다른 워크로드에서 사용할 수 없다. 

 

래블업은 이러한 GPU를 분할 가상화하면서 이 한계를 깨뜨렸다. 하나의 GPU를 컨테이너별로 0.1GPU, 0.2GPU, 2.7GPU로 할당한다. 교육이나 추론 워크로드 등 큰 규모의 GPU가 필요하지 않은 곳에는 단일 GPU를 공유하고, 모델 훈련 등 대규모 워크로드에는 다중 GPU를 할당하게 된다. 이러한 자원 할당은 백엔드닷에이아이로 쉽게 할 수 있다. 사용자가 수동으로 할당량에 따라 자원을 일일이 지정하는 것이 아니라 플랫폼을 통해 할당을 자동화할 수 있다.

 

신 대표는 "기존에는 10명의 사용자가 있으면 10개의 GPU가 필요했지만 지금은 1개의 GPU를 15명이 공유하기도 한다"며 "그만큼 기업 입장에선 GPU 구매가 줄어들어 비용감소 효과가 있고, 관리와 할당도 자동화하기 때문에 업무도 효율적으로 할 수 있다"고 말했다. 

 

인터뷰에 함께 참여한 김정묵 래블업 최고운영책임자(COO)는 "대기업의 경우 GPU를 구매했는데 2년 뒤 더 좋은 성능의 GPU가 나오고 이를 구매하면 기존 GPU를 어떻게 해야 할지 난감하기 마련"이라며 "백엔드닷에이아이는 기존 GPU를 서비스 용도나 내부 교육용 등 적합한 분야에 쓰도록 안내하며, 장비가 돌아가는 동안에는 어떤 GPU든 언제나 최적으로 사용할 수 있도록 이끌어준다"고 설명했다.

신정규 대표(오른쪽)와 김정묵 래블업 COO(왼쪽)는 백엔드닷에이아이를 사용함으로써 비용 절감과 업무 효율을 모두 이룰 수 있다고 밝혔다. (사진=김동원 기자)

◆ 소규모 기업 위해 오픈소스로 플랫폼 공개...더 많은 솔루션 선보일 것

 

백엔드닷에이아이는 '오픈소스'와 '기업용 버전' 2가지 모델로 제공된다. 오픈소스는 누구나 무료로 사용할 수 있도록 제공하는 서비스다. 기업용 버전은 여기에 상세모니터링, 사용량 체크, 조직관리, 전용 컨트롤 패널, 최적화 컨설팅 등의 기능이 추가된다.

 

신 대표는 중소기업의 경우 오픈소스 모델만 사용해도 충분히 AI 개발을 최적화시킬 수 있다고 설명한다. 그는 "백엔드닷에이아이는 소프트웨어를 설치하는 것과 같이 어디에든 쉽게 설치할 수 있도록 공급하고 있다"면서 "AI 관련 종사자가 31명 이하인 조직은 오픈소스만 이용해도 서비스 이용에 문제가 없을 것"이라고 말했다. 이어 "오픈소스로 공개하더라도 고객사가 설치나 사용에 어려운 부분이 있으면 문의 사항에 답변을 드리는 식으로 지원을 하고 있다"고 설명했다.

 

수익으로 연결되지 않을 텐데 해당 플랫폼을 오픈소스로 공개한 이유를 묻자 신정규 대표는 "당연한 일"이라고 답했다. 

 

그는 "동료들과 래블업을 창업하면서 당시에는 AI에 대한 관심이 낮았지만, 2020년에는 큰 시장이 될 것이라고 보았다"며 "이때 많은 이들이 AI를 쉽게 개발하고 최적화하는 것을 목표로 했기 때문에 자연스럽게 오픈소스로 플랫폼을 공개했다"고 말했다.

 

이어 "앞으로도 AI 양극화를 줄이고 스타트업, 기관, 연구소 등이 어려움없이 머신러닝과 딥러닝을 할 수 있도록 다양한 연구를 진행하고 관련 솔루션을 선보이겠다"고 강조했다. 

 

AI타임스 김동원 기자 goodtuna@aitimes.com

 

Copyright © '인공지능 전문미디어' AI타임스 (http://www.aitimes.com/)
무단전재 및 재배포 금지

 

"AI 양극화 벗어나 모두가 개발에 집중할 수 있는 환경 제공할 것"...신정규 래블업 대표 인터뷰 -