래블업, 엔비디아 GTC 키노트에 2년 연속 등장
AI 엑셀러레이티드 프로그램 국내 유일 파트너사
백엔드닷에이아이로 GPU 가상화 등 AI 개발 지원
삼성·LG·KT·롯데 등 국내 주요 기업 고객사로 확보
세계 최대 인공지능(AI) 개발자 컨퍼런스라 불리는 '엔비디아 GTC' 키노트에 이름을 올린 한국 스타트업이 있다. 래블업이다. 이 회사는 젠슨 황(Jensen Huang) 엔비디아 최고경영자(CEO)가 발표하는 GTC 키노트에 '엔비디아 AI 엑셀러레이티드 프로그램(AI Accelerated Program)' 파트너사로 이름을 올렸다. 지난해에 이어 두 번째다.
엔비디아 AI 엑셀러레이티드는 파트너사가 개발한 솔루션의 성능과 신뢰성을 엔비디아가 보장한다는 취지의 프로그램이다. 입증된 AI 솔루션을 바탕으로 고객사가 엔비디아 플랫폼을 안심하고 도입할 수 있게 하는 것을 목표로 한다. 어도비(Adobe), 레드햇(Red Hat), VM웨어(ware) 등 약 100개 기업이 파트너사로 참가하고 있다. 한국에선 래블업이 유일하다.
래블업, AI 개발의 든든한 지원군 '백엔드닷에이아이' 공급
래블업은 AI 개발 플랫폼 '백엔드닷에이아이(Backend.AI)'를 공급하는 회사다. 그래픽처리장치(GPU)를 분할 제공하는 컨테이너 기반 'GPU 가상화' 기능을 비롯해 AI 개발자가 개발에만 집중할 수 있도록 그래픽유저인터페이스(GUI) 기반 도구 등을 지원하는 플랫폼이다.
하나의 플랫폼에서 AI, 머신러닝 등에 필요한 연구개발(R&D)과 비즈니스, AI 추론 등을 할 수 있다. 사용자는 이 플랫폼에서 분산처리, 재사용성에 특화된 파이프라인 설계 기능을 사용할 수 있다. 분산·보안 환경에 필요한 프록시 서버와 데이터 입출력 부담을 분산하는 스토리지 프록시 등의 기능도 사용 가능하다. 설계나 보안, 데이터 입출력 등의 업무를 플랫폼이 도와준다.
컨테이너 기반 GPU 가상화 기능 제공
이 플랫폼의 대표 기능은 GPU 가상화다. 고가의 GPU를 유연하게 사용할 수 있도록 지원하는 기능이다. 하나의 GPU 램(RAM)을 컨테이너별로 0.1GPU, 0.2GPU, 2.7GPU 등으로 나눠 제공한다. 교육이나 추론 워크로드 등 큰 규모의 GPU가 필요하지 않은 곳에는 단일 GPU를 공유하고 모델 훈련 등 대규모 워크로드에는 다중 GPU를 할당하는 방식이다.
숙소를 예로 들면 하나의 거대한 건물을 나눠서 사용한다고 보면 된다. 건물이 아무리 크더라도 방이 없으면 프라이버시 문제로 보통 혼자 사용하게 된다. 하지만 건물을 여러 방으로 나누면 그만큼 여러 명이 사용할 수 있다. GPU는 거대한 방이다. 하나의 워크로드로 작동한다. 한 개발자가 GPU를 선점하면 다른 곳에서는 이 GPU를 사용할 수 없다.
래블업은 이 GPU를 많게는 20개 이상으로 가상화해서 사용자에게 제공한다. GPU 자원이 많이 필요한 사람에게는 큰 방을, 교육이나 추론 워크로드 등 적은 자원이 필요한 사람에게는 작은 방을 주는 방식이다. 하나의 GPU를 여러 사람이 나눠쓸 수 있어 업무 효율성을 높일 수 있다.
래블업이 제공하는 GPU 가상화 기능은 컨테이너 기반으로 이뤄진다. GPU 가상화는 컨테이너 기술, 가상 머신 등 영역에 따라 기능이 다르다. 많은 기업에서 제공하는 GPU 가상화 기술은 딥러닝 모델 라이브러리에서 진행되는 경우가 많다. 딥러닝 작업을 할 때 어떤 GPU든 상관없이 작동되도록 하는 기능이다.
래블업이 제공하는 컨테이너 기반은 드라이버 레벨에서 GPU를 가상화한 기술이다. 하드웨어 측면이 강하다. 신정규 래블업 대표는 <AI타임스>와 만나 "우리가 제공하는 기술은 컨테이너 기반의 독자적인 GPU 가상화 기술"이라고 소개했다. 이어 "이 기술은 GPU를 가상의 여러 GPU로 나눠 제공한다"면서 "보통 GPU는 하나의 워크로드에서 선점하면 다른 곳에서는 사용할 수 없는데 백엔드닷에이아이는 그 한계를 깨뜨린 기술"이라고 설명했다.
은퇴한 GPU 효율적으로 사용할 수 있게 지원
래블업의 백엔드닷에이아이는 GPU 활용 영역을 넓혀주는 역할도 한다. 최신 GPU는 1~2년 주기로 새로운 모델이 출시된다. 엔비디아가 2020년 A100 제품을 출시한 데 이어 올해 H100을 출시한 것이 대표 사례다.
고객사는 전력대비 높은 성능을 자랑하는 최신 GPU 모델을 선호하기 마련이다. 이 경우 2년 전 구매한 GPU는 무용지물이 될 가능성이 크다. 하지만 A100이나 H100 GPU 하나가 1000만원 이상의 고가 제품이다. 고객사는 새로운 제품을 원하지만 높은 투자 비용으로 구매를 결정하긴 쉽지 않다.
백엔드닷에이아이는 이 문제를 해결할 수 있는 방법을 제시한다. 기존 GPU를 재활용할 수 있는 기능을 제공해 GPU를 교체한다 해도 기존 제품을 다른 용도로 사용할 수 있게 전환 시켜준다.
신정규 대표는 "백엔드닷에이아이는 은퇴한 GPU를 분할 해서 서비스용이나 교육용 등 적은 자원이 필요한 AI 서비스에 활용할 수 있도록 도와준다"면서 "새 GPU를 도입하면 기존 GPU는 AI 서비스 용도로 활용할 수 있게 하고 그 이후에는 더 분할해서 교육용 AI 리소스로 쓸 수 있게 한다"고 설명했다. 이어 "해당 기능으로 고객사는 GPU를 도입할 때 훨씬 긴 안목으로 기기를 도입할 수 있다"고 강조했다.
백엔드닷에이아이는 이러한 기능을 인정받아 지난해 7월 엔비디아로부터 DGX-레디 소프트웨어 인증을 받았다. 엔비디아 DGX-레디 소프트웨어는 엔비디아 DGX 시스템의 클러스터에서 사용하기 위해 완벽한 테스트와 인증 과정을 마친 검증된 엔터프라이즈급 소프트웨어 솔루션을 의미한다. 이 인증을 받은 건 국내에서 래블업이 유일하다.
국내 주요 기업 고객사로 확보, 하반기 B2C 서비스 출시
백엔드닷에이아이는 현재 다양한 AI 설계와 개발에 사용되고 있다. 국내 고객사만 해도 삼성전자, LG전자, KT, 롯데, CJ 등 굵직한 기업이 많이 포진해 있다. 한국은행, 한국전자통신연구원(ETRI), 한국과학기술정보연구원(KISTI), 한국정보통신기술협회(TTA), 한국과학기술연구원(KIST) 등 공공 기관 및 연구 기관과 주요 대학도 백엔드닷에이아이를 사용 중이다.
LG전자는 지난 GTC 행사에서 백엔드닷에이아이의 GPU 가상화 기술을 활용해 스마트팜에서의 머신러닝 모델을 개발할 때 개발 비용을 절약했다고 밝히기도 했다.
신정규 래블업 대표는 "백엔드닷에이아이는 언어모델이나 이미지처리 모델 등 다양한 AI 개발에 사용되고 있다"면서 "몇백 명의 AI 연구원들이 AI 개발을 할 때 GPU 분배를 자동으로 최적화하기 때문에 고객사에서 비용, 시간 절감 등에 만족감을 표하고 있다"고 말했다.
이어 "현재 B2B(기업과 기업간 거래) 서비스만 제공하고 있는데 클라우드 기반의 B2C(기업과 소비자간 거래) 서비스도 2년간 베타 테스트를 진행하며 준비해왔다"며 "올해 하반기 정식으로 출시할 예정"이라고 밝혔다.
AI타임스 김동원 기자 goodtuna@aitimes.com
Copyright © '인공지능 전문미디어' AI타임스 (http://www.aitimes.com/)
무단전재 및 재배포 금지
엔비디아가 주목하는 한국 스타트업 "AI 뒤에 '래블업' 있다" - AI타임스
세계 최대 인공지능(AI) 개발자 컨퍼런스라 불리는 \'엔비디아 GTC\' 키노트에 이름을 올린 한국 스타트업이 있다. 래블업이다. 이 회사는 젠슨 황(Jensen Huang) 엔비디아 최고경영자(CEO)가 발표하는 G
www.aitimes.com
'AI산업' 카테고리의 다른 글
| AI·데이터 분야 슈퍼스타 '데이터브릭스', 한국시장 상륙 (0) | 2022.04.21 |
|---|---|
| [르포] "사각지대가 없다" 인텔리빅스가 선보인 비전AI 기술, 어떻게 쓰이나? (0) | 2022.04.21 |
| "윤석열 대통령 당선인도 왔었다" 딥브레인AI, 가상인간 기술 어디까지 만들었나? (0) | 2022.04.19 |
| 줌(Zoom), 기업 대상 AI 기반 영업 자동화 기능 선보여 (0) | 2022.04.19 |
| [인터뷰] 이항섭 셀바스AI 사업대표 "솔루션 공급사에서 서비스 제공사로, 회사 성장 이제 본격" (0) | 2022.04.19 |