마이크로소프트 애저(Azure) 클라우드 서비스를 기반으로 구축
수십만 개 GPU, FPGA 및 기타 가속기로 구성된 구조에서 확장
새로운 스케줄링을 사용해 인프라에서 더 많은 작업 수행 가능
마이크로소프트(Microsoft)는 22일 전 세계를 연결하는 새로운 인공지능(AI) 클라우드 인프라 서비스를 개발 중 이라고 밝혔다. 마이크로소프트는 데이터 과학자와 AI연구원이 구축된 마이크로소프트 애저(Azure) 클라우드 서비스에서 모델을 구축, 확장, 실험 및 반복할 수있는 방법을 제공하는 ‘싱귤래러티’(Singularity)라는 새로운 인공지능 인프라 서비스를 개발 중이다.
기술매체 지디넷(ZDNet)에 따르면 싱귤래러티는 다양한 하드웨어 가속기가 지원하는 AI 작업을 위해 전 세계적으로 분산된 인프라 서비스다. 처음부터 수십만 개의 GPU, FPGA 및 기타 가속기로 구성된 구조에서 확장할 수 있도록 설계되었으며 주어진 시스템에서 유효한 처리량을 최대화하여 AI 비용을 절감하는 것을 목표로 구축됐다.
2019년 마이크로소프트는 오픈에이아이(OpenAI)에 10억 달러를 투자했으며 작년에는 애저 오픈에이아이 서비스(Azure OpenAI Service)를 통해 고객이 오픈에이아이에 접근할 수 있게 해줄 뿐 만이 아니라 보안, 안정성, 규정 준수, 데이터개인 정보 보호를 비롯해 다양한 항목에서 엔터프라이즈급 기능이 내장되었다고 발표했다.
싱귤래러티는 딥러닝 워크로드를 투명하게 선점하고 탄력적으로 확장해 정확성이나 성능에 영향을 미치지 않으면서 전세계 가속기 제품군에서 워크로드를 유지한다. AI워크로드 과정에서 컴퓨팅 파워를 클라우드로 최대한 분산시키면서 하드웨어의 부하를 줄여 수명을 늘리고 작업속도를 높이는 방식이다.
마이크로소프트는 싱귤래리티 성능 분석을 위해 제온 플래티넘 8168, 8개의 V100 모델 GPU, 692GB RAM으로 구성된 엔비디아 DGX-2 서버 수만대와 인피니밴드를 통해 네트워크로 연결한 수십만 개의 GPU와 FPGA 및 기타 가속기를 이용해 테스트를 진행 중이라고 밝혔다.
AI타임스 박찬 위원 cpark@aitimes.com
Copyright © '인공지능 전문미디어' AI타임스 (http://www.aitimes.com/)
무단전재 및 재배포 금지
'AI산업' 카테고리의 다른 글
매스웍스 "클라우드 환경에서 '매트랩'과 'AI 워크플로우' 지원" (0) | 2022.02.28 |
---|---|
티머니, '티머니고'에 택시호출 기능 추가...AI 배차로 승차거부 방지 (0) | 2022.02.25 |
LG가 출시한 초거대 AI '엑사원', "넌 무엇을 할 수 있니?" (0) | 2022.02.23 |
구글 '2022년 스타트업의 해' 라운드 테이블 개최 (0) | 2022.02.23 |
네이버, 초거대 AI 적용 독거노인 안부 전화 서비스 대구시로 확대 (0) | 2022.02.22 |