네트워크 에지에 있는 AI 애플리케이션 위한 AI 프로세서 개발
에지 애플리케이션과 고성능 에지 데이터센터에 탑재...성능 ↑
전력 소모량 중요한 에지 영역에서 분류 또는 감지 위해 사용
벤치마크 결과 엔비디아 젯슨 TX 모델과 비교해 높은 성능 기록
미국의 스타트업 알파아이씨(AlphaIC)가 8일 고객에 대한 에지(edge) 인공지능(AI) 추론을 위해 글루온(Gluon) 보조 프로세서를 샘플링하기 시작했다고 발표했다. 알파아이씨는 이 칩이 물체 감지와 같은 비전 워크로드에서 엔비디아에 비해 경쟁력 있는 성능을 제공한다고 주장한다.
8일(현지시간) 미국 기술전문 매체 벤처비트(VentureBeat)에 따르면, 알파아이씨는 네트워크 에지에 있는 에이전트 기반 AI 애플리케이션을 위한 AI 프로세서 글루온을 개발했다. 이 칩은 컴퓨팅 장치나 자율주행차에 배치돼 빠른 속도로 결정을 내리거나 대규모 데이터센터에 배치될 수 있다.
글루온 칩은 AI에 최적화된 알파아이씨의 독자적인 아키텍처인 ISA(Instruction Set Architecture)를 기반으로 해 저전력 에지 애플리케이션과 고성능 에지 데이터센터를 위한 AI 가속을 가능하게 한다. ISA는 칩이 처리할 수 있는 명령을 나타낸다. 알파아이씨는 이를 RAP(Real AI Processor) 아키텍처라고 부른다.
RAP 아키텍처는 추론 성능을 제공하며 에지 학습에도 적합하다. 빠르게 발전하는 에지 학습 분야는 자동 레이블 지정을 가능하게 하고 개인 정보 보호와 새로운 시나리오에 대한 지속적인 학습을 촉진한다. 알파아이씨에는 텐서플로우(TensorFlow)를 지원하는 소프트웨어 개발 도구(SDK)가 있다.
글루온은 대만 파운드리 업체 TSMC의 16나노미터(nm) 공정에서 제조된다. RAP 아키텍처를 기반으로 하는 이 칩은 딥러닝 신경망을 위한 컴퓨팅 기능의 8 TOPS(초당 수조 작업 또는 초당 테라 작업을 의미하는 메트릭)를 가지고 있다. 알파아이씨 측은 7나노나 5나노 등 미세공정에서 제조되는 칩들과 비교해 8TOPS 자체가 성능 수준이 낮거나 비슷하다고 생각될 수 있지만, TOPS당 더 높은 성능을 구현할 수 있어 결과적으로 활용도 면에서 장점이 있다고 설명했다.
실제로 칩 성능을 테스트하는 벤치마크 결과 글루온은 객체 탐지 신경망 모델 Yolo-V2에서 초당 153프레임을 처리하는 데 5W를 소모하고, ResNet-50에서 초당 308프레임을 처리하는 데 3.5W를 소모하는 것으로 나타났다. 엔비디아 젯슨(Jetson) TX2가 Yolo-V3와 ResNet-50 모두에서 초당 112프레임을 처리한 것에 비해 높은 성능을 기록했다. 10-20W TDP와 21 TOPS 성능을 자랑하는 젯슨 자비어(Jetson Xavier) NX는 ResNet-50에서 초당 1100프레임을 처리했다.
글루온은 전력 소모량이 중요한 에지 영역에서 분류 또는 감지를 위해 사용되는 보조 프로세서다. 애플리케이션에는 고급 스마트폰, 웨어러블과 같은 시장과 로봇, 카메라 및 센서와 같은 엔터프라이즈 시장이 포함된다.
알파아이씨는 미국 캘리포니아에 기반을 두고 있으며 1년 전에 8백만 달러(한화 약 95억 7000만 원)의 자금을 조달했다. 이 회사는 ‘펜티엄의 아버지’로 알려진 전 인텔 임원인 비노드 담(Vinod Dham)이 2016년에 설립했다.
AI타임스 박찬 위원 cpark@aitimes.com
Copyright © '인공지능 전문미디어' AI타임스 (http://www.aitimes.com/)
무단전재 및 재배포 금지
알파아이씨, 에지 AI용 '글루온' 칩 양산 준비...엔비디아 젯슨보다 성능 우위 - AI타임스
미국의 스타트업 알파아이씨(AlphaIC)가 8일 고객에 대한 에지(edge) 인공지능(AI) 추론을 위해 글루온(Gluon) 보조 프로세서를 샘플링하기 시작했다고 발표했다. 알파아이씨는 이 칩이 물체 감지와 같
www.aitimes.com
'AI산업' 카테고리의 다른 글
| 수도권 일반인 응답자 절반 이상 “데이터 라벨링, 들어본 적 있다”…급성장 중인 데이터 라벨링 산업 (0) | 2022.02.14 |
|---|---|
| 메타, EU에 페이스북·인스타그램 폐쇄 경고…데이터 유출 규제 반발 (0) | 2022.02.12 |
| 카카오모빌리티 "자율주행·UAM 등 기술 혁신으로 모빌리티 개념 바꿀 것" (0) | 2022.02.11 |
| 조성환 현대모비스 대표 "미래 모빌리티 경쟁력, SW·반도체가 좌우" (0) | 2022.02.11 |
| 4년 전 한류 성공 예견한 사회학자, "K-콘텐츠의 미래 희망은 몰입기술과 뉴트로에 있다" (0) | 2022.02.11 |