[기고] 자원이 제한적인 환경에서 구동하는 머신러닝, TinyML

TinyML, 저전력 마이크로컨트롤러로 실행
제한적이었던 처리 성능과 커넥티비티 극복
신경망을 개발하고 구축하는 작업 간소화

 

[편집자주] 이 글은 마크 패트릭 마우저 일렉트로닉스 기술 마케팅 관리자가 <AI타임스>에 단독 기고한 기고문이다. 자원이 제한적인 머신러닝 환경에서 구동할 수 있는 TinyML 기술에 대한 내용을 다룬다. 마크 패트릭은 유럽·중동·아프리카(EMEA. Europe, Middle East, and Africa) 기술 마케팅 관리자다. EMEA 지역에서 기술 콘텐츠의 개발과 유통을 담당하고 있다. 마우저 일렉트로닉스는 파트너사들의 신제품을 신속히 공급하는 반도체 및 전자부품 공인 유통기업이다. 세계적인 투자자 워렌 버핏이 소유한 버크셔 해서웨이의 계열사다. 전 세계에 27개 서비스 센터를 운영하면서 223개 이상 국가의 63만 명 이상 고객에게 상품과 서비스를 제공하고 있다.

 

Tiny ML은 스마트 스피커와 같이 IoT, 에지 기반 앱 용으로 설계되는 ML의 제한적인 성능을 풀어줄 수 있는 모델이다. (사진=셔터스톡)

자원이 제한적인 저전력 마이크로컨트롤러로 실행되는 머신러닝(ML)은 통칭적으로 TinyML이라 부른다. 현재 머신러닝은 집, 사무실, 거리 등 생활 곳곳에 사용되고 있다. 많은 ML 애플리케이션(앱)은 복잡한 과학 데이터나 금융 데이터를 분석하기 위해서 대량의 처리 성능을 필요로 한다. 하지만 사물인터넷(IoT)과 에지 기반 앱 용으로 설계되는 ML은 처리 성능이나 커넥티비티가 제한적이다. 이 문제를 풀어줄 수 있는 기술이 바로 TinyML이다.

 

생활의 일부를 이루고 있는 AI와 머신러닝

---

마크 패트릭 마우저 일렉트로닉스 기술 마케팅 관리자.

손목시계나 스타 트렉 커뮤니케이터와 대화하는 일은 공상과학 소설 작가들의 상상력에서 가능하던 일이었다. 하지만 지금은 달라졌다. 이러한 일들이 현실에서 이뤄지고 있다. 지금 우리는 스마트폰 앱과 대화하고 자동차 인포테인먼트 시스템과 얘기하고 스마트 스피커와 소통한다.

 

인공지능(AI)은 사고하고 지각하고 인지하고 문제를 해결할 줄 아는 컴퓨터를 만드는 과학 분야다. 컴퓨터 및 데이터 과학의 토대가 된다. ML은 AI의 한 응용 분야로서 알고리즘을 사용해서 컴퓨터가 학습을 하고 스스로의 능력을 향상시킬 수 있다.

 

오늘날 ML은 일기 예보와 운전 경로 찾기에서부터 소셜 미디어 앱의 배너 광고에 이르기까지 생활 곳곳에 사용되고 있다. 다양한 분야들이 ML을 사용해서 수 페타바이트에 이르는 데이터를 분석하고 트렌드를 찾아낸다.

 

머신러닝의 작동 원리

---

위에 소개된 ML  사례에는 최종 소비자가 알지 못하는 복잡한 기술과 작업이 담겨있다. 새로운 블랙홀을 찾는 작업이 얼마나 복잡한지 혹은 일기 예보를 위해서 얼마나 많은 수의 과거 기상 이벤트 순열을 사용하는지 등을 일반 사람들은 알지 못하는 것처럼 ML도 그 안에 복잡한 작업이 들어간다.

 
ML에는 대규모 데이터 셋, 다중의 알고리즘, 대규모 컴퓨팅 성능이 사용된다. ML은 학습 방식에 따라서 각기 다른 범주로 세분화된다. 지도 학습(supervised learning), 비지도 학습(unsupervised learning), 준지도 학습(semi-supervised learning), 강화 학습(reinforcement learning)이다.

 

ML 애플리케이션의 핵심을 이루는 것은 신경망이다. 간단히 말해서 신경망은 인간 뇌의 뉴론 기능을 수학적 모델로 모방하고자 하는 시도다. 이 모델은 알고리즘을 사용해서 어떠한 결과의 확률을 추론한다. 예를 들어서 이미지 인식 작업으로 어떤 그림이 개일 확률이 95%라는 식이다. 

 

신경망에도 여러 유형이 있으며, 대표적인 것으로 컨볼루션 신경망(CNN)과 순환 신경망(RNN)을 들 수 있다. 신경망마다 사용되는 연결 계층(fully connected layers)이 다르며 적합한 작업들이 다르다.

 

지도 학습(supervised learning)은 신경망으로 대량의 데이터를 학습시켜서 알고리즘이 결과를 추론하도록 한다. 이미지 인식 작업 용으로 CNN이 가장 적합하다. 예를 들어서 다양한 종류의 과일을 식별하기 위해서 신경망 알고리즘으로 수천 개의 다양한 과일 사진을 제공한다. 이들 사진은 다양한 각도와 다양한 익음 정도로 찍힌 것이며, 과일 이름을 레이블링하고 있다. 그러면 알고리즘이 구분 가능한 특징들을 잡아내서 한 종류의 과일을 다른 종류의 과일과 구분할 수 있게 된다. 이 학습 과정은 반복적으로 실시되며, 테스트 데이터셋을 접했을 때 최대의 확률을 달성하도록 알고리즘을 조정할 수 있다.

 

학습과 추론. (출처=마우저)

 

테스트 데이터로 최상의 신경망 알고리즘 성능을 달성하면 모델을 구축할 수 있는 준비가 된다. 이 구축을 추론이라고 하며, 모델이 확률에 기반해서 결과를 추론한다.

 

예를 들어서 스마트 스피커와 상호작용하기 위해서는 “Hey, Google” 같이 트리거 워드를 말해서 기기를 깨우고 준비시켜야 한다. 스마트 스피커는 데이터 센터와 같은 처리 성능을 갖추지 못했으므로, 짧은 오디오 파일을 기록하고 클라우드로 스트리밍해서 추론을 하고 어떤 요청인지 판단한다. 이 트리거 워드를 인식하는 것이 간단한 ML의 대표적인 예이다. 이것이 바로 TinyML이다.

 

머신러닝과 산업용 IoT

---

ML이 보편화됨에 따라서 가능한 애플리케이션 목록이 빠르게 늘어나고 있다. 많은 산업용 앱은 빅데이터 애플리케이션이 아니라 생산 라인을 좀더 효율적으로 만드는 것에 중점을 둔 것이다. 생산 라인으로 예기치 않은 가동 중단은 막대한 피해를 초래할 수 있다. 

 

냉장 식품 가공 공정 중에 모터 고장이 발생해서 생산이 중단되면 원재료를 폐기해야 할 수 있다. 이러한 고장을 미연에 방지하기 위해서 많은 기업들이 예측적 유지보수를 도입해서 계획적으로 유지보수를 실시한다. 모터와 엑추에이터 같은 생산 설비들에 대해서 상태 기반 모니터링을 함으로써 예를 들어서 모터가 과도한 마모의 징후를 나타내는 것을 감지할 수 있다. 산업용사물인터넷(IIoT) 에지 센서 디바이스로 구축된 ML 알고리즘이 모터의 진동 시그니처가 정상 범위를 벗어나는 것을 식별하고 작업자에게 경고한다.

 

산업용 분야로 ML을 활용할 수 있는 앱은 무수히 다양하다. 하지만 그러기 위해서는 많은 기술적 과제들을 해결해야 한다. 빅데이터 애플리케이션과 달리, 단순 IIoT 에지 센서의 처리 성능과 메모리 자원은 데이터 센터로 이용할 수 있는 것에 비해서 극히 일부에 불과하다. 

 

하나의 공장으로 수백 개 센서를 사용할 수 있으므로, 물리적 크기, 적합한 전원 가용성, 유선 또는 무선 커넥티비티와 함께 규모의 경제가 중요하다. 하지만 대부분의 경우에 진동 센서에 사용되는 신경망 알고리즘은 심우주 연구보다는 덜 까다로우므로 임베디드 개발자들이 배터리로 구동되는 저전력 마이크로컨트롤러로 신경망 모델을 실행할 수 있는 방안들을 연구하고 있다.

 

TinyML: 에지에서의 머신러닝

---

신경망 모델을 학습하는 데 사용되는 컴퓨팅 플랫폼이 구축에 사용되는 것과 동일할 필요는 없다. 그러므로 극히 자원 집약적 프로세스로서 학습에 대해서는 신경 쓰지 않아도 된다. 하지만 기술적 과제들은 여전히 남는다. 알고리즘을 제 시간에 실행할 수 있을까? 디바이스가 어떻게 호스트 시스템과 통신하고 작업자에게 통보할 것인가? 임베디드 개발자들에게 또 다른 어려운 점은, 대부분의 임베디드 개발자가 데이터 과학자가 아니라는 것이다. 그러므로 ML 개념을 익히고 신경망을 다루기 위해서 가파른 학습 곡선을 필요로 한다.

 

적합한 신경망 모델을 선택하고, 모델을 학습시키고, 모델을 조정하고 구축하는 것은 복잡한 작업이다. 다행히 갈수록 더 많은 수의 ML 라이브러리, 프레임워크, 툴들이 등장함으로써 마이크로컨트롤러로 신경망을 개발하고 구축하는 작업을 크게 간소화하게 됐다. 어떤 에지 기반 애플리케이션이든, TinyML 애플리케이션 용으로 설계된 많은 수의 AI/ML 자원으로부터 도움을 받을 수 있게 됐다. 마우저(Mouser)의 ML 프로젝트 예도 그 중의 하나이다.

 

AI/ML이 산업 분야의 디지털 전환을 위해서 핵심적 역할을 하고 있다. 에지 기반 산업용 애플리케이션이 AI/ML을 활용해서 진화하고 있다. 생산 라인의 센서들로 포착된 데이터를 활용해서 공장의 효율과 생산성을 높일 수 있다.

 

AI타임스 마크 패트릭 마우저 일렉트로닉스 EMA 기술 마케팅 관리자 mark.patrick@mouser.com

 

Copyright © '인공지능 전문미디어' AI타임스 (http://www.aitimes.com/)
무단전재 및 재배포 금지

 

 

[기고] 자원이 제한적인 환경에서 구동하는 머신러닝, TinyML - AI타임스