[기고] 머신러닝의 대중화 이끄는 나노엣지 AI 기술

나노엣지 AI 스튜디오는 임베디드 개발자를 위한 유틸리티다. (사진=ST마이크로일렉트로닉스)

 

머신러닝 애플리케이션 개발의 간소화

---

현대성 ST마이크로일렉트로닉스 부장.

일반적으로 머신러닝에서 성과를 내고자 하는 대기업이라면 일단 데이터 사이언티스트를 한두 명 채용해 몇 달 동안 막대한 데이터를 수집한 후 클린해 AI 모델을 만든다. 그 다음에는 임베디드 개발자가 마이크로컨트롤러에서 구현을 포팅하거나 STM32Cube.AI와 같은 툴을 이용해 신경망을 STM32 MCU에 최적화된 코드로 변환한다.  하지만 회사가 예산에 쪼들린다면 데이터 사이언티스트 한두 명 채용하기가 녹록치 만은 않을 것이다. 업무를 아웃소싱하는 일조차 아예 불가능할지도 모른다. 사안이 민감할 수도 있고 상주할 인력이 필요할 수도 있다.

 

인력을 제대로 확보하고 시간까지 충분하다고 해도 양질의 데이터를 확보하기란 쉽지 않다. 머신러닝이 크게 발전했지만 믿을 만한 트레이닝 샘플을 확보하기는 여전히 어렵다. 예컨대 애플리케이션이 비정상 동작을 탐지하려고 해도 데이터가 없을 수도 있다. 실제로 많은 데이터세트가 이상치 탐지와 같은 분류 문제에 작동하고 있더라도 새로운 상황을 탐지하려고 할 때에는 쓸모가 없다. 양질의 데이터를 확보하는 일도 중요하지만 그 작업은 명확하게 이루어지지 않는다. 샘플이 오타나 누락투성이라면 깨끗한 세트를 기록하고 정확하게 라벨링하는 데 막대한 투자가 필요할 수도 있다.

 

나노엣지 AI 스튜디오는 임베디드 개발자를 위한 유틸리티이며, 데이터 공학 전문성이 없어도 된다. 그 비결은 같은 장치에서 공칭 동작과 추론을 배우는 트레이닝 단계의 운영에 있다. 덕분에 전체 프로세스를 같은 STM32 마이크로컨트롤러에서 실행할 수 있다. 또한 최종 사용자 상호작용도 버튼 누르기만큼 단순하다. 그 결과 엔지니어는 로컬 환경에 따라 시스템을 맞춤 구성해 내구성을 높일 수 있으며 설치 방식도 더 간단하다.

 

나노엣지 AI 스튜디오는 Windows 10 또는 Ubuntu 기반으로 데이터를 처리하면서 연관성 높은 AI 라이브러리를 찾는 데 제격이다. 이 애플리케이션의 설계는 임베디드 개발과 C 애플리케이션을 빈틈없이 통합하는 작업에 초점을 맞추고 있다. 간단히 말하면 나노엣지 AI 스튜디오는 CPU, 메모리, 센서와 같은 기본 사양에 맞춰 최선의 나노엣지 AI 라이브러리를 찾는다. 그 다음에는 STM32 MCU에서 실행되는 라이브러리를 출력한다. 개발자는 이를 임베디드 애플리케이션에 바로 통합하면 된다.

 

두 가지 새로운 알고리즘을 AI 솔루션 하나에

---

이전에는 나노엣지 AI 스튜디오가 이상 탐지와 분류, 이렇게 두 가지 머신러닝 알고리즘을 지원했다. 나노엣지 AI 스튜디오 V3는 이 두 알고리즘을 지원하는 라이브러리가 훨씬 더 많다. 또한 알고리즘이 최적화돼 기존 용도에서 성능이 늘어나는 효과가 있다. 따라서 임베디드 개발자는 이 새로운 버전의 소프트웨어로 리소스 관리나 실행 시간 단축과 같은 효과를 누릴 수 있다.

 

나노엣지 AI 스튜디오 V3는 두 가지 알고리즘을 더 지원한다. 외삽법(extrapolation)과 이상치(outliers)가 그것이다. 전자는 시험을 하지 않은 조건에서 동작을 예상할 수 있다. 회귀 분석이라고도 하며 여러 변수 간 관계를 매핑하는 역할을 한다. 예를 들어 데이터 세트로 100ºC, 110ºC, 150ºC에서 팬의 동작을 측정할 수 있었다면 회귀분석 알고리즘 적용으로는 160ºC에서 동작을 외삽할 수 있다. 나노엣지 AI 스튜디오의 외삽법 알고리즘으로 선형 회귀분석만 가능한 것은 아니다. 복잡한 상황을 처리할 수 있는 고급 분석도 가능하다. 따라서 개발자는 데이터 사이언티스트가 자체 시험하지 못하는 것을 모니터링하는 새로운 애플리케이션을 만들 수 있다.

 

두 번째 알고리즘은 하나의 가치 집단을 기반으로 하는 이상치 탐지 시스템이다. 실제로 이 시스템은 정상 동작만 배운다. 이를 벗어나는 것은 이상(anomaly)이 된다. 이전에는 이상 탐지 시스템을 이용할 때 정상 동작을 기록한 후 문제를 한 가지 이상 시뮬레이션해야 했다. 앞서 말했듯, 같은 마이크로컨트롤러에서 동작을 모두 배웠기 때문에 운영을 크게 단순화할 수 있었다. 하지만 이상을 재현하기가 아예 불가능한 경우도 있다. 따라서 이상치 탐지는 일상 운영에서 나오는 데이터를 이용해 그 상황에서 이상을 추론한다.

 

간편한 데이터 로깅과 새로운 그래픽 사용자 인턴페이스

---

데이터 사이언티스트는 가끔 최종 제품을 출시한다는 목표를 거스르기도 하고 교착 상태에 빠지기도 한다. 사실상 실제 이용에서 나오는 데이터보다 더 좋은 것은 없지만 그렇다고 늘 있는 것은 아니다. 더구나 시간 제약을 받는 경우도 많다. 새로 탑재된 데이터 로깅 기능을 이용하면 어떤 STWIN SensorTile 무선 산업용 노드도 명료한 데이터 수집 툴로 바꿀 수 있다. 사용자는 보드를 PC에 연결하고 나노엣지 AI 스튜디오를 사용해 데이터 로깅으로 전환한다. 이후로는 데이터 기록이 자동화된다. 엔지니어는 STWIN 보드를 장비에 고정해 장비를 모니터링하게 된다. 센서가 데이터를 기록하면 개발자는 라벨링과 파싱으로 더 정확한 애플리케이션을 만들 수 있다.

 

나노엣지 AI 스튜디오 새 버전에서 또 한 가지 좋은 점은 사용자 인터페이스다. 새 알고리즘과 데이터 수집 기능을 도입하면서 사용자 환경의 개선도 중요했다. 개발자의 워크플로를 최적화하는 것도 중요했다. 실제로 나노엣지 AI 스튜디오의 주 대상은 엣지에 머신러닝을 도입하고자 하는 조직이다. 라이브러리는 1KB 정도로 아주 작고 최적화 수준이 높다. 따라서 알고리즘에 대한 액세스를 개선해 개발자가 프로젝트 카테고리를 쉽게 선택하고 라이브러리를 단시간에 생성할 수 있게 만들어야 했다.

 

임베디드 개발자는 나노엣지 AI 스튜디오로 리소스 관리나 실행 시간 단축과 같은 효과를 누릴 수 있다. (사진=ST마이크로일렉트로닉스)

 

나노엣지 AI 스튜디오를 통한 자동 머신러닝

---

나노엣지 AI 스튜디오가 출시되기 전에는 엔지니어가 직접 소프트웨어 벤더에 연락해 하드웨어 구성과 모니터링할 동작을 살펴봐야 했다. 이제는 개발자가 나노엣지 AI 스튜디오로 머신 러닝 라이브러리를 사용자 정의, 생성, 검증할 수 있다.

이 유틸리티에서는 우선 사용자가 원하는 Cortex-M 아키텍처와 센서를 시스템에서 선택해야 한다. 그리고 장비의 일반 동작을 나타내는 값이 들어 있는 파일을 가져온다. 이는 팬의 가속기에서 가져온 데이터 또는 산업용 장비의 전기 데이터가 될 수도 있다. 그 다음에는 나노엣지 AI 스튜디오가 자동으로 테스트와 최적화를 실행해 수억 가지 가능 조합 중에서 최상의 알고리즘 조합을 정렬한 다음, 개발자가 임베디드 에뮬레이터를 사용해 검증 가능한 사용자 정의 라이브러리를 생성한다.

 

나노엣지 AI 스튜디오 V3는 사용자 인터페이스 단계부터 ST의 모든 개발 보드를 지원한다. 최적화된 라이브러리를 무료로 쓸 수 있기 때문에 proof-of-concept의 실행도 간단명료하다. 스마트 진동 센서 튜토리얼의 경우, 사용자가 NUCLEO-L432KC를 잡아 팬의 정상 동작을 포착해 데이터를 나노엣지 AI 스튜디오로 보내 라이브러리를 출력할 수 있다. 그리고 메인 루프에서 라이브러리를 호출해 이전에 새로운 버전의 소프트웨어 내부 벤치마크에서 정의한 최소 트레이닝 주기를 추론 단계에 앞서 실행할 수 있다. 따라서 나노엣지 AI 라이브러리를 이용하면 예측 유지관리와 스마트 보안 운영 등을 이용하는 애플리케이션을 신속하게 제작할 수 있다.

 

엣지 AI 스프린트를 이용한 프로젝트 부트스트랩

---

AI가 애플리케이션에 어떤 효용이 있을지 평가, 증명하지 못하는 고객이 많다. 엣지 AI 스프린트는 단순한 유틸리티가 아니라 애플리케이션과 용도 안에 산재한 장애물 사이에서 개발자에게 길을 안내해 주는 전문 지원 시스템으로 올바른 출발을 돕는 솔루션이다. 따라서 트레이닝 세션과 나노엣지 AI 스튜디오 라이선스, 기술 지원이 엣지 AI 스프린트 안에 들어 있다. 팀에서는 프로젝트의 복잡도에 따라 라이선스 기간을 선택해 프로덕션에 안착할 수 있다. 이렇듯 엣지 AI 스프린트는 프로젝트의 첫 단계를 부트스트랩하는 툴로서 위험과 투자는 제한하는 한편 성공 가능성은 높이는 역할을 한다.

 

ST마이크로일렉트로닉스 현대성 부장 promotion.korea@st.com

 

Copyright © '인공지능 전문미디어' AI타임스 (http://www.aitimes.com/)
무단전재 및 재배포 금지

 

[기고] 머신러닝의 대중화 이끄는 나노엣지 AI 기술 - AI타임스