칩 설계 과정에 AI를 적용해 성능 및 효율 개선
AI 알고리즘 처리에 특화된 AI 프로세서 설계
메모리와 프로세서를 같은 칩에 하나로 패키징
메모리와 프로세서를 수직으로 쌓아 적층 패키징
120조 매개변수의 웨이퍼 크기 거대 AI 칩 설계
인간 뇌처럼 연산·저장 동시에 하는 뉴로모픽 설계
[편집자 주] 하루가 멀다하고 새로운 기술들이 쏟아져 나옵니다. AI는 모든 산업 분야에 영향을 미칠 핵심 기술이 되었습니다. [찬이의 IT교실]은 AI를 비롯해 어렵고 생소한 IT 기술과 산업을 알기 쉽고 재미있게 풀어 드리겠습니다.
최근 구글이 수개월이 걸리던 칩 설계를 인공지능(AI)를 이용해 단 6시간 만에 끝냈다고 발표해 주목받았죠. 구글은 자사의 AI 칩인 TPU(Tensorflow Processing Unit) 설계의 일부를 AI가 수행했다고 밝혔는데요. 칩 설계에서 특히 시간과 인력이 많이 필요한 ‘평면배치(floorplanning)’ 과정에 AI를 적용했다고 합니다.
평면배치는 건물의 내부 공간을 용도에 맞게 배치하듯이 손톱만 한 크기의 칩 안에 논리 회로(게이트) 수천만 개와 기억 소자(메모리 블록) 수천 개를 효율적으로 배치하는 과정인데요. 이 소자들을 연결하는 배선 길이도 다 합치면 수㎞나 된다고 하죠. 소자 간격이 짧으면 그만큼 배선이 짧고 신호도 빨리 전달되지만 소자들이 너무 밀집하면 전력 소모가 많아지는 문제가 생길 수 있어요.
그래서 반도체 칩을 설계할 때는 칩의 용도에 따라 소자 배치를 최적화하는 것이 중요한데요. 예를 들어 스마트폰용 칩은 배터리 수명을 늘리기 위해 전력 소모를 가능한 한 최소화해야 하고, 데이터센터용 칩은 성능을 높이기 위해 속도를 최대화하는 것이 관건이예요.
앞서 살펴보았듯이, 특히 AI 칩은 고속 병렬연산 등 AI 데이터 처리에 최적화된 반도체이기 때문에 기존 반도체나 컴퓨팅 기술로 데이터 처리와 연산의 성능을 달성하기에는 여러모로 무리가 따릅니다. 먼저 칩에 수 많은 소자를 집적하게 될 경우 발생하는 높은 열이나 소자 간의 간섭 등의 물리적인 문제를 극복하기 어렵습니다.
또한 주기억장치, 중앙처리장치, 입출력장치로 이어지는 직렬처리 구조는 AI 처리에 적합한 고속의 병렬연산을 수행할 때 데이터 병목 문제를 일으킵니다. 병렬처리는 프로세서와 저장장치 간 또는 저장장치들 간의 데이터 이동이 필수적인데 이러한 이동이 많아질수록 CPU 처리속도가 아닌 데이터 이동속도가 컴퓨팅 성능과 에너지 소비에 영향을 미치게 됩니다.
이러한 문제를 해결하려면 컴퓨팅 소재, 구조, 계산모델 등에 있어서 혁신적인 방식의 반도체 설계 기술이 필요한데요. 잘 알려진 방법은 AI 알고리즘 처리에 특화된 연산패턴을 지원하는 AI 전용 프로세서를 개발하는 것입니다. AI 전용 프로세서는 프로세서와 메모리를 병렬화된 회로로 구현해 성능과 전력 효율을 높이고 지연 시간을 줄이게 됩니다. AI 알고리즘을 효율적으로 실행하기 위한 독자적인 구조나 특화된 병렬연산 회로를 제공하는 전형적인 AI 칩 설계 방법인데요. 엔비디아의 GPU(Graphic Processing Unit)나 구글의 TPU(Tensor Processing Unit)를 비롯해 대부분의 AI 칩에서 채택하는 설계 방식입니다.
또 다른 방법으로는 프로세서와 메모리 사이의 데이터 이동성을 효율적으로 설계하는 PIM(Processing in Memory)이 있습니다. 메모리와 프로세서를 같은 칩에 하나로 패키징(packaging)해 CPU와 메모리 간 대역폭 차이로 발생하는 병목 문제와 데이터 이동에 따른 에너지 소모를 줄일 수 있습니다. 삼성전자, SK 하이닉스, 마이크론 등이 PIM 기술에 집중하고 있어요.
또한 병렬 프로세서들과 다수의 메모리 노드들을 서로 연결해 각 프로세서가 각자의 데이터를 병렬적으로 처리하게 해 성능을 높이는 3D 패키징 방식도 각광 받고 있습니다. 프로세서 칩과 메모리 칩을 수직으로 쌓아 올려(적층) 패키징해서 효율적인 데이터 이동성 뿐만 아니라 높은 전력 효율로 집적도(1개의 반도체 칩에 들어가는 소자 수)를 극대화 시킬수 있는 설계 방식입니다. 이미 AMD, 그래프코어(Graphcore), 인텔 등이 자사의 AI 칩에 적용하고 있다고 합니다.
그런가 하면 키보드에 가까운 크기의 거대한 AI 칩도 있는데요. 전통적으로 수백 또는 수천 개의 컴퓨터 칩은 웨이퍼라고 하는 12인치(30cm) 실리콘 디스크에서 제조되며 나중에 개별 칩으로 쪼개서(slicing) 패키징 됩니다. 반면 AI 반도체 스타트업인 세레브라스(Cerebras)는 하나의 웨이퍼를 구성하는 칩을 쪼개지 않고 전체 웨이퍼를 사용해 인간 뇌의 뉴런 수보다 많은 120조 개의 매개변수를 가진 신경망 모델을 처리하는, 세계에서 가장 큰 AI 칩 WSE-2(Wafer Scale Engine-2)를 출시했는데요. 2조6000억개의 트랜지스터가 집적된 85만개의 코어를 가졌다고 합니다. 수백 개의 코어로 구성된 GPU와 비교했을 때 그야말로 ‘AI 맞춤형’ 칩이라고 할 수 있겠네요.
마지막으로 뇌 신경 구조를 모방해 사람의 사고 과정과 비슷한 방식으로 정보를 처리하도록 고안한 뉴로모픽(Neuromorphic) AI 칩이 있는데요. 인간의 신경망 구조와 같이 모든 칩을 병렬로 연결해 연산과 저장을 한 번에 할 수 있도록 하는 것이 뉴로모픽 기술의 핵심입니다.
연산과 저장이 가능한 인-메모리 컴퓨팅(PIM)과 동일한 개념이지만 뇌 신경망 구조를 활용했다는 점에서 인-메모리 컴퓨팅과 비교해 진화한 기술이라 할 수 있어요. 뉴로모픽 칩 내의 소자는 인간 뇌의 뉴런(연산), 메모리는 시냅스(기억) 역할을 담당합니다.
뉴로모픽 칩은 연산을 담당하는 중앙처리장치(CPU)와 정보를 저장하는 메모리가 별도로 존재하는 기존 컴퓨팅과 달리 사람의 뇌처럼 연산과 저장을 동시에 할 수 있어 전력 소모와 연산 속도가 빠르다는 장점이 있습니다. 기존 반도체와 비교해 높은 집적도도 또한 큰 장점입니다.
IBM이 뉴로모픽 AI 칩 트루노스(TrueNorth)를 선보였지만 뉴로모픽 칩의 장점인 저전력과 정확도를 구현하지 못했다는 평가를 받기도 했죠. 인텔은 뉴로모픽 AI 칩 로이히(Loihi)를 출시했는데, 검색 및 연산 처리 능력이 기존 CPU보다 1000배, 전송 속도는 100배 이상 빠릅니다. 인텔은 로이히 칩 760여개를 이어붙인 뉴로모픽 연구 시스템 포호이키 스프링스(Pohoiki Springs)를 공개하기도 했는데요. 포호이키 스프링스는 동물이 냄새를 맡을 때 뇌에서 일어나는 전기 신호를 복사해 뉴로모픽 칩에 적용한 것으로, 생쥐에 맞먹는 후각 능력을 갖고 있다고 합니다. 국내에서도 삼성전자와 SK하이닉스가 뉴로모픽 AI 칩 개발에 속도를 내고 있습니다.
AI타임스 박찬 위원 cpark@aitimes.com
Copyright © '인공지능 전문미디어' AI타임스 (http://www.aitimes.com)
무단전재 및 재배포 금지
http://www.aitimes.com/news/articleView.html?idxno=144587&page=2&total=9745
[찬이의 IT교실] AI 칩이 뭐길래… ③ AI 칩 설계도 진화한다 - AI타임스
[편집자 주] 하루가 멀다하고 새로운 기술들이 쏟아져 나옵니다. AI는 모든 산업 분야에 영향을 미칠 핵심 기술이 되었습니다. [찬이의 IT교실]은 AI를 비롯해 어렵고 생소한 IT 기술과 산업을 알기
www.aitimes.com
'AI테크' 카테고리의 다른 글
| "배터리 속 다 보여" 카이스트, 리튬이온·전자 모습 영상화 기술 내놔 (0) | 2022.04.29 |
|---|---|
| "유기 태양전지 상용화 앞당긴다"…지스트 연구진, 고효율·대면적 모듈 필름 개발 (0) | 2022.04.29 |
| AI 살롱 들어보셨나요?…여성들을 위한 '뷰티 로봇' 주목 (0) | 2022.04.29 |
| 외로운 이에게 어떤 AI를 추천할까? 목소리만 있는 AI vs 인간 형상의 AI (0) | 2022.04.28 |
| 축구 드리블부터 골프 스윙까지…스포츠도 'AI 코치'에게 배운다 (0) | 2022.04.28 |