Pathways 아키텍처, 5,400억 개의 매개변수, Transformer 기반 모델 문제 해결 방법을 학습해 모든 문제를 해결할 수 있는 단일 AI 모델 프로그래밍, 수학 문제 해결 및 농담을 설명할 수 있는 최신 언어 모델 구글이 프로그래밍, 수학 문제 해결 및 농담을 설명할 수 있는 새로운 언어 모델인 PaLM (Pathways Language Model)을 공개했다. PaLM은 6,144개의 TPU v4 칩을 결합해 단일 모델을 효율적으로 훈련할 수 있도록 하는 Pathways 시스템으로 학습된 5,400억 개의 매개변수, 트랜스포머(Transformer) 기반 모델이다. PaLM은 수백 가지의 언어 이해 및 생성 작업에 대해 시험됐으며 현재까지 만들어진 다른 언어 모델보다 학습 효율성이 높다...