초거대AI 38

딥마인드도 초거대 AI 언어모델 고퍼 공개...크기 대비 성능이 차별점

관련 논문 2개 함께 발표...2800억개 매개변수로 구성 GPT-3보다 크기 조금 크지만 MMLU 성능은 2배 능가 검색 언어모델 RETRO, 25분의 1 크기로 GPT-3와 같은 성능 딥마인드가 초거대 인공지능(AI) 언어모델 개발 경쟁에 처음 합류했다. 모델 크기를 늘리는 여타 기업과 달리 AI 학습 효율을 높여 개발 비용을 줄이는 전략을 택했다. 9일(현지시간) 딥마인드는 자체 개발한 초거대 AI 언어모델 고퍼(Gopher)를 공개했다. 고퍼의 성능을 증명하는 논문과 함께 이날 딥마인드는 검색 언어모델(Retrieval Language Model)과 거대 언어모델의 윤리 문제를 각기 다룬 논문 2개를 함께 발표했다. 먼저 고퍼의 크기에 대해 살펴보자면 2800억개 매개변수로 구성됐다. 오픈AI의 ..

AI테크 2021.12.14

안락사 윤리 판단하는 AI ‘델파이’ 등장...연구 주도한 최예진 교수 발표 내용

30일 서울대 인공지능 정책 이니셔티브(SAPI) 국제 컨퍼런스 초대 연구 주도한 최예진 워싱턴대 교수가 상식·윤리 판단 AI 델파이 직접 소개 GPT-3와 같은 초거대 AI는 윤리에 젬병...규모 경쟁만으론 안 된다 철학 분야 베스트셀러 '정의는 무엇인가'에 등장하는 딜레마에 대해 윤리적 대답을 제시하는 인공지능(AI)이 등장했다. 미국 시애틀 앨런(Allen) 연구소 AI 연구팀이 개발한 '델파이(Delphi)' 이야기다. 연구진은 델파이에게 사람 4명과 1명이 각기 묶여있는 2가지 철로를 전차가 지나가야 한다면 어떤 선택을 할 것인지 물었다. 이에 대한 델파이의 대답은 "4명을 살리기 위해 1명을 치는 선택을 하는 것이 좀 더 윤리적으로 허용 가능할 것"였다. 30일 서울대 인공지능 정책 이니셔티브..

AI테크 2021.12.01

네이버, 초거대 AI 후속 연구 공개...영어·이미지까지 영역 확장 중

네이버 개발자 컨퍼런스 'DEVIEW 2021' 내 하이퍼클로바 발표 내용 한국어-영어 다국어 모델, 이미지-텍스트 멀티모달 모델로 영역 확장 초거대 언어모델 평가 기술도 개발 중...모델 배포 위한 필수 관문 네이버가 자사 초거대 인공지능(AI) 하이퍼클로바 최초 공개 이후 진행한 후속 연구 내용을 공개했다. 한국어-영어 다국어 모델부터 이미지와 텍스트를 함께 다루는 멀티모달 모델, 규모가 큰 언어모델을 자동 평가하는 기술까지 크게 3가지 연구 주제가 핵심이다. 네이버가 24일부터 26일까지 진행하는 자체 개발자 컨퍼런스 'DEVIEW 2021'에는 하이퍼클로바 논문 제1저자로 참여한 다수 연구원들이 발표자로 나서 최근 연구 내용을 소개했다. 한국어 특화 모델, 다국어로 영역 넓히는 이유 네이버 클로바..

AI테크 2021.11.29

네이버, 초거대 AI 후속 연구 공개...영어·이미지까지 영역 확장 중

네이버 개발자 컨퍼런스 'DEVIEW 2021' 내 하이퍼클로바 발표 내용 한국어-영어 다국어 모델, 이미지-텍스트 멀티모달 모델로 영역 확장 초거대 언어모델 평가 기술도 개발 중...모델 배포 위한 필수 관문 네이버가 자사 초거대 인공지능(AI) 하이퍼클로바 최초 공개 이후 진행한 후속 연구 내용을 공개했다. 한국어-영어 다국어 모델부터 이미지와 텍스트를 함께 다루는 멀티모달 모델, 규모가 큰 언어모델을 자동 평가하는 기술까지 크게 3가지 연구 주제가 핵심이다. 네이버가 24일부터 26일까지 진행하는 자체 개발자 컨퍼런스 'DEVIEW 2021'에는 하이퍼클로바 논문 제1저자로 참여한 다수 연구원들이 발표자로 나서 최근 연구 내용을 소개했다. 한국어 특화 모델, 다국어로 영역 넓히는 이유 네이버 클로바..

AI테크 2021.11.26

오픈AI, GPT-3 API 사용 위한 대기자 명단 삭제...모든 개발자 즉시 사용 가능

11월 18일부터 지원 국가 내 모든 개발자 가입 후 바로 사용할 수 있어 “안전장치 개선하면서 GPT-3 확장 개방 가능해졌다” 콘텐츠 필터로 GPT-3 API로 생성한 텍스트 안전도 분류 오픈AI가 18일(현지시간) 공식 블로그에서 자사 초거대 인공지능(AI) GPT-3 사용을 위한 대기자 명단을 완전 삭제했다고 밝혔다. 18일부터 오픈AI 지원 국가 내 모든 개발자는 가입 절차만 거치면 바로 GPT-3를 사용할 수 있게 됐다. 오픈AI가 GPT-3 API를 제공하기 시작한 것은 2020년으로 이번이 처음이 아니다. 다만 기존에는 안전 문제를 이유로 대기자 명단에 이름을 올려 기다리는 절차를 필수적으로 거쳐야 했다. GPT-3 API를 일반에 바로 개방할 수 있게 된 이유도 이러한 안전 문제를 개선했..

AI산업 2021.11.23

[이프 카카오 2021] 카카오엔터프라이즈, 서비스형 AI(AIaaS)에 집중한다...연내 '커스텀 STT' 출시

카카오 기술 컨퍼런스 ‘if (kakao) 2021’ 발표 내용 AIaaS, 고객사 분야별 AI 개발 쉽고 빠르게 바꾸고 성능도 높여...초거대 AI 흐름과 일치 음성인식 AIaaS '커스텀 STT' 올해 내 출시...신속 개발 필요한 AI 네비게이션에 유용 카카오엔터프라이즈가 자사 인공지능(AI) 서비스 차별점으로 'AIaaS(AI-as-a-Service)'를 강조했다. AIaaS는 클라우드 기반 서비스형 AI를 뜻한다. 카카오엔터프라이즈가 제공하는 API로 사용 기업이 별도 개발 과정 없이 AI를 개발할 수 있다는 것. 연내에는 새로운 라인업이자 음성인식 AIaaS인 '커스텀 STT(Custom Speech-To-Text)'를 출시한다는 계획이다. 카카오엔터프라이즈는 17일 카카오 기술 컨퍼런스 ‘i..

AI산업 2021.11.19

카카오, 공동연구팀과 자사 초거대 AI 'KoGPT' 후속 연구 계획 공개

카카오 기술 컨퍼런스 ‘if (kakao) 2021’ 발표 내용 “GPT-3 등장했을 때부터 초거대 AI 로드맵 그렸다” 카카오가 강한 비디오 연구, 개인정보·저작권 보호 역량 발휘할 것 카카오가 자사 초거대 인공지능(AI) 'KoGPT'에 대한 후속 연구 계획을 공개했다. 지난 10월 구성한 7명 교수와의 공동 연구팀과 함께 카카오는 자연어 이외 비디오를 함께 다루면서 생성, 추론 문제를 풀 예정이다. 효율적인 AI 학습을 가능하게 하는 시스템 아키텍처도 개발한다. 대규모 데이터를 다루는 초거대 AI에서 중요한 개인정보 침해, 편향성 문제를 예방하는 일에도 힘쓴다. 카카오(공동대표 여민수, 조수용)는 17일 자체 기술 컨퍼런스 ‘if (kakao) 2021’에서 KoGPT 개선을 위한 공동연구 방향을 ..

AI산업 2021.11.19

[분석] 베일 벗은 카카오 초거대 AI ‘KoGPT’, 기존 모델과 비교해보니

카카오, 16일 자체 개발한 초거대 AI ‘KoGPT’ 공개...깃허브로 무상 공유 매개변수 60억개·학습 데이터 2000억개...하이퍼클로바·GPT-3 보다 적어 블록체인 더한 초거대 AI 만든다...기억·추론 구현, 디지털 휴먼 개발 목표 카카오의 초거대 인공지능(AI) 모델이 드디어 베일을 벗었다. 모델 이름은 ‘KoGPT’. 대표적인 초거대 AI인 오픈AI GPT-3의 한국어판이라는 의미다. 카카오 KoGPT 등장으로 이제 우리나라는 한국어 특화 초거대 AI를 총 2개 확보하게 됐다. 다른 하나는 올해 5월 앞서 등장한 네이버 하이퍼클로바다. 카카오(공동대표 여민수, 조수용)는 16일 자체 개발한 초거대 AI 언어모델 KoGPT를 최대 오픈소스 커뮤니티 깃허브(github)에 공유했다. 같은 날 ..

AI산업 2021.11.17

EMNLP 2021 결산, "한국 언어 AI 연구, 세계 5위 달성...네이버가 하드캐리"

EMNLP 2021 채택 자연어처리 논문수 한국이 5위...작년까지 10위 국내 연구팀 논문 총 33편 중 10편은 네이버에서 나와...하이퍼클로바 소개 카카오·서울대 공동 연구 성과, 상위 1% 성적으로 평가받아 우리나라의 자연어처리(NLP) 분야 연구 역량이 전세계 5위 수준에 도달했다. 11일(현지시간) 막을 내린 자연어처리(NLP) 분야 최고 국제학술대회 ‘EMNLP 2021’에 소개된 한국 연구팀 논문수가 세계 5위를 기록한 것. 특히 이번 학회에서는 기업이 대학보다 많은 수의 논문을 발표하면서 한국의 자연어처리 연구 역량을 증명하는데 앞장섰다. 하정우 네이버 AI연구소장에 따르면 올해 EMNLP에 채택된 국내 연구팀 논문수는 총 33편이다. 이는 전세계에서 5번째로 많은 수치다. 이번 EMNL..

AI테크 2021.11.12

“AI 윤리, 원칙은 그만 만들고 기술적 접근법 마련해야”

한상기 테크프론티어 대표, 지능정보산업협회 조찬포럼서 발표 “AI 윤리 원칙을 기술 개발에 어떻게 활용할 것인지가 중요” 단어 의미론 고려하지 않는 초거대 AI 모델...공정성 문제 이유 인공지능(AI) 윤리를 실현하기 위해서는 기술 개발 과정에서 실제 사용할 수 있는 방법론을 마련해야 한다는 전문가 진단이 나왔다. 추상적인 AI 윤리 원칙과 가이드라인은 국내외에서 이미 충분히 제시했기 때문. 특히 초거대 AI 모델의 경우 기술적 특징이자 한계가 공정성과 같은 윤리 문제를 발생시킬 수밖에 없다는 지적이다. AI 윤리 대책 마련 과정에서 공정성 이외 윤리적 의사결정 능력, 투명성, 견고성 등도 고루 반영해야 할 필요성도 제기됐다. 현재는 기업 입장에서 소송을 당할 위험이 큰 공정성에 치우쳐 있는 상황이라는..

AI정책 2021.11.11