팀닛 게브루, 독립 AI 연구소 DAIR 설립...구글에서 해고된 지 1년만에

빅테크 기업 영향 벗어난 독립 연구소...370만달러 투자금 모아
초거대 AI 환경 오염 문제 지적한 게브루, 이제 SNS 악용에 집중
빅테크 밖 AI 윤리 연구가 구글, 아마존 등 기업 내 정책 바꿀 것

 

​​팀닛 게브루 DAIR 설립자(출처=테크크런치)

구글 경영진과 갈등을 겪다 해고된 인공지능(AI) 연구자 팀닛 게브루(Timnit Gebru)가 지난 2일(현지시간) AI 연구소 'DAIR(The Distributed Artificial Intelligence Research Institute)'를 설립했다.

 

구글 내 AI 윤리팀을 이끌던 게브루 박사는 초거대 인공지능(AI) 모델의 부정적 영향을 알리는 연구를 진행하다 작년 12월경 구글로부터 해고를 당한 바 있다.

 

[관련기사]점입가경 팀닛 게브루 논문 논란, MIT가 분석해보니…

 

DAIR는 커뮤니티 기반 독립 연구소다. 구글과 같은 빅테크 기업의 영향에서 벗어난 독립적인, 커뮤니티 기반 AI 연구 공간이라 할 수 있다.

 

DAIR 홈페이지에 따르면 DAIR와 비슷한 성격의 소규모 독립 기관으로는 현재 데이터와 사회(Data&Society), 알고리즘 정의 연맹(Algorithmic Justice League), 흑인 삶을 위한 데이터(Data for Black Lives) 등이 있다.

 

팀닛 게브루 박사는 DAIR를 통해 수익구조에 맞는 주제 이외 AI 기술의 한계점과 기술에서 소외된 사람들에 대한 연구, 즉 윤리와 개인의 웰빙을 중시하는 AI 연구를 진행할 수 있는 환경을 만들 계획이다.

 

그는 DAIR 공식 홈페이지에서 "AI 기술에 내재된 피해를 예방하고 다양한 관점과 신중한 과정을 통해 AI 생산과 배포가 이뤄질 때 사람에 적대적이지 않은, 사람들을 위해 일하는 AI가 실현될 수 있다고 생각한다"고 말했다.

 

현재까지 DAIR는 370만달러(한화 약 43억7525만원) 투자금을 모았다. DAIR에 투자한 기관은 포드재단(Ford Foundation), 존 D.와 캐서린 T. 맥아더 재단(John D. and Catherine T. MacArthur), 케이퍼 센터(Kapor Center), 오픈 소사이어티 재단(Open Society Foundation) 등이다.

 

게브루 박사는 "AI는 현재 우리가 피할 수 없고 통제할 수 없는 초인적인 수준으로 높아졌다. AI 연구, 개발, 배포 첫 단계에서부터 인간과 커뮤니티에 뿌리를 둔다면 형평성과 인간성을 중시하는 미래를 만들 수 있다"고 전했다.

 

빅테크 밖 윤리 AI 연구가 빅테크 내 정책 바꾼다

---

DAIR 설립으로 먼저 팀닛 게브루 박사는 구글과 같은 빅테크 내 AI 정책과 관행을 바꿀 계획이다.

 

게브루 박사는 워싱턴포스트와의 인터뷰에서 "내가 하고 싶은 일에 적합한 인센티브 구조가 없다는 것에 실망해왔다"고 말했다.

 

구글 내 윤리적인 AI 팀 공동 리더로 활동하는 것보다 논문을 통해 기업 밖에서 학계, 입법자, 언론인 등에 AI 문제점을 알리는 것이 구글 정책을 바꾸는데 효과적이었다는 설명이다.

 

게브루 박사는 구글의 거대 언어 모델의 탄소 배출 문제 이외에도 빅테크 기업의 AI 시스템 윤리 문제를 꾸준히 지적해왔다.

 

얼굴 인식 SW의 유색 인종에 대한 편향성을 지적한 그의 연구는 아마존, 페이스북과 같은 빅테크 기업의 정책을 바꾸는데 기여했다.

 

워싱턴포스트와의 인터뷰에서 팀닛 게브루 박사는 "이전에는 대규모 언어모델이었다면, 지금은 SNS에 집중하고 있다"며 에티오피아 내 민족에 대한 폭력을 조장하는 페이스북 사례를 강조했다.

 

DAIR 투자 기관 중 하나인 맥아더 재단(MacArthur Foundation)의 존 팔프리 회장은 "AI가 모든 사람에게 혜택을 주는 보다 공정하고 공평한 미래를 만들기 위해 우리는 역사적으로 AI 분야에서 배제된 사람들에 대한 전문 지식을 중심으로 하는 독립적이고 공익적 연구를 가속화해야 한다"고 전했다.

 

AI타임스 박성은 기자 sage@aitimes.com

 

Copyright © '인공지능 전문미디어' AI타임스 (http://www.aitimes.com/)
무단전재 및 재배포 금지

 

팀닛 게브루, 독립 AI 연구소 DAIR 설립...구글에서 해고된 지 1년만에 - AI타임스