AI타임스

빅테크 기업 영향 벗어난 독립 연구소...370만달러 투자금 모아 초거대 AI 환경 오염 문제 지적한 게브루, 이제 SNS 악용에 집중 빅테크 밖 AI 윤리 연구가 구글, 아마존 등 기업 내 정책 바꿀 것 구글 경영진과 갈등을 겪다 해고된 인공지능(AI) 연구자 팀닛 게브루(Timnit Gebru)가 지난 2일(현지시간) AI 연구소 'DAIR(The Distributed Artificial Intelligence Research Institute)'를 설립했다. 구글 내 AI 윤리팀을 이끌던 게브루 박사는 초거대 인공지능(AI) 모델의 부정적 영향을 알리는 연구를 진행하다 작년 12월경 구글로부터 해고를 당한 바 있다. [관련기사]점입가경 팀닛 게브루 논문 논란, MIT가 분석해보니… DAIR는 커뮤니..

30일 서울대 인공지능 정책 이니셔티브(SAPI) 국제 컨퍼런스 초대 연구 주도한 최예진 워싱턴대 교수가 상식·윤리 판단 AI 델파이 직접 소개 GPT-3와 같은 초거대 AI는 윤리에 젬병...규모 경쟁만으론 안 된다 철학 분야 베스트셀러 '정의는 무엇인가'에 등장하는 딜레마에 대해 윤리적 대답을 제시하는 인공지능(AI)이 등장했다. 미국 시애틀 앨런(Allen) 연구소 AI 연구팀이 개발한 '델파이(Delphi)' 이야기다. 연구진은 델파이에게 사람 4명과 1명이 각기 묶여있는 2가지 철로를 전차가 지나가야 한다면 어떤 선택을 할 것인지 물었다. 이에 대한 델파이의 대답은 "4명을 살리기 위해 1명을 치는 선택을 하는 것이 좀 더 윤리적으로 허용 가능할 것"였다. 30일 서울대 인공지능 정책 이니셔티브..

제 41차 유네스코 총회에서 오픈 사이언스 등 권고 2개 채택 “‘권고’는 ‘협약’보다는 약하지만, ‘선언’보다는 구속력이 있다” 인공지능 윤리 권고, AI 윤리에 대한 최초의 세계적 표준될 것 지난 23일 프랑스 파리 유네스코 본부에서 제41차 유네스코총회가 열렸다. 이 총회에서 193개 회원국은 ‘유네스코 오픈사이언스 권고’와 ‘유네스코 인공지능 윤리 권고’를 채택했다. 이번 유네스코의 권고안은 모든 회원국이 AI의 건강한 발전을 위해 필요한 공통의 가치와 원칙의 규정을 골자로 하고 있다. 유네스코는 이 두 가지 권고안을 제정하기 위해 지난 2년간 회원국 및 다양한 이해관계자의 의견을 수렴했으며, 이번에 열린 41차 총회에서 만장일치로 채택하기에 이르렀다. AI의 윤리적 발전에 필요해 지난 25일 유..

과기정통부 '인공지능 신뢰성 제고를 위한 공개 세미나' 발표 내용 2020년 12월 발표된 '인공지능 윤리기준'에 대한 활용책 정부기관·학계·기업·시민단체 등 다양한 분야 의견 청취 과기정통부(장관 임혜숙)는 23일 '인공지능 신뢰성 제고를 위한 공개 세미나'를 열고 '인공지능 윤리기준 실천을 위한 자율점검표' 초안을 공개했다. 작년 12월 과기정통부가 마련한 일반 AI 윤리 원칙을 실제 현장에 적용할 수 있는 방법을 구체화한 결과물이다. 자율점검표인 만큼 법률과 달리 강제성을 띠진 않으며 기업의 자체 준수를 권장한다. 해당 자율점검표는 과기정통부가 작년 12월 발표한 '인공지능 윤리기준'에 대한 활용책이라고 볼 수 있다. 문아람 정보통신정책연구원(KISDI) 박사는 “작년 발표한 AI 윤리기준에서 기술..

카카오 기술 컨퍼런스 ‘if (kakao) 2021’ 발표 내용 “GPT-3 등장했을 때부터 초거대 AI 로드맵 그렸다” 카카오가 강한 비디오 연구, 개인정보·저작권 보호 역량 발휘할 것 카카오가 자사 초거대 인공지능(AI) 'KoGPT'에 대한 후속 연구 계획을 공개했다. 지난 10월 구성한 7명 교수와의 공동 연구팀과 함께 카카오는 자연어 이외 비디오를 함께 다루면서 생성, 추론 문제를 풀 예정이다. 효율적인 AI 학습을 가능하게 하는 시스템 아키텍처도 개발한다. 대규모 데이터를 다루는 초거대 AI에서 중요한 개인정보 침해, 편향성 문제를 예방하는 일에도 힘쓴다. 카카오(공동대표 여민수, 조수용)는 17일 자체 기술 컨퍼런스 ‘if (kakao) 2021’에서 KoGPT 개선을 위한 공동연구 방향을 ..

한상기 테크프론티어 대표, 지능정보산업협회 조찬포럼서 발표 “AI 윤리 원칙을 기술 개발에 어떻게 활용할 것인지가 중요” 단어 의미론 고려하지 않는 초거대 AI 모델...공정성 문제 이유 인공지능(AI) 윤리를 실현하기 위해서는 기술 개발 과정에서 실제 사용할 수 있는 방법론을 마련해야 한다는 전문가 진단이 나왔다. 추상적인 AI 윤리 원칙과 가이드라인은 국내외에서 이미 충분히 제시했기 때문. 특히 초거대 AI 모델의 경우 기술적 특징이자 한계가 공정성과 같은 윤리 문제를 발생시킬 수밖에 없다는 지적이다. AI 윤리 대책 마련 과정에서 공정성 이외 윤리적 의사결정 능력, 투명성, 견고성 등도 고루 반영해야 할 필요성도 제기됐다. 현재는 기업 입장에서 소송을 당할 위험이 큰 공정성에 치우쳐 있는 상황이라는..

법무법인 태평양·한국데이터법정책학회 'AI 규제안 어디까지 왔나?' 웨비나 개최 “일반법 이외 방법 많다” 간접 규제책인 기존 법·AI 가이드라인 활용 가능 카카오엔터프라이즈 “편향적이지 않은 AI 기술 실현 가능할지 의문” 인공지능(AI) 기술에 대한 일반법이 국회에 다수 발의됐지만 통과는 장담할 수 없을 것으로 전망된다. 전문가들은 일반법을 마련하기보다 AI 개발 과정에 적용 가능한 기존 법과 가이드라인을 적극 활용할 것을 권장하는 입장이다. 법무법인 태평양과 한국데이터법정책학회는 20일 'AI 규제안 어디까지 왔나?' 웨비나를 열고 국내외 AI 관련 규제책에 대한 법조계, 산업계, 정부기관 입장을 공유했다. 이날 행사에는 과기정통부, 방송통신위, 개인정보위와 같은 정부기관 관계자들부터 법조계 전문가..

2017년 AI사업 시작...AI 인문학구축연구로 HK+사업비 7년간 114억 수주 심심이 컨소시엄에서 윤리/감정/감각데이터 구축...'AI 큐레이터' 만들 것 EU의 AI규제안 강도 세지만 일리있어...AI 기술의 빠른 발전 속도 때문 인공지능(AI) 시대가 도래하면서 인문학자들이 바빠졌다. 개발자가 아닌 인문학자의 목소리가 절실한 것이다. 과기정통부에서는 AI 윤리 가이드라인 제작에, 교육부에서는 초중고등학교 AI 교육에, 이외 다양한 정부기관과 기업에서 윤리적인 AI를 만드는 데이터 구축에 인문학자를 필요로 한다. AI 기술을 실제 사회에 도입하기 위해서는 AI와 인문학이라는, 완전히 상반되는 것처럼 보이는 두 영역이 모두 필수조건이다. '더 좋은 삶과 사회를 만들기 위해서'라는 비전은 AI와 인문..

메타버스 윤리 관련 외부 연구활동에 2년간 5000만달러 기금 조성 조기 선정된 서울대, 고학수 교수 중심으로 연구 코디네이터 역할 고학수 교수 “페이스북 제품 개발이 1차 목적 아냐”...공익적 장기 프로젝트 인공지능(AI) 윤리를 넘어 메타버스 윤리를 논하는 시대가 도래했다. 메타버스 사업에 주력 중인 대표적인 빅테크 기업 페이스북이 이제 메타버스 윤리에도 주목한다. 페이스북은 지난 9월 27일(현지시간) 윤리적인 메타버스 관련 외부 연구활동을 위해 5000만달러(한화 약 592억원) 규모 기금을 2년간 조성한다고 밝혔다. 약 2개월 전인 7월 페이스북은 자사 내 메타버스 전담팀을 신설한 바 있다. 기존 AI 사업에서 페이스북은 사용자 데이터 활용과 관련해 윤리 문제를 직접 겪은 바가 많다. 최근 우..

법무법인 원 AI사업팀, AI 스타트업 대상 법률 자문에 집중 작년 1월부터 스터디 그룹 결성...8월 기업 자문 진행하며 본격화 연구개발에도 법률 자문...보이스피싱 잡는 AI 개발에 참여 페이스북은 최근 우리나라에서 개인정보보호법 위반으로 66억6000만원 과징금을 물었다. 얼굴인식 AI 학습을 위해 사용자 프로필 데이터를 적절한 동의 절차 없이 수집했다는 것. 이번 사건으로 페이스북이 사업을 접을 것이라고 생각하는 사람은 없을 것이다. 반면 스타트업의 경우 다르다. AI 챗봇 이루다를 만든 스캐터랩이 받은 타격은 페이스북보다 훨씬 크게 느껴질 것이다. 대기업에 비해 스타트업은 보통 소수 서비스에 집중한다. 서비스 출시 후 개발 과정에서 법적인 문제를 발견했을 경우 돌이킬 수 없다. 법무법인 원 AI..