EU 이사회, 환경 보호에 영향 미칠 AI 시스템...고위험 군에 포함
이미지, 음성 인식, 비디오 생성 등... AI 법 적용에 속하지 않아
AI 규제 세계적 발전 추세..지난해 영국 국가보안투자법에 AI 정의
유럽연합(EU)이 마련한 인공지능(AI) 규제 초안이 사생활 침해 우려가 크다는 의견이 제기되자 유럽연합 의장국인 슬로베니아가 절충안을 마련했다. 슬로베니아는 지난해 11월 EU의 인공지능법 초안(AI Act)에 대한 절충안을 유럽 평의회의 진행상황 보고서와 함께 발표했다. 이번 절충안에는 AI 규제 샌드박스 등 기업 지원 방안 등이 포함됐다.
EU는 지난해 4월에 사상 최초로 인공지능 규제 초안을 마련해 발표했다. 이 초안은 AI의 특정 사용에 의해 발생하는 위험을 해결하는 것이 목표다. 하지만 초안은 사생활을 침해할 수 있다는 지적을 받았다. 실종아동 찾기나, 범죄자 수색, 테러방지 등 용도로 안면인식 기술을 허용하는 내용이 걸림돌이 됐다. 기업들도 경영활동에 부담이 된다는 의견을 냈다. 마이크로소프트(MS), 구글, 아마존 등 빅테크 기업은 규제 초안이 향후 경영활동에 큰 부담이 된다며 반대 의견을 냈다.
기업 반대와 사생활 침해 문제가 발생하자 유럽연합 의장국인 슬로베니아가 나섰다. 주요 외신에 따르르면, 슬로베니아는 지난해 11월 29일 EU의 인공지능법 초안(AI Act)에 대한 절충안을 유럽 평의회의 진행상황 보고서와 함께 발표했다. 해당 법에는 사생활 문제와 기업 지원 등의 내용이 포함됐다.
절충안에 제시된 AI 규제 주요 변경 사항
지난 18일 미국의 법률 전문 매체 렉솔로지(Lexology)는 지난해 나온 절충안은 AI 법의 전반적인 구조와 주요 규정(미준수시 잠재적 벌금에 관한 규정 포함)은 그대로 유지하지만, 범용 AI 시스템에 관한 새로운 조항 등 몇 가지 중요한 변경사항이 제안됐다고 논평했다.
매체에 따르면, 이번 절충안에 제시된 주요 변경 사항은 ▲AI 법안 목표 ▲AI 법 적용 범위 ▲AI 시스템 정의 ▲사회적 점수 등이 포함됐다. AI 법안 목표 분야로는 AI 규제 샌드박스 활용을 포함한 '혁신 지원 방안'을 마련하도록 규정했다. 규제가 혁신의 적이 아니라 두 가지가 서로 보완될 수 있다는 것을 보여주기 위한 EU의 노력이으로 평가된다.
AI 법 적용 범위는 법의 매개 변수 밖에 해당하는 영역을 정의하고, 무엇보다 과학 연구 목적으로만 사용되는 AI 시스템을 명시적으로 배제한다. 절충안은 또한 이미지 또는 음성 인식, 오디오 또는 비디오 생성, 패턴 감지, 질문 응답 및 번역 등과 같이 일반적으로 적용 가능한 기능을 수행할 수 있는 AI 시스템을 AI 법 적용 범위에 속하지 않게 했다.
또 절충안은 사회적 점수 부문으로 AI 시스템을 사회적 점수 부여 목적으로 사용하는 것을 금지하는 내용을 공공기관은 물론 AI를 이용하는 민간주체에게도 적용되도록 확대한다는 내용을 담았다.
금지된 사용의 정의는 '사회적 또는 경제적 상황'을 악용하는 것을 포함하도록 확장됐다. 사회적 점수를 매기는 이유는 AI 시스템이 모든 개인에게 출발 점수를 부여하고, 이는 특정 행동이나 행동에 따라 증가하거나 감소한다는 것이다. 예를 들면 과속 벌금을 내지 않으면 자전거로 출근하는 동안 점수가 낮아질 수 있다. 최종 점수는 특정 결정이나 혜택과 관련이 있다. 즉, 점수가 높으면 특별 공공 혜택을 받을 수 있다.
이 아이디어는 AI 시스템이 반드시 관련이 없거나, 공정하지 않은 기준을 사용해 최종 점수를 결정할 수 있는 가능성 때문에 논란이 되어왔다. 예를 들면, 당신의 성별이 집을 사기 위해 담보대출을 받는데 대한 영향을 미치지 않아야 한다.
법 시행시기 포함한 미결사항
절충안은 몇 가지 명확성을 제공하지만, 특정 문제는 해결되지 않은 상태로 남아 있다. 우선, 고위험 AI 시스템 규제와 관련해서는 법의 상당 부분이 추상적이어서 실질적인 지침이 나와야 할 것이다.
게다가 많은 EU 국가들이 AI 시스템의 가치 사슬과 직면해있는 적절한 당사자들이 이 법을 우려하고 있기 때문에 그 정의는 의심의 여지 없이 계속 논의될 것이다. 또한 이 법안이 데이터 보호, 법 집행 및 제품 책임에 대한 다른 EU 법률과 어떻게 연동되는지에 대한 매우 필요한 지침을 기다리고 있다.
마지막으로 이 법이 언제 최종적으로 채택되고, 실제로 조직에 적용될지에 대해서는 의문이 남아 있다. 유럽 연합 일반 데이터 보호 규칙(GDPR)은 지난 2012년에 제안됐고, 2018년에야 발효됐으므로 아마도 그것은 약간의 암시를 제공할 것이다.
AI 법의 세계적인 발전
세계적인 규제 발전 배경에서 이 분야의 불확실성에도 불구하고, 특히 AI 법의 진전은 여전히 큰 비중을 차지한다. 예를 들면, 영국은 지난해 국가보안투자법에서 AI를 정의한 첫 번째 국가 중 하나가 됐다.
또 국가 AI 전략을 발표했으며, 가장 최근에는 지난해 11월 29일 알고리즘 투명성 표준을 출시했다. 마찬가지로 FDA는 캐나다 보건부 및 영국의 의약품 및 의료 제품 규제청(MHRA)과 공동으로 지난해 10월 27일 의료기기 개발을 위한 좋은 머신러닝(ML) 실천에 대한 지침을 발표했다.
원칙에는 전체 제품 수명 주기 동안 다양한 분야의 전문 지식을 활용하고, 우수한 소프트웨어 엔지니어링 및 보안 관행을 구현하는 것이 포함됐다. 또 EU와 기타 국가 규제 기관들은 이제 자신들의 법률이 AI의 혁신을 촉진하는 것을 추구한다는 것을 더욱 일관되게 강조하고 있다. 따라서, 향후 기업은 합법적인 방법으로 AI를 활용해 가치를 창출할 수 있는 방법을 고려할 수 있는 흥미로운 시간이 될 것이다.
AI타임스 조행만 기자 chohang5@kakao.com
Copyright © '인공지능 전문미디어' AI타임스 (http://www.aitimes.com/)
무단전재 및 재배포 금지
EU 의장국, AI 법 절충안 발표…AI 시스템에 관한 새로운 조항 제안 - AI타임스
유럽연합(EU)이 마련한 인공지능(AI) 규제 초안이 사생활 침해 우려가 크다는 의견이 제기되자 유럽연합 의장국인 슬로베니아가 절충안을 마련했다. 슬로베니아는 지난해 11월 EU의 인공지능법 초
www.aitimes.com
'AI정책' 카테고리의 다른 글
| 군사 안보, AI로 더 강화된다...국가필수전략기술로 꼽혀 (0) | 2022.02.08 |
|---|---|
| '쇼미더머니10 래퍼와 만난다'…콘진원, 최첨단 실감 기술 접목한 설맞이 공연 나서 (0) | 2022.01.27 |
| AI 아바타·AI 대변인·챗봇…대선판 'AI 경쟁' 불붙었다 (0) | 2022.01.26 |
| '광주 국가 인공지능(AI) 집적단지 조성사업' 속도낸다 (0) | 2022.01.25 |
| 과기정통부·산기협, 국가필수기술전략으로 정부·기업 소통 확대 (0) | 2022.01.21 |