EU 인공지능 규제 초안 발표 후...각국 정부, 인권 단체 등 설왕설래

HRW, 유럽연합 규정에 고위험 제기하는 인공지능 개발 금지 필요해
EU 부위원장, 구글 등 빅테크 기업들에 광범위한 영향 미칠 수 있어
유럽 통신장관들, EU 규정에 지지 표명, 하지만 일치된 조치 있어야

 

(출처=셔터 스톡)

지난 4월 21일(현지시각) EU 집행위원회는 인공지능 규제 정책안을 발표했다. ‘인공지능에 대한 조화로운 규칙들’을 표방하는 이 정책은 인공지능으로 인한 리스크를 완화하고, 유럽이 인공지능 분야를 주도하는 것을 목표로 하고 있다.

 

하지만 EU 집행위의 AI 초안 발표 후, 이를 바라보는 이해당사자들 간의 시각은 매우 다양하다.

 

혜택 박탈하는 알고리즘 존재

 

지난 4월 발표된 EU 집행위의 인공지능 규제 초안이 유럽연합의 사회 안전망을 위협할 수 있다는 주장이 제기됐다.

 

지난 10일 국제 인권단체인 휴먼 라이츠 워치(HRW)는 “EU가 제안한 인공지능 사용 규제 계획은 유럽의 사회 안전망을 해칠 우려가 있으며, 감시와 차별로부터 국민을 보호할 수 있는 장비가 부족하다”라고 이같이 밝혔다.

 

이 단체는 또 “유럽 의회는 사회보장에 대한 사람들의 권리와 적절한 생활 수준을 더 잘 보호하기 위해 규정을 개정해야 한다”고 주장했다.

 

뉴욕에 본부를 둔 휴먼 라이츠 워치(Human Rights Watch, HRW)는 인권 변호 및 연구를 하는 비영리 기구다.

 

이 단체는 28페이지 분량의 문답식으로 구성된 “EU의 결함이 있는 인공지능 규제가 어떻게 사회 안전망을 위태롭게 하는가?”란 제목의 보고서를 만들기 위해 정부가 사회보장 지원을 할당하고, 복리후생 사기를 방지하기 위한 알고리즘에 어떻게 의존하고 있는지 조사했다.

 

아일랜드, 프랑스, 네덜란드, 오스트리아, 폴란드, 영국 등의 사례 연구를 바탕으로 자동화를 향한 이러한 추세가 사회보장 지원이 필요한 사람들을 차별하고, 그들의 사생활을 침해하며, 그들이 정부 지원받는 것을 어렵게 할 수 있다는 것을 발견했다.

 

“EU의 제안은 자신을 부양하거나, 직업을 찾는데 필요한 혜택을 부당하게 박탈하는 알고리즘으로부터 보호하는 데 충분하지 않다”라고 휴먼 라이츠 워치의 인공지능과 인권에 관한 에이모스 토(Amos Toh) 선임 연구원은 말했다.

 

더불어 “이 제안은 가난 속에 살고 있는 사람들에 대한 학대적인 감시와 프로파일링을 종식시키지 못한다”고 덧붙였다.

 

에이모스 토 연구원에 따르면, 일부 국가에서는 알고리즘이 복지 예산의 삭감을 합리화하는 강력한 도구가 됐다. 오스트리아의 경우, 정부가 고용 전망을 예측하기 위해 사용하는 알고리즘이 일부 사람들의 취업을 단절시켜 적절한 생활 수준에 대한 권리를 위태롭게 했다.

 

취업 지원 프로그램을 이용할 수 있는 사람에 우선순위를 매겨 비용을 절감하려는 이 알고리즘은 차별적이어서 30세 이상 여성, 육아 의무 여성, 이주민, 장애인 등의 고용 가능성을 과소평가했다는 주장이다.

 

저소득층에 대한 감시와 프로파일링을 강화하는 감시 기술도 유럽 전역으로 확산되고 있다고 에이모스 연구원은 주장했다. 네덜란드 정부는 사람들이 혜택이나 세금 사기에 연루될 가능성을 예측하기 위해 주로 저소득 지역에서 SyRI로 알려진 위험 점수 프로그램을 시행했다.

 

이 정부는 지난해 4월 법원이 국민의 사생활을 침해했다고 판결한 후 이 프로그램을 중단시켰고, 시민 사회 단체들은 공공 당국과 민간 부문 간의 데이터 공유를 허가하고, 잠재적으로 위험 점수를 되살리는 법안에 대해 경종을 울렸다.

 

아일랜드 정부는 사람들이 복지 혜택과 시민권 신청과 같은 다른 공공 서비스에 접근하기 위해 디지털 신분증에 등록하도록 요구한다.

 

이에 대해 일부 신청자들과 시민 사회 단체들은 “이 시스템이 중복되거나, 사기성 있는 지원서를 선별하기 위해 얼굴 인식을 사용하는 등록 절차가 불필요하고 지나치게 거슬린다”라는 입장이다.

 

알고리즘 차별 방지책 약해

 

EU의 규정은 이러한 위험에 대한 약한 방어책이라고 연구원은 밝혔다. 예를 들면, 공공 당국이 사람들의 신뢰도를 측정하고, 이러한 점수에 기초해 유해하거나 불리한 대우를 위해 이를 선별하는 알고리즘이 그것이다.

 

또 인권에 높은 위험을 제기하는 자동화 시스템에 대한 규제도 부적절하다. 시스템이 개발되고 있을 때, 더 나은 품질의 데이터와 소프트웨어 설계를 위한 표준을 규정함으로써 알고리즘 차별을 방지하려고 한다.

 

그러나 이런 기술적 조치는 긴축에 의한 예산 삭감이나 교육 및 고용 기회에 대한 이질적인 접근과 같은 알고리즘 적 차별에 기여하지 않을 것이다.

 

고위험 시스템에 대한 주요 허점은 이익을 얻지 못하는 사람들의 능력을 저해할 수 있으며, 이 규정이 보호해야 할 사람들의 권리를 위협하는 감독 체제를 만들 수 있다.

 

“유럽 의회는 사회보장권, 적절한 생활 수준, 사생활, 비차별 등 인권을 과도하게 침해하는 사회적 채점을 금지하도록 규정을 개정해야 한다”고 이 단체는 역설했다.

 

복리후생 사기 행위의 가능성을 예측하기 위해 사람들의 과거 행동에 대한 기록을 분석하거나, 사회보장 삭감을 위한 구실로 사용되는 채점 도구는 금지돼야 하며, 이 규정에 용납할 수 없는 위험을 제기하는 미래의 인공지능 개발을 금지하는 과정도 포함돼야 한다.

 

아울러, 위험도가 높은 자동화 시스템은 엄격한 안전장치가 필요하며, 특히, 시스템이 배치되기 전과 크게 변경될 때마다 자동화된 복지 시스템 제공자와 기관이 정기적인 인권 영향 평가를 수행토록 규정해야 한다는 것이다.

 

회원국들이 규제 검사를 수행하고, 대중의 불만을 조사할 권한을 가진 독립적인 감독기구를 설립하도록 EU의 규정에 요구해야 한다는 것이 단체의 주장이다.

 

토 연구원은 “사회보장서비스의 자동화가 임대료를 내고, 음식을 사고, 생계를 유지하는 데 필요한 지원을 희생시켜서는 안된다”며, “EU는 경제적, 사회적 권리를 보호해야 할 의무를 이행토록 규정을 개정해야 한다”고 지적했다.

 

규제가 기본권 위협할 수 있어

 

“EU는 AI를 확실히 하기 위해 새로운 국제 규범 개발을 주도하고 있다”라고 유럽 위원회 마르그레테 베스타게르(Margrete Vestager) 부위원장이 말했다고 지난 4월 21일 유럽 뉴욕 타임스가 보도했다.

 

베스타게르 부위원장은 유럽연합(EU) 집행위가 AI 규제 초안을 발표 후 이같이 밝혔다. 이에 앞서. EU 집행위는 기업과 정부가 가장 중요하고, 윤리적으로 문제가 있지만, 인공지능 사용을 규제하기 위한 최초의 엄격한 규정의 초안을 공개했다.

 

베스타게르 부위원장에 따르면, 이 규제 초안은 무인 자동차에서부터 고용 결정, 은행 대출, 학교 입학 선택, 시험 채점 등에 이르기까지 다양한 활동에서 인공지능의 사용에 대한 한계를 정한다.

 

그것은 또한 사람들의 안전이나, 기본권을 위협할 수 있는 고위험으로 간주하는 인공지능의 사용을 다룬다.

 

비록 국가 안보와 다른 목적을 위해 몇 가지 면제가 있긴 하지만, 공공장소에서의 생생한 얼굴 인식을 포함한 일부 사용은 전면 금지될 방침이다.

 

또 이 규제는 아마존, 구글, 페이스북, 마이크로소프트 등과 같은 기술 회사들에 광범위한 영향을 미칠 것이며, 그 이유는 이 기업들이 기술 개발에 막대한 자원을 쏟아부었기 때문이라고 그는 밝혔다.

 

뿐만 아니라, AI 소프트웨어를 사용해 의약품을 개발하고, 보험을 인수하고 신용 가치를 판단하는 수십 개의 다른 회사들에도 그 영향은 광범위하게 미칠 것이며, 형사 사법 및 소득 지원 등과 같은 공공 서비스의 할당에 이 기술의 버전을 사용해온 정부도 큰 영향을 받을 것이라고 주장했다.

 

아울러, 새로운 규정을 위반하는 기업들은 전 세계 매출의 6%에 달하는 벌금을 물게 될 것이라고 그는 주장했다. “인공지능에 있어 신뢰는 필수지만, 가지기에 좋은 것이 아니다”라고 마르그레테 부위원장은 성명에서 말했다.

 

또 “이런 획기적인 규칙들을 가지고, EU는 AI를 확실히 하기 위해 새로운 국제 규범 개발을 주도하고 있다”라고 밝혔다.

 

EU 규정에 분명한 지지 표명

 

“인공지능 법이 새로운 기술을 규제할 때, 유럽연합은 이 초안이 전 세계가 따라야 할 본보기가 되기를 원한다”고 지난 10월 14일 유로 뉴스가 전했다.

 

지난달 14일 유럽연합(EU) 통신 장관들은 브뤼셀에서 AI 법안에 대한 첫 토론회를 열어 향후 몇 년간의 지침을 결정했다. 여기서 보슈찬 코리트닉(Boschchan Koritnik) 슬로베니아 행정장관은 “EU의 AI 법이 세계적인 모델이 돼야 한다”고 말했다.

 

“오늘 장관들은 개인 데이터 보호 분야에서 일반적인 데이터 보호 규정(GDPR)과 같은 맥락에서 전 세계적으로 하나의 모델 역할을 할 인공지능에 관한 포괄적인 법에 대한 분명한 지지를 표명했다”라고 그는 밝혔다.

 

이어 “인공지능 법이 안전과 기본권에 대한 존중을 보장하고, 모든 분야에서 인공지능 기반 기술의 개발과 흡수를 촉진한다는 두 가지 목표를 확실히 달성하기 위해 아직 상당한 작업이 남아 있다”라고 코리트닉 장관은 말했다. 또 “슬로베니아 유럽 이사회는 디지털 분야에서 최우선 과제로 생각하는 이 제안에 대한 집중적인 작업을 계속할 것”이라고 덧붙였다.

 

유로 뉴스에 따르면, AI는 이미 우리 삶의 많은 부분에 존재하지만, 그것은 위험과 이익을 가진 윤리적 딜레마로 남아있으며, 한 가지 분명한 이점은 의료 서비스라는 것이다. 일례로, 사람의 눈에 보이지 않는 신호를 통해 치매와 같은 질병을 식별하기 위해 인공지능과 안면 인식 기술이 사용된다,

 

이에 대해 브뤼셀의 프리예(Vrije) 대학의 히켐 살리(Hichem Sahli) 박사는 유로 뉴스와의 인터뷰에서 “머신러닝 알고리즘은 전 세계 사람들의 기본적인 표정인 행복, 슬픔 등의 표현을 분류하는 방법을 배울 수 있다”고 설명했다.

 

이렇게 의학 연구로 얻을 수 있는 이득이 분명히 있지만, 위험을 수반하는 다른 용도들도 있다. 그 한 가지 예가 바로 감독 없이 법 집행을 하는 것이다.

 

이탈리아 트리에스테에 본사를 둔 암페드(Amped)와 같은 회사들은 테러 공격, 폭력 행위 또는 사고에 책임이 있는 사람들을 확인하기 위한 비디오 분석에 인공지능을 사용한다. 이러한 회사들은 보증 검사를 받지만, EU 이외의 일부 국가에서는 그렇지 않은 예도 있기 때문이다.

 

AIIA-NPO의 사무총장인 데스피나 트라블루(Despina Travlou)에 따르면 그것의 사용은 아직 충분히 규제되지 않았고 시민권 침해로 이어질 수 있다.

 

“유럽연합과 같은 초국가적 기구들은 지침과 규정에 우리들은 거의 무턱대고 따르고 있는데 이에 대해 일치된 글로벌 조치가 필요하다”고 트라블루 사무총장은 주장했다.

 

AI타임스 조행만 객원기자 chohang5@kakao.com 

 

Copyright © '인공지능 전문미디어' AI타임스 (http://www.aitimes.com/)
무단전재 및 재배포 금지

 

EU 인공지능 규제 초안 발표 후...각국 정부, 인권 단체 등 설왕설래 - AI타임스