미국 최초 'AI차별금지법' 나온다

캘리포니아주, 차별금지법에 따른 사용금지 규정 
기존 관련 법안보다 강화된 형태로 주목
다른 지역에서도 관련 법안 도입 또는 검토 중

(사진=셔터스톡)

미국 캘리포니아주가 기술 또는 인공 지능(AI)을 사용해 구직자를 선별하거나 기타 고용 결정을 내리는 데 관련된 새로운 법안 마련을 추진하고 있다. 법이 제정된다면 미국에서 캘리포니아주는 새롭게 부상하면서 종종 오해를 받는 AI 기술에 대해 실질적인 제한을 채택한 최초의 주가 될 전망이다.

 

미국 법률 전문매체 ‘내셔널 로 리뷰’는 최근 미국 캘리포니아주의 AI 차별금지법 관련 기사를 통해 직원 채용과 관련해 AI 차별에 대한 규제 움직임을 보도했다. 미국의 고용노동 전문 로펌 오글트리 디킨스의 최근 조사 보고서 ‘업무 환경에 대한 전략 및 벤치마크: 오글트리 주요 의사 결정권자 조사’에 따르면 현재 고용주의 약 4분의 1이 인재 및 채용 프로세스의 일부로 AI 도구를 사용하고 있는 것으로 나타났다. 실제로 많은 고용주는 이력서 선별, 온라인 테스트 분석, 지원자의 얼굴 표정, 신체 언어, 단어 선택, 면접 중 목소리 톤 평가, 게임화된 테스트 등 인재 확보 및 채용에 이러한 도구를 점점 더 많이 사용하고 있다.

 

이 기술은 효율성과 의사 결정 능력을 향상시킬 수 있지만 일부에서 이러한 도구가 편향적 또는 차별적인 결과를 가져올 수 있는 가능성에 대한 우려를 제기하고 있는데 따라 주 및 연방 고용 차별법에 따른 문제를 야기할 전망이다. 미국의 캘리포니아주와 연방 정부 등 점점 더 많은 주에서 이 기술을 사용하는 기업이 채용 및 승진 프로세스에 미치는 영향을 검토하고 이러한 도구를 사용해 채용 후보자에게 선별 검사를 받을 수 있다는 사실을 통지하도록 기존의 노동 및 고용법을 개정하는 방안을 검토하고 있다.

 

올해 초 발표된 캘리포니아주의 새로운 법안 초안은 자동화된 의사 결정 도구의 사용이 보호 대상 계층의 직원과 구직자에게 부정적인 영향을 미칠 경우 고용 차별법의 제한을 받는다는 점을 명확히 해 실질적인 제한들을 최초로 채택한 법안이 될 전망이다. 캘리포니아 공정고용 및 주택위원회는 지난 3월 15일 차별에 영향을 미치는 AI 도구를 관리하는 기업이나 제3자 기관에 책임을 부과하는 고용차별금지법 초안을 발표했다.

 

 

법안 초안은 고용주 또는 해당 단체가 선택 기준이 해당 직위에 대해 직무와 관련이 있고 비즈니스 필요성과 일치하는 것으로 나타나지 않는 한 자동화된 의사 결정 시스템이 지원자나 직원을 선별하거나 선별하는 과정에서 차별 경향이 있는 기타 선택 기준을 사용하는 것을 불법으로 규정했다. 법안 초안에서 이러한 금지 규정은 광범위하게 정의한 ‘자동화된 의사 결정 시스템’의 사용에 적용된다.

 

 

이 시스템은 머신 러닝, 통계 또는 기타 데이터 처리 또는 인공 지능 기술에서 파생된 것을 포함해 직원 또는 지원자에게 영향을 미치는 의사 결정을 용이하게 하기 위한 스크리닝, 평가, 분류, 권장을 하는 컴퓨팅 프로세스로 법안은 정의하고 있는 가운데 고용 전 문의, 지원, 면접, 선별 장치 및 배경 확인 등을 포함한 채용 관행에 특정한 제한을 두고 있다.

 

 

(사진=셔터스톡)

미국에서는 최소 3개 이상의 다른 주에서 채용 시 AI 사용에 관한 법률을 통과시킨 바 있다. 일리노이주는 2020년 1월부터 시행된 인공지능 비디오 인터뷰 법안을 2019년 8월 처음으로 통과시켰다. 일리노이주 법은 현지에 기반을 둔 고용주들이 지원자들에게 ‘해당 직위에 대한 지원자의 적합성을 검토하기 위해 인공지능을 사용해 화상 인터뷰를 분석할 수 있다’고 통보하도록 요구한다. 또 이 법은 고용주에게 ‘인공 지능의 작동 방식’과 지원자를 평가하는 데 사용되는 특성을 설명하도록 규정하고 있다. 고용 회사가 AI 도구를 통해 평가하는 데 대해 신청자의 동의를 얻어야 하며 동의를 받지 않을 경우 사용을 금지한다.

 

 

올해 개정된 법은 AI 분석 도구에 전적으로 의존하는 고용주가 대면 면접 지원자를 선정해 대면 면접을 받은 지원자와 그렇지 않은 지원자 및 고용된 지원자의 인종 및 민족을 수집 및 보고하도록 개정됐다. 이 데이터를 주 정부가 분석해 ‘인공 지능 사용에 대한 인종적 편견을 드러내는지’ 여부에 대한 보고서를 작성하게 된다. 메릴랜드주에는 이와 유사한 법률로 해당 신청자가 포기각서에 서명하지 않는 한 ‘입사 면접시 얼굴 템플릿 생성을 위한 얼굴 인식 서비스’의 사용을 금지하는 법안이 있다.

 

 

뉴욕 시의회는 지난해 ‘자동화된 고용 결정 도구’의 사용을 규제하는 보다 포괄적이고 상세한 법률을 통과시킨 바 있다. 이 법은 고용주 또는 고용 대행사가가 전년에 ‘편향성 감사’를 받고 최근의 편향성 감사 결과 및 도구 배포일을 고용주 또는 고용 대행사 웹사이트에 공개하지 않으면 그러한 도구를 사용하는 것을 금지하고 있다. 뉴욕시 법에 따르면 고용주가 도시에 거주하는 구직자와 직원에게 ‘자동화된 의사 결정 도구’가 평가하는 데 사용될 예정임을 10일(영업일 기준) 전에 통보해야 하며 평가 시 어떤 ‘직무 자격 및 특성’에 사용할 것인지 공개해야 한다.

 

 

미 연방 차원에서는 지난 2월 론 와이든 상원의원이 알고리즘 책임법을 재발의했다. 이 법안은 기업이 자동화된 의사 결정 프로세스의 영향을 평가하고 미국 연방통상위원회(FTC)가 평가 및 보고를 위한 기준을 규정할 수 있도록 했다. 최근 미국공정고용기회위원회는 고용주들에게 새로운 기술 가이드라인을 발표하면서 고용 결정에 AI 및 알고리즘 의사 결정을 사용해 장애가 있는 구직자를 선별하는 도구로 사용하는 경우 미국 장애인법(ADA)에 위배될 수 있음을 경고했다. 

 

 

일리노이주와 뉴욕시의 법률은 AI 기술 사용에 대한 통지와 함께 채용에 미치는 영향에 대한 검토를 융합한 반면 캘리포니아주의 법안 초안은 이 기술을 관리하는 고용주나 회사들이 차별적 의도와 관계없이 주정부의 차별금지법에 따라 법적 책임을 질 수 있다고 명시해 더욱 강화된 양상을 띤다.

 

 

고용주가 사용하는, 직원에게 영향을 미치는 모든 도구가 법안의 잠재적 대상이 될 수 있지만 진화하는 AI 기술에 기존 법률이 어떻게 적용되는지에 대해서 많은 혼란이 있는 것이 사실이다. 캘리포니아주 법안 초안은 고용주 및 고용주의 대리인으로 간주되는 개인이 자동 결정 시스템을 사용할 경우 자동화된 시스템이 안면에 중립적이지만 차별적인 영향을 미치는 경우에도 캘리포니아 반차별 법률에 따라 불법적인 차별에 해당할 수 있음을 명시하고 있다. 고용주는 불법적인 차별 대우에 따라 책임을 지게 될 수 있다.

 

 

예를 들어 법에 따르면 고용주가 ‘전자 장치를 사용하는 동안 빠른 반응 시간이 업무와 관련이 있으며 비즈니스 필요성과 일치한다’는 것을 입증하지 못하는 한 지원자의 반응 시간을 측정하는 시스템이 ‘특정 장애를 가진 개인을 불법적으로 선별할 수 있다’고 간주된다. 따라서 법안 초안은 공정 고용 및 주택법에 따른 다양한 종류의 고용 차별로부터 캘리포니아 주 법이 제공하는 실질적인 보호 방안을 설명하고 있고 여기에는 억양, 영어 능력, 이민 상태, 국적, 키, 체중, 성별, 임신, 출산, 결혼 여부, 연령 또는 종교가 포함된다.

 

 

기업에서 인공 지능 및 기타 머신 러닝 기술에 대한 의존도가 높아지면서 고용주들은 관련 관계자와 함께 사용 방법을 검토하면서 이러한 도구의 잠재적인 차별적 영향을 평가하고 완화하기 위한 조치를 취할 전망이다. 내셔널 로 리뷰는 주 및 기타 규제기관이 그러한 도구들과 고용주의 사용 방법을 지속적으로 면밀히 주시하고 있는 것이 분명하기 때문에 캘리포니아주에 의해 검토되고 있는 것과 같은 실질적인 법안이 제정되는 경우 다른 주들이 따라야 할 기준이 될 수 있을 것이라고 전망했다.

 

 

AI타임스 이한선 객원 기자 griffin12@gmail.com

 

Copyright © '인공지능 전문미디어' AI타임스 (http://www.aitimes.com)
무단전재 및 재배포 금지

 

http://www.aitimes.com/news/articleView.html?idxno=144580 

미국 최초 'AI차별금지법' 나온다 - AI타임스