팀닛 게브루, "AI 제품으로 감시하는 이커머스, 편의·안전으로 포장되는 양면성 주의해야"

"감시는 항상 편리성과 안전성으로 판매된다"고 강조
인지하지 못하는 상황에서 데이터 수집 문제 발생
생체인식을 통한 '감정인식기술'에 대해 주의해야

 

(출처=2021 글로벌 AI 써밋, 편집=조희연 기자)

 

구글에서 AI 윤리 문제를 지적해 해고당한 후, 블랙 인 AI(Black in AI)를 공동설립한 팀닛 게브루는 26일 2021 글로벌 AI 서밋에서 이커머스(e-Commerce)에 대한 양면성 문제를 제기했다.

 

그는 아마존의 감시 방식을 예로 들며, 우리가 인지하지 못하는 상황에서 발생하는 개인정보가 담긴 데이터 수집 문제에 대해 지적했다.

 

"아마존은 매년 사람들이 새로운 기술이 들어간 제품을 사게 한다"며, "'감시는 사람들을 편안하게 하고, 안전을 위해 중요하다'는 마케팅으로 제품을 판매하고 있다"고 말했다.

 

특히, 얼굴 표정을 해석하고, 피부에 흐르는 땀과 심장박동 등을 분석하는 '감정인식' 기술에 대한 위험성은 사람들의 행동을 단순화시킨다. 감정적인 상태를 마케팅에 이용하는 것은 민감한 개인정보수집에 대한 문제가 발생할 수 있다고 지적했다.

 

이를 통해 "아마존은 직원들도 감시하고 있다"며, "직원들의 근육, 힘줄 등을 알고리즘으로 분석한다. 이를 바탕으로 부상을 최소화하기 위해 일하는 창고에서 직원들의 위치를 효율적으로 재배치하고 있다"고 주장했다.

 

이는 "근본적인 문제 해결이 아닌 과도한 업무에 대한 복잡한 해결책을 제시하는 것"이라며, "효율성만 쫓는 근시안적인 해결책은 지구와 미래를 해칠 것"이라고 전했다. "진정한 노동자 보호가 해결책이 돼야 한다"고 강조했다.

 

또, "생체인식에 대한 해로움을 가진 이런 AI는 처음부터 만들어지면 안됐다고 생각한다"며, "어떤 데이터를 왜 수집하는지 공개하는 AI에 대한 투명성을 옹호한다"고 말했다.

 

그는 우리가 알지 못하는 영역에서도 데이터 수집 발생시 이에 대해 동의를 구하는 것이 필요하고, 무조건 약관에 동의해야만 서비스를 이용할 수 있는 약관 동의 강요 문제도 해결해야 한다고 덧붙였다.

 

한편, 팀닛 게브루는 지난 2019년 구글에 입사해 AI윤리팀을 신설하고 공동 팀장을 맡아 근무한 바 있다. 그는 작년 12월, 구글의 AI 편향성 문제를 지적하고, 윤리 문제에 대한 개선을 촉구하다가 해고당했다. (관련기사=구글의 민낯? AI윤리팀 팀닛 게브루 박사 해고 논란, 내부 고발 메일 발단)

 

이 후, 블랙 인 AI를 창설해 흑인 AI 개발자의 인권 보호와 소외된 연구원을 지원하고 있다. (관련기사="구글 후원, 안받아요"... 미국내 AI 관련 흑인·성소수자·여성 조직서 거부 입장 표명)

 

AI타임스 이하나 기자 22hnxa@aitimes.com

 

Copyright © '인공지능 전문미디어' AI타임스 (http://www.aitimes.com/)
무단전재 및 재배포 금지

 

팀닛 게브루, "AI 제품으로 감시하는 이커머스, 편의·안전으로 포장되는 양면성 주의해야" - AI타