메시지로 주고 받는 사진을 스캔, 유해 이미지 차단
AI 이용해 기기가 사진 분석, 애플은 구체 내용 몰라
영국의 아이폰, 아이패드, 맥 이용자들 곧 이용 가능
사용자 단말기 분석(CSS) 기술은 전문가들 큰 우려
아이폰을 이용하는 어린이가 성적으로 유해한 내용의 이미지가 포함된 메시지를 전달 받으면 기기가 자동으로 흐리게 처리하는 기능이 영국에서도 적용된다. 가디언과 아이뉴스 등 영국 언론매체들은 21일 애플이 미국 지역에서만 사용 가능한 이 기능을 몇 주안에 영국에서도 활성화할 것이라고 보도했다. 애플은 이 기능을 ‘메시지에서 안전한 커뮤니케이션(communication safety in Messages)’이라고 부른다.
부모가 자녀의 아이폰에서 이 기능을 켜 두면 메시지앱으로 오가는 사진 중에서 '나체(nudity)'가 포함된 사진은 흐리게 처리되며 자녀에게 이 메시지엔 유해한 콘텐츠가 포함돼 있다는 알림을 보낸다. 이런 사진 분석 및 처리 작업은 인공지능을 이용해 단말기 자체에서 암호화돼 이뤄지기 때문에 애플 본사는 사진 내용뿐 아니라 처리결과를 알지 못한다고 애플 측은 밝혔다.
당초 애플은 지난해 여름 이 기능을 운영체제에 새로 포함시키면서 자녀(13세 이하)의 메시지에 유해한 내용이 담겼다는 알림을 부모에게도 자동으로 보내도록 하겠다고 발표했다. 또 사진들이 애플제품의 데이터 저장소인 아이클라우드(iCloud)에 업로드 되기 전에도 분석해서 이동 성착취 혐의가 있는 이미지는 알리도록 하는 기능을 함께 넣겠다고 밝혔다.
그러나 이 기능은 즉각 전문가들의 우려와 반발을 사면서 큰 논란으로 이어졌다. 애플의 의도는 나쁜데 있지 않았으나 전문가들은 결국 제조 회사가 고객이 사간 단말기를 들여다 볼 수 있게 되는 기술이기 때문에 위험하다고 지적했다.
이런 ‘사용자 기기 검색(CSS, client-side scanning)’ 기술은 처음에 아동 성착취물(CSAM, Child Sexual Abuse Material) 차단을 위해 제안됐다. 그러나 범죄조직이나 적성 국가 등이 이를 쉽게 악용할 가능성이 높고 이 경우 사생활은 물론 인권 침해등 이용자의 피해가 너무 커질 수 있다는 게 전문가들의 논거다. 애플은 이런 우려와 논란에 따라 이 기능의 운영체제 탑재를 미뤘다가 ‘부모 자동 알림’과 ‘아이클라우드 업로드 전 검색’을 제외, 기능을 단순화한 뒤 지난해 하반기 미국에서만 적용하기 시작했다.
유럽연합(EU)은 테러나 범죄 수사 등에 암호화 기술을 도입하는데 긍정적이기 때문에 CSS기술에 대해서 상대적으로 미국보다는 유연한 입장이다. 영국이 애플의 이 기능을 두 번째로 적용하는 지역이 된 배경으로 보인다. 하지만 CSS기술에 관심을 보이는 EU소속 국가들이 있는 만큼 이 지역 전문가 그룹, 사회운동단체 및 활동가 들의 반대 목소리도 커서 논란의 불씨는 꺼지지 않을 전망이다.
AI타임스 정병일 위원 jbi@aitimes.com
Copyright © '인공지능 전문미디어' AI타임스 (http://www.aitimes.com/)
무단전재 및 재배포 금지
애플, 논란의 '사용자 단말기 스캔(CSS)' 기능 영국 적용 - AI타임스
아이폰을 이용하는 어린이가 성적으로 유해한 내용의 이미지가 포함된 메시지를 전달 받으면 기기가 자동으로 흐리게 처리하는 기능이 영국에서도 적용된다. 가디언과 아이뉴스 등 영국 언론
www.aitimes.com
'AI테크' 카테고리의 다른 글
| AI로 치아 치료 돕는 기술, 미 FDA 최초 승인 (0) | 2022.04.22 |
|---|---|
| 사회적 약자 돕는 따뜻한 AI 기술 주목 (0) | 2022.04.22 |
| 인터넷 연결 없이 작동하는 인공지능 컴퓨터 개발 (0) | 2022.04.20 |
| IBM·AMD, 이스라엘 기업의 인공지능 혁신 기술 채택 (0) | 2022.04.20 |
| 위험한 철도공사 작업, 이제는 로봇이 '척척' (0) | 2022.04.19 |