AI 신뢰성 확보는 산업 강화와 국가 경쟁력 확보에 필수민간에서 신뢰성 기준 먼저 합의해야 기술 우위 확보할 수 있어법으로 인한 규제가 먼저 이뤄지면 업계 억누를 가능성 커다양한 AI 연구 이뤄지는 한국이 기준안 마련하면 AI 리딩 국가 될 것
"인공지능(AI) 신뢰성 검증은 민간기관에서 먼저 진행돼야 합니다. 국가에서 할 경우 규제가 돼 기술 발전의 발목을 잡을 수 있습니다. 항목을 논의하고 함께 호흡할 수 있는 기관에서 공급자와 수요자간 신뢰 합의점을 찾고 기준을 마련한 다음, 국가가 나서는 게 옳습니다."
김택우 단감소프트 연구소장은 19일 AI타임스와의 인터뷰에서 AI 신뢰성 문제를 우선 검증된 민간기관에 맡겨야 한다고 주장했다. 신뢰는 주관적인 문제이므로 민간에서 단계별 신뢰도를 구축한 다음 법으로 규정해도 늦지 않다는 설명이다.
그는 "민간기관이 아닌 국가에서 기준을 잡으려고 하면 기업을 옥죌 수 있다"며 "AI 업계가 창의적이고 도전적인 사업을 영위하고 이를 통해 국가 경쟁력을 키우기 위해선 민간 차원의 자율적인 신뢰 확보가 우선 마련돼야 한다"고 강조했다.
◆신뢰성 확보, 민간이 먼저 객관화할 수 있는 기준 마련해야
김택우 소장의 주장은 정보통신기술(ICT) 주 부처인 과학기술정보통신부가 전략과 일치한다. 과기정통부는 지난 5월 '신뢰할 수 있는 AI 실현전략' 5개년 계획을 발표하며 AI 신뢰성 확보를 위해 협·단체 중심 민간 자율인증을 우선 추진한다고 밝혔다. 이를 추진할 수 있는 민간기관으로는 지능정보산업협회(AIIA)와 한국정보통신기술협회(TTA) 등을 언급했다.
과기부 관계자는 "AI 신뢰성 확보는 자율인증으로 이용자 신뢰를 얻는 것이 중요하다"면서 "민간이 스스로 검증하는 단계가 가장 먼저 이뤄져야 올바른 신뢰성 확보가 될 것"이라고 말했다.
김 소장은 "AI를 잘 알고, 공급자와 수요자와 잘 소통하는 민간기관이 중심이 돼서 여러 사람과 함께 얘기해보면 공통화, 객관화될 수 있는 기준이 마련될 것"이라며 "사회적으로 합의가 된 기준을 마련한 다음, 그 기준을 잘 지키도록 국가가 지원하는 것이 필요하다"고 설명했다.
과기부와 김 소장이 신뢰성 인증기관으로 민간을 강조하는 이유는 정부가 나서 신뢰성 기준을 마련할 경우 규제로 인한 기술발전 저하가 생길 가능성이 높아서다.
최근 AI 신뢰성에 대한 경각심이 높아지면서 국회에서는 AI 신뢰성 관련 법안 발의가 잇따르고 있다. 지난 1일 정필모 의원(더불어민주당)이 AI 신뢰 기반 내용을 담은 법안을 발의한 데 이어 이용빈 의원(더불어민주당)도 19일 관련 법안을 발의했다.
정필모 의원이 발의한 내용에 따르면 정부는 위원회 구성과 운영을 평가하고 인증하게 된다. 이용빈 의원은 AI 구현을 위한 신뢰성 검·인증지원, AI 기술 보호, 안전 확인 가이드라인 등을 발의한 법안에 포함했다.
김 소장은 이처럼 국가 차원에서 신뢰성 문제를 다가갈 경우 좋은 취지더라도 규제가 생겨 기업의 발목을 잡을 수 있다고 염려한다. 그는 "국가 차원에서 나설 경우 기업을 억누를 수 있어 기술발전 저하가 발생할 수 있다"고 지적했다.
◆AI, 설명할 수 있어야 소비자 신뢰 이끌어낼 수 있다
AI 신뢰성 문제는 관련 기술개발이 빠르게 이뤄지면서 계속 도마 위에 오르는 소재 중 하나다. AI가 어떤 결과를 도출했을 때 신뢰할 수 있는지를 판단할 수 있는 근거가 없다는 게 골자다.
대표 사례가 AI 면접이다. 면접 결과가 좋게 나오던 나쁘게 나오던 평가 기관에서는 그 기준을 정확히 설명하지 못한다. 실제로 지난 5월 서울시 서초구청에서 진행한 AI 면접 프로그램을 체험한 결과, 채점표만 2장으로 인쇄돼 나왔을 뿐 어떤 기준으로 면접을 평가했는지는 나와 있지 않았다.
김 소장은 근로자 평가에 사용되는 AI 기술도 평가 기준을 설명하지 못해 논란이 될 수 있다고 지적했다. 아마존에서 진행하는 AI 배달원 평가시스템이 그 예시다. 일반인이 자차로 배송할 수 있는 '아마존 플렉스' 사업에 AI 평가시스템을 적용한 아마존은 배달원에게 평가 기준이 정확하지 않다는 원성을 사고 있다. 지난 6월 28일(현지시간) 블룸버그에 따르면 아마존에서 4년간 배송업무를 해오던 스티븐 노르만딘(Stephen Normandin)은 "AI는 문이 잠겨있는 아파트에 배송을 하라고 지시하고 이를 못하면 업무를 제대로 하지 않는다고 평가했다"면서 "110%의 힘을 다해 일을 했는데 결국 AI에 의해 해고가 됐다"고 토로했다. 한 여성 근로자는 "타이어에 못이 박혀 배달을 중단할 수밖에 없었지만, 이로 인해 근무 평점이 하락했다"고 불평했다.
김 소장은 "신용등급 평가의 경우 사용자 등급이 떨어지게 되면 적금과 대출이 얼마인지, 연체는 얼마나 되었는지 등을 정확히 설명해 불만이 없도록 하고 있다"면서 "AI도 마찬가지로 제시한 결과를 리포트 방식으로 설명할 수 있어야 한다"고 조언했다.
◆신뢰성 확보는 '이 보 전진을 위한 일 보 후퇴'
김택우 소장은 신뢰성 확보를 위해 AI 기술 속도가 늦어지는 문제에 대해선 '이 보 전진을 위한 일 보 후퇴'라고 설명했다. AI도 결국 수요가 있어야 공급이 원활히 이뤄지는 산업인 만큼, 사용자가 신뢰하는 서비스를 제공해야 산업 성장이 이뤄진다는 것. 이를 위해 기술발전 속도가 잠시 늦춰지더라도 신뢰성 있는 기술로 경쟁력을 확보할 수 있다고 밝혔다.
그는 "사용자가 신뢰하지 않는 서비스는 도태될 수밖에 없듯이 신뢰성 확보가 산업 발전의 중요한 요소"라며 "지금 AI 업계에서는 알고리즘을 사용하기 바빠서 이를 단계별로 설명하려면 어려움을 겪기 마련이지만, 그럼에도 사용자의 AI 사용 독려를 위해선 신뢰성을 확보해야 한다"고 조언했다.
이어 "민간기관 주도로 신뢰성을 확보하는 것이 중요한 이유는 국가에서 할 경우 십 보 후퇴를 하게 되지만, 민간에서 하면 이 보 후퇴만 하면 되기 때문"이라고 설명했다.
◆민간 합의 통한 신뢰성 기준 확보는 국가 경쟁력 강화로 이어져
끝으로 그는 민간 합의를 통한 신뢰성 기준 마련이 국가 경쟁력 강화로 이어질 수 있다고 밝혔다. 한국은 스타트업부터 대기업까지 다양한 규모의 사업장에서 여러 분야의 AI가 연구가 이뤄지는 국가인 만큼, 여기서 마련된 기준이 국가 표준안이 될 수 있다는 설명이다.
김 소장은 "이달 초 유엔무역개발회의(UNCTARD)에서 한국의 지위가 '개발도상국'에서 '선진국'으로 변경된 만큼 한국도 여러 나라의 기준이 될 수 있는 국가로 거듭나야 한다"며 "다양한 AI 영역에서 사업을 하는 한국이 여러 논의 끝에 AI 신뢰성 기준을 마련한다면 AI 산업을 리딩할 수 있는 국가가 될 수 있다"고 강조했다.
이어 "퀄컴이 많은 제품을 만들지 않아도 부자인 이유가 표준을 제시해 로열티를 받기 때문"이라며 "우리도 측정 도구와 기술이 있다면 관련 로열티를 받을 수 있는 제도도 마련되지 않을까 생각된다"고 조심스레 말했다.
김택우 단감소프트 연구소장은 중앙대 컴퓨터 공학을 전공 후 삼성SDS에서 근무했다. 삼성 계열사였던 CJ, 르노삼성자동차, 볼보건설기계코리아의 시스템 운영과 개발 업무를 했다.
이후 BI 전문회사인 디포커스를 공동 설립해 삼성전자, 아모레퍼시픽, SK, 위니아 등에 기업 분석 시스템과 경영정보시스템을 구축했다. 이 과정에서 빅데이터와 AI를 결합한 새로운 비즈니스 개발을 위해 나무데이터를 설립하고 대학원에 진학해 AI 분야 연구를 진행했다.
2019년에는 일상에 녹아든 데이터를 쉽게 설명하는 '데이터 인문학' 책을 출간했다. 지금은 단감소프트에서 AI와 빅데이터 관련 연구개발을 진행 중이다.
AI타임스 김동원 기자 goodtuna@aitimes.com / 이하나 기자 22hnxa@aitimes.com
Copyright © '인공지능 전문미디어' AI타임스 (http://www.aitimes.com/)
무단전재 및 재배포 금지
"AI 신뢰성 검증, 민간에서 시작해야 국가 경쟁력 확보 가능"...김택우 단감소프트 연구소장 인터
\"인공지능(AI) 신뢰성 검증은 민간기관에서 먼저 진행돼야 합니다. 국가에서 할 경우 규제가 돼 기술 발전의 발목을 잡을 수 있습니다. 항목을 논의하고 함께 호흡할 수 있는 기관에서 공급자와
www.aitimes.com