윤석열 당선자 '디지털 플랫폼 정부'를 제1호 공약으로 발표
AI 시스템 개발 목표여서 국민에 미칠 영향이 과거와 달라
개인정보보호, 정부 자체역량 확보, AI윤리 모범사례 돼야
AI 기반 행정시스템을 구축하기 위해선 충분한 준비가 필요
"구글과 아마존이 사용자에게 딱 맞는 정보를 제공하는 것처럼 인공지능(AI)과 빅데이터를 활용해 개인 맞춤형 정책 정보를 추천하는 플랫폼”
윤석열 대통령 당선인이 공약 1호로 발표한 ‘디지털 플랫폼 정부’의 청사진이다. 디지털 플랫폼 정부가 어떤 모습을 보여줄 것인지 아직 구체적인 계획은 알려지지 않았지만 AI 기반 행정시스템 구축을 주요 내용으로 포함할 것으로 보인다.
공공분야에서 AI 기술을 활용하려는 시도는 과거에도 행정분야별로 이루어져 왔다. 하지만 당선인의 디지털 플랫폼 정부는 정부가 그동안 축적한 방대한 데이터를 통합하여 다양한 행정 영역에서 활용할 수 있는 AI 시스템 개발을 목표로 한다는 점에서 국민에게 미칠 영향은 과거와 다르다고 할 것이다. 본 글에서는 차기 정부가 AI 기반 행정시스템을 성공적으로 개발∙운영하기 위해 고려해야 할 사항들을 살펴보고자 한다.
개인정보 보호
정부는 AI 기반 행정시스템 구축을 위하여 개인정보를 적법하게 이용할 수 있는 절차와 방안을 마련해야 한다. 국민을 대상으로 개인 맞춤형 행정서비스를 제공하려면 개인정보를 활용하여 AI 시스템을 학습해야 한다. 이를 위해서는 여러 정부부처 및 공공기관이 보유하고 있는 데이터를 하나로 통합해야 하고, AI 시스템 개발을 맡을 외부 민간업체에게 데이터를 제공해야 한다. 이 과정은 막대한 양의 국민 개인정보의 이전이 수반된다. 따라서 정부부처∙공공기관∙사업자 등 여러 주체들 사이에서 개인정보의 이용과 제공이 적법하게 이루어지는지에 대하여 충분한 검토가 선행되어야 할 것이다.
나아가 AI 시스템 구축 사업의 구조를 어떻게 수립하는지에 따라 개인정보의 흐름이 달라지고 사업의 법적 평가와 진행 가능 여부가 달라질 수 있다. 따라서 사업 구상 단계에서부터 사업이 적법하게 진행이 가능한지, 잠재적으로 국민들에게 어떠한 위험이 발생할 수 있는지를 염두에 두고 계획을 세워야 한다.
정부의 자체 역량 확보
정부는 AI 기반 행정시스템의 개발∙운영을 계획하고 관리할 수 있는 충분한 역량을 갖추어야 한다. 여기서 역량은 기술적 역량에 국한되는 것이 아니라 AI 시스템 구축에 필요한 개인정보 규제 및 AI 윤리에 대한 심도 깊은 이해가 바탕 되어야 한다는 것을 말한다. AI 윤리의 핵심 원칙인 ‘공정성’, ‘투명성’, ‘신뢰성’은 행정의 주요 목적에도 해당한다는 점에서 공공영역에서 보다 적극적으로 요구된다.
AI 시스템의 개발을 위해 외부 민간업체를 이용하는 경우에도, 정부는 국민으로부터 수집한 데이터를 안전하게 관리하고 민간업체에게 적법하게 제공하는 역할을 직접 수행해야 한다. 이를 위해서 스스로 데이터 처리의 적법성을 확보할 수 있는 전문성을 갖추어야 할 것이다.
중소 민간업체는 관련 법령, 규제, 행정서비스 제공 환경 등에 관하여 충분한 지식을 갖추지 못할 가능성이 높다. 정부가 민간업체에게 명확한 지침을 주지 않는다면 데이터 처리 방법이 적법한지 여부를 판단하기 어려울 수 있다. 따라서 정부는 관련자들에게 올바른 데이터 처리의 기준을 제시할 수 있어야 한다.
정부가 AI 시스템 개발∙운영과 관련하여 자체 역량을 확보하지 못하면, 외부 민간업체에게 지나치게 의존하는 결과가 발생할 수 있다. 이 경우 데이터 처리의 적법성을 담보할 수 없는 것은 물론 AI 시스템에 대한 완전한 통제권을 확보할 수 없게 된다. 가령 AI 시스템이 편향적으로 작동하여 특정 집단에게 행정서비스를 불리하게 제공하더라도, 정부가 이를 적시에 확인하거나 시정하기가 어려워진다. 더욱이 민간업체는 행정서비스 제공 시 달성해야 할 공익적 가치에 대한 이해와 그 내용을 충실하게 AI 시스템으로 구현할 수 있는 능력과 경험이 부족하므로 지나친 의존은 위험하다.
AI 윤리 모범 사례로서의 역할
정부는 AI 기반 행정시스템 구축을 AI 윤리의 모범 사례로 평가될 수 있는 기회로 만들어야 한다. 그간 우리나라를 포함해서 각국 정부 및 국제기구에서 AI 시스템이 사회에 미칠 수 있는 위해를 경고하고 이에 대응하기 위한 AI 윤리원칙 및 가이드라인들을 발표해왔다. 다만 AI 윤리의 구체적인 실현을 위하여 사업자들이 참고할 수 있는 기준이 될 만한 사례가 아직 많이 부족한 상황이다.
정부의 AI 시스템 구축 사업이 AI 윤리의 성공적인 사례가 되기 위해서는, AI 윤리의 준수를 사업의 핵심성과지표로 포함시켜야 한다. 그리고 수행 성과를 정리하여 향후 사업자들이 참고할 수 있는 자료로 공개할 필요가 있다.
AI 윤리의 주요 원칙 중 하나인 ‘투명성’을 구현하기 위해서는, 국민들에게 AI 기반 행정시스템이 어떻게 작동하는지에 대하여 설명을 제공할 필요가 있다. 가령 AI 기반 행정시스템이 어떠한 데이터를 활용하여 학습하였고, 어떠한 데이터 항목들이 중요하게 작용하는지에 대한 정보 제공을 고려해 볼 수 있겠다. 이를 통해 국민들은 AI 기반 행정서비스에 대하여 신뢰하고 자신의 의견을 정확하게 개진할 수 있는 정보를 취득할 수 있다.
한편, AI 시스템의 작동 방식이 외부에 지나치게 많이 공개될 경우, 이는 AI 시스템의 남용으로 이어질 수 있으므로 주의가 필요하다. 가령 AI 기반 행정시스템이 어떠한 정보에 민감하게 반응한다는 점이 국민들에게 알려진다면, 이를 이용하여 행정서비스가 자신에게 유리하게 제공되도록 조작하는 사례가 나올 수 있다. 따라서 투명성 원칙의 구현을 위해서는 AI 시스템의 ‘보안’에 관해서도 함께 고려되어야 한다.
앞서 본 AI 기반 행정시스템의 ‘투명성’과 ‘보안’의 문제와 같이, 그 운영에 있어 여러 원칙들이 상충관계에 놓이는 경우가 발생할 수 있다. 향후 AI 기반 행정시스템 개발∙운영에 있어, 이러한 문제들을 균형 있게 조정하고 해결하는 것 역시 중요한 과제가 될 것이다. 정부가 AI 기반 행정시스템 개발∙운영 과정에서 발생하는 다양한 이슈들에 대해 어떻게 고민하고 대응했는지를 정리하여 발표한다면 사업자들에게 큰 도움이 될 것이다.
AI 기반 행정시스템 구축을 위한 충분한 준비의 필요성
AI 기술은 더 이상 신기술이 아니다. 이미 다양한 서비스들에 적용되어 국민들의 삶에 광범위하게 자리잡고 있다. AI 기술은 국민 생활에 많은 편의를 제공하고 있지만, 의도하지 않았던 부작용도 국내외로 보고되고 있다. 공공분야에서 AI 기술이 적극적으로 활용된다면, 국민들에게 일반 사업자가 제공하는 AI 서비스와는 비교할 수 없을 정도로 큰 영향을 미칠 것이다. 정부의 ‘디지털 플랫폼 정부’ 계획이 충분한 준비를 거쳐 추진되어 향후 공공분야 AI 시스템 구축의 모범 사례로 남기를 바란다.
마경태 변호사 [법무법인(유한) 태평양] kyungtae.ma@bkl.co.kr
[기고]'디지털 플랫폼 정부'의 성공적인 구축을 위한 과제 - AI타임스
\"구글과 아마존이 사용자에게 딱 맞는 정보를 제공하는 것처럼 인공지능(AI)과 빅데이터를 활용해 개인 맞춤형 정책 정보를 추천하는 플랫폼”윤석열 대통령 당선인이 공약 1호로 발표한 ‘디
www.aitimes.com
'칼럼기고' 카테고리의 다른 글
| [기고] 자원이 제한적인 환경에서 구동하는 머신러닝, TinyML (0) | 2022.04.26 |
|---|---|
| [기고] 머신러닝의 대중화 이끄는 나노엣지 AI 기술 (0) | 2022.02.18 |
| [곽민곤 칼럼] 6G와 4차 산업혁명 (0) | 2021.12.01 |
| [박규병 칼럼] 인공지능 연구자/개발자가 되려면 어떤 역량이 필요할까? (0) | 2021.10.28 |
| [특별기고] ②특금법 개정안으로 인해 예상되는 코인 시장의 변화 (0) | 2021.10.15 |