[AI북터뷰] "우리는 어떻게 AI와 공존할 수 있을까?"...'나는 인공지능을 변호한다' 저자 이상직 변호사 인터뷰

이상직 법무법인 태평양 변호사가 '나는 인공지능을 변호한다' 책을 출간했다. (사진=김동원 기자)

 

2016년 알파고가 세상을 놀라게 한 후 약 6년이 지난 지금, 인공지능(AI)은 익숙한 존재가 됐다. AI는 사람들 세상에 자연스럽게 녹아들어 지금은 알파고보다 더 뛰어난 AI 모델들이 다양한 용도로 사용되고 있다.

 

일상에서 AI는 사용자가 원하는 콘텐츠를 추천하고 적합한 검색 정보를 제공한다. AI 기술 기반 무인매장이 등장했고, 사람들은 AI 스피커와 대화하는 시간이 많아졌다. 기업과 기관에서는 AI 면접을 도입해 지원자 역량을 평가하기도 한다.

 

그런데 우리는 AI를 얼마나 잘 알고 있을까? AI가 하나의 트렌드로 자리 잡은 지금 이 질문을 던진 이가 있다. 이상직 법무법인 태평양 변호사다. 이상직 변호사는 최근 '나는 인공지능을 변호한다'라는 책을 출간했다. AI와의 공존을 찾는 책이다.

 

이 책은 AI와 공존하게 된 현 세상에서 어떻게 하면 AI를 잘 사용할 수 있을지를 설명한다. 우리가 스마트폰을 현재 통화 외에 학습, 게임, 콘텐츠 제작, 메신저 등 다양한 용도로 잘 활용할 수 있는 것은 스마트폰을 사용하는 방법을 잘 알기 때문이다.

 

책에선 이와 같은 내용을 담고 있다. 우리가 스마트폰을 잘 알고 사용하는 것처럼, PC 프로그램을 공부하고 사용하는 것처럼 AI 역시 어느 정도 알고 있어야 이 기술을 잘 활용할 수 있다는 메시지를 담고 있다.

 

그렇다고 책에선 AI에 대한 전문지식과 법적 지식을 요구하지 않는다. AI에 대한 깊은 지식이 없더라도 누구나 쉽게 AI와 친해질 수 있는 내용으로 책을 구성했다. 이상직 변호사는 책에서 "우리는 AI를 이해하는 법을 고민해야 한다"며 "AI가 우리에게 먼저 손을 내밀지는 않는다. 우리가 먼저 그들의 손을 잡아야 한다"고 얘기한다.

 

그렇다면 우리는 어떻게 해야 AI의 손을 잡을 수 있을까? 이상직 변호사를 만나 이야기를 나눠봤다.

 

 

[다음은 이상직 법무법인 변호사와의 일문일답]

 

이상직 변호사는 과학기술정보통신부 인공지능법제정비단 위원과 국가지식재산위원회 인공지능·지식재산특별위원장 등 AI 관련 분야에 종사해왔다. (사진=김동원 기자)

 

Q. '나는 인공지능을 변호한다' 책을 집필한 이유는 무엇인가.

 

과학기술정보통신부 인공지능법제정비단 위원과 국가지식재산위원회 인공지능·지식재산특별위원장으로 근무하며 AI 관련 업무를 진행했다. 관련 업무를 하면서 이 기술이 정부나 전문가 영역에 남아 있어서는 국가발전에 도움이 안 된다고 생각했다. 

 

온라인 미디어와 메타버스 등에 국민이 소비자 겸 생산자로 참여하는 경우가 증가하고 있는 만큼 많은 사람이 AI를 알아야 그 혜택을 받을 수 있고 국가·사회·경제 발전이 가능하다고 보았다. 국민에게 AI 시대 의미와 영향 등을 어렵지 않게 알리고 싶어 책을 저술하게 됐다.

 

Q. 우리는 왜 AI를 잘 알아야 할까?

 

기술 주체자이기 때문이다. 앞으로 은행에 대출을 받으러 가게 되면 AI가 대출심사에 참여할 가능성이 높아진다. 또 취직하기 위해 원서를 내면 AI 면접을 보는 경우도 증가하고 있다. 이러한 AI에 대한 평은 다 다르다. 사람보다 공정하고 객관적이라는 평도 있고, 결국 AI는 사람이 만든 것이고 사람의 데이터를 사용하기 때문에 편향적이라는 평도 있다.

 

하지만 결국엔 우리는 AI를 사용해야 한다. 그렇다면 AI를 잘 알고 평가에 응하는 사람과 아닌 사람은 결과가 달라질 수 있다. AI 스피커도 마찬가지다. 편리한 부분도 있지만, 사용자가 한 얘기들이 기업 서버에 다 저장돼 불편함을 느끼는 이들도 있을 것이다. 이러한 AI를 이용할 때 나에게 어떤 점이 이익이 되고 어떤 점이 단점이 되는지 알고 있으면 더 AI를 잘 활용할 수 있을 것이다.

 

OTT도 마찬가지다. 유튜브나 넷플릭스에서 콘텐츠를 검색하면 내가 원하지 않아도 AI 알고리즘이 지금까지 시청한 정보를 토대로 유사한 콘텐츠를 추천한다. 이 것이 바람직한지 아닌지 고민하고 사용해야 우리는 AI 기술의 주체자가 될 수 있다.

 

AI 시대를 맞이할 때 우리가 도움이 되는 점, 또 불편이 되는 점을 알아야 사생활이 침해되거나 내 권익이 침해되는 등 부작용을 최소화할 수 있다. 그래서 우리는 AI에 대해서 알아야 한다.

 

Q. AI 개발자 측면이 아니라 사용자 입장에서도 이 기술을 알아야 한다고 이해하면 되나.

 

맞다. AI는 공급하는 사람만 주체자가 아니다. 이 기술을 활용하는 사람도 기술 주체자다. 우리가 어떤 제품을 사용할 때 사용설명서를 읽고 공부해 사용하듯이 AI도 사용자 수준에서 요구하는 지식이 있어야 AI를 잘 사용할 수 있다.

 

이상직 변호사는 "우리가 어떤 제품을 사용할 때 사용설명서를 읽고 공부해 사용하듯이 AI도 사용자 수준에서 요구하는 지식이 있어야 AI를 잘 사용할 수 있다"고 말했다. (사진=김동원 기자)

 

Q. AI를 변호한다는 책 제목이 독특하다. 책이 담고 있는 의미는 무엇인가.

 

AI는 어떻게 보면 공급자 쪽의 혁명이다. AI를 만들어내고 사업하는 주체자는 공급자다. 수요자가 먼저 이러한 기술을 원했던 것은 아니다. 하지만 결국은 AI 시대가 됐고 기술을 원하지 않았지만 기술을 사용하게 된 소비자에 대한 변호가 필요하다고 봤다. 최고의 변호는 소비자를 위한 AI를 쉽게 알려주는 것이라고 생각했다.

 

메타버스도 마찬가지다. 현실에 없는 물건이 가상에서 더 높은 가치를 인정받는 경우가 등장하고 있다. 이러한 가상 시장도 공급자의 필요에 의해 만들어진 경우가 많다. 산업과 시장 관점에서 더 이상 판매할 제품이 없으니 어떻게 하면 제품을 더 팔 수 있을까를 고민해 만든 시장인 것이다. 소비자는 이를 대체불가토큰(NFT)으로 구매하고 새로운 경제 시장이 형성되고 있다. 이러한 시장에서도 소비자를 보호할 필요가 있다. 법과 윤리가 만들어지는 것도 필요하겠지만 우선적으로 소비자가 이해할 수 있는 기술과 시장을 알려주는 것이 먼저 필요하다고 보았다.

 

사실 책 제목은 출판사에서 도움을 줬다. 처음 포맷은 서초동에 근무하는 변호사가 진짜 AI와 얘기를 하며 이를 변호하는 내용으로 구성했다. 그러면서 변호사가 진정 변호를 하려면 AI와 인간이 무엇인지 알아야겠다는 내용으로 구성하려 했지만 보다 이해를 쉽게 포맷을 변화해 지금의 책으로 만들었다. AI를 많은 사람이 이해하기 쉽게 쓰려고 했는데 실제로 많은 분들에게 도움을 주었으면 좋겠다.

 

Q. 책에서 범죄에 이용되는 'AI가 어느 정도 수준인지 정확히 정의해야 한다'고 얘기했는데 이런 부작용을 방지하기 위해서도 AI를 잘 알아야 할 것 같다는 생각이 든다. 그런데 여기서 그 정의는 어떻게 정할 수 있을까?

 

AI는 현재 다양한 분야에 도입돼 긍정적인 사례를 많이 만들고 있다. 하지만 문제는 AI를 이용해 범죄를 저지를 수도 있다는 것이다. 예를 들어 AI를 보이스피싱 범죄에 적용할 경우 범죄자는 타겟에 맞춰 입금을 유도해 범죄 가능성이 커질 수 있다. 이 경우 AI가 무엇인지가 명확해야지 처벌을 할 수 있다. 그래야 법률로써 규정해야 한다는 원칙인 법정주의에 부합한 처벌이 가능하기 때문이다.

 

그러면 우리가 규제해야 하는 AI는 어떤 존재일까? 이 부분을 고민해야 한다. 어느 서비스에 적용되고 있는지, 서비스 적용 여부도 전체인지 일부인지, 범죄에 적용되는 AI가 어떤 장비와 네트워크를 사용하고 있는지 등을 정확히 알고 '이런 AI는 쓰면 안 된다'라고 명확하게 규정해야 한다. 이러한 정의가 명확해야지 AI를 이용해 사람의 생명, 재산, 안전에 피해를 주는 사례를 막을 수 있다.

 

예를 들어 현재 개인 정보 개념이 너무 추상적이다 보니 개인 정보 침해 문제에 기업과 사용자 모두 난감한 경우가 있다. 주민등록번호 뒷자리를 지우면 누군지 알 수 없으니 이 정보는 개인 정보가 아닌 걸까? 그건 또 아니다. 개인 정보 사례를 보듯 AI도 명확한 개념을 세워놔야 잘못된 용도로 사용되는 부작용을 사전에 막을 수 있을 것이다.

 

이상직 변호사는 "AI에 대한 명확한 개념을 세워놔야 잘못된 용도로 사용되는 부작용을 사전에 막을 수 있다"고 밝혔다. (사진=김동원 기자)

 

Q. 그렇다면 현재 우선적으로 논의되어야 할 AI 법은 무엇인가.

 

AI 법은 윤리와 다르다. 현재 우리나라는 윤리에 대한 인식이 높아져서 윤리 기준을 많이 만들고 있다. 다만 윤리 기준은 자율적인 규제 차원에서 스스로 조심하라는 의미를 담고 있다. 윤리 기준을 위반한다고 해서 처벌할 수는 없다. 

 

그렇기 때문에 AI를 활용해 사람의 생명, 신체, 안전을 위협하는 등 AI를 사용해선 안 되는 분야에 대한 법적인 논의가 있어야 한다고 본다. AI를 이용해 사람의 생명을 다치게 하거나 독성이 있는 약품을 만들거나 해서는 안 된다.

 

물론 AI를 이용해서 사람의 생명과 신체에 안전을 저해할 경우 현행법에 따라 처벌할 수도 있다. 하지만 현행법으로 안 되는 부분이 나오면 문제가 될 수 있다. 예를 들어 AI 알고리즘을 이용해 가습기를 만들었는데 그 가습기로 사람이 생명을 잃었다면 가중 처벌을 해야 하는지 아닌지에 대한 논의가 필요하다. 

 

여러 가지 의견과 아이디어가 예상된다. 공급사가 AI가 문제를 일으킬지 몰랐어도 AI를 활용해 계속 수익을 내고 별도 목적으로 AI를 사용했으니 책임을 져야 한다는 의견이 있을 것이다. 또 예측을 못 했는데 책임을 지는 것은 가혹하지 않냐는 의견도 있을 것이다.

 

이 문제를 풀기 위해서는 먼저 기업이 AI를 활용하기 전 다양한 안전 조치를 취하게 하는 규정을 둬야 한다. 또 AI가 딥러닝 과정에서 문제를 일으키지 않도록 여러 시스템을 갖추도록 의무를 주는 법적 규정도 필요할 수 있다. 이러한 논의가 우선적으로 이뤄져야 한다고 본다.

 

Q. 이러한 논의를 하기 위해선 정부 역할이 중요할 것 같은데 책에선 정부는 주연이 아닌 조연이라고 표현했다. 그 이유는 무엇인가.

 

산업화, 정보화까지는 정부의 역할이 실제 산업 성장에 효과를 발휘했다. 그때는 민간의 역량이 많이 높지 않았기 때문이다. 하지만 지금은 다르다. 정부에서 '어떤 AI를 만들자'고 하면 이미 민간에선 그러한 아이디어와 상품이 나온 경우가 많다. 민간에서 먼저 나오는데 정부가 그 AI를 지원한다고 하면 시장은 영향을 받게 된다. 이 경우 긍정적인 효과보다 부정적인 결과를 가져올 가능성이 크다.

 

이제 정부가 더이상 시장에서 우위에 있지 않다. 그럼에도 과거처럼 정부가 산업 계획을 세우고 민간이 따라오게 하는 것은 옳지 않다. 그러면 정부는 어떤 역할을 해야 할까? 앞으로 정부의 역할은 민간이 할 수 없는 영역을 중심으로 역할을 키워야 한다고 본다.

 

예를 들어 최근 택시와 모빌리티 플랫폼 기업 간 갈등이 있었다. 데이터 산업에서도 데이터를 이용하겠다는 사업자와 정보 주체를 대신한 시민 단체 간 분쟁도 많았다. 이러한 분쟁은 민간이 스스로 해결하기에는 이해관계 성립이 안 될 경우가 많다. 이들을 협상 테이블에 나오게 하고 서로 타협시키고 설득하는 과정들을 정부가 해야 한다.

 

정부가 시장을 이끌기보다 지원하는 방향에 초점을 더 맞춰야 한다는 것이다. 이제 정부가 모든 것을 다 하는 시대는 지났다고 본다. 앞으로는 사회적으로 걸림돌이 되는 요소를 찾아 해소해주는 것이 정부의 역할이 되어야 한다고 생각한다.

 

Q. 책에선 이러한 실제 사용자를 보호하는 방안과 철학적인 내용이 쉽게 설명되어 있는 것 같다. AI를 제대로 알고 사용하고자 하는 사람들을 위한 지침서처럼도 보인다. 끝으로 어떤 분들에게 이 책을 추천하고 싶나.

 

AI의 현재와 미래를 들여다보고 정치·사회·문화적 관점에서 AI를 이해하고 싶은 분들에게 이 책을 추천한다. AI 정책·기술·산업에 종사하는 사람부터 일반 직장인, 대학생 모두 이 책을 통해 AI에 대해 쉽게 다가설 수 있을 것이다.

 

이상직 변호사는 제36회 사법시험을 합격하고 정보통신부정보통신부(현 과학기술정보통신부, 방송통신위원회) 제1호 변호사로서 2년 가까이 ICT 정책 및 규제업무에 종사했다. 이후 KT에서 법무센터장, 준법지원인(전무)을 지냈다. 현재 법무법인(유한) 태평양 판교사무소에 근무하고 있다.

 

AI타임스 김동원 기자 goodtuna@aitimes.com

 

Copyright © '인공지능 전문미디어' AI타임스 (http://www.aitimes.com/)
무단전재 및 재배포 금지

 

[AI북터뷰] "우리는 어떻게 AI와 공존할 수 있을까?"...'나는 인공지능을 변호한다' 저자 이상직 변