AI 석학 스튜어트 러셀 교수, "윤리적 AI 위해서 AI 기술 연구자들이 핵심적인 역할해야"

KAIST 개최 ‘인공지능과 미래사회 국제심포지엄’ 기조연설 내용
러셀 교수가 집필한 '인공지능: 현대적 접근방식', 전세계 1500개 대학 사용
어시스턴트 게임 다루는 수리적 모델 고안...AI 오프스위치 문제 개선

 

스튜어트 러셀 UC 버클리대 교수(출처=UC 버클리대 홈페이지)

AI 윤리가 아니고 AI다. 질 좋은 AI가 곧 인간에게 유익한 AI다.

- 스튜어트 러셀(Stuart Russell)

 

윤리적인 인공지능(AI)을 만들기 위해서는 AI 기술 연구자들의 역할이 핵심이라는 전문가 주장이 나왔다. 세계에서 가장 유명한 AI 교과서 '인공지능: 현대적 접근 방식'를 집필한 스튜어트 러셀 UC 버클리대 교수의 의견이다.

 

10일 KAIST가 개최한 '인공지능과 미래사회 국제심포지엄'에는 스튜어트 러셀 교수가 기조 연설자로 나서 증명가능하고 유익한 AI에 대해 발표했다.

 

러셀 교수는 현재 UC 버클리대 전기공학 및 컴퓨터과학과 교수로 재직 중이다. 그가 집필한 '인공지능: 현대적 접근방식' 도서는 전세계 135개국 약 1500개 대학에서 사용하고 있다.

 

스튜어트 러셀 교수가 집필한 책들(출처=행사 캡처)

인간에 이로운 AI, 어시스턴트 게임 다룰 줄 알아야

---

이날 행사에서 스튜어트 러셀 교수는 증명가능하고 유익한 AI를 만들기 위해 기술적 방법론이 중요하다고 강조했다.

 

그는 "AI 윤리가 아니고 AI다. AI 연구자들이 높은 품질의 AI를 만드는 것이 중요하다"고 말했다.

 

현재 AI는 인간에게 유익한 방식으로 작동하지 않는 경우가 있다. AI는 임무를 수행하기 위해 예상치 못한 방향으로 추론해 행동할 수 있기 때문. 대표적인 예시가 '오프스위치(off-switch) 문제'다.

 

러셀 교수는 "인간에게 커피를 주는 미션을 받았을 때 AI는 자신의 전원이 꺼지면 커피를 줄 수 없다고 추론한다. 이러한 과정을 통해 임무 수행 전까지 AI의 동작을 멈추는 스위치를 무력화한다. 커피를 빨리 가져가기 위해 스타벅스 내 고객들을 총으로 쏘는 것도 가능하다"며 오프스위치 문제를 설명했다.

 

이러한 문제를 개선하기 위해 스튜어트 러셀 교수 연구팀은 어시스턴트 게임(assistance games)을 다룰 수 있는 새로운 수리적 모델을 만들었다.

 

AI가 스스로 하는 행동에 대해 인간에게 이득이 되는 것인지 불확실하게 알고 있는 상황이면서, 이 행동이 세상에 큰 영향을 미칠 가능성이 있다면 인간에게 행동 결정권을 넘겨야 한다. 어시스턴트 게임을 다룰 수 있다면 해당 문제를 개선할 수 있다는 것.

 

러셀 교수는 "새로운 모델에 따라 AI 추론이 달라진다. ‘내가 뭔가 잘못하면 인간이 내 스위치를 끌 것이다 -> 무엇을 잘못했는지 모르지만 그런 일을 하고 싶지 않다 -> 인간이 내 스위치를 끌 수 있게 해야겠다’라는 식으로 추론할 수 있는 것"이라고 설명했다.

 

AI 목표가 인간을 위한 것인지 확실하지 않을 때 쓸 수 있는 어시스턴트 게임 방법(출처=행사 캡처)

그는 "우리가 추구하는 기계(AI)는 유익해야 한다. 기계의 행동이 인간의 어떤 목표를 달성할 것인지 예상할 수 있어야 한다. 기계와 소통이 잘 되지 않는 경우가 있는데 이런 상황을 기계가 배우는 것이 중요하다"고 말했다.

 

이어 "알고리즘 최적화 목적이 인간 혜택과 합치되지 않을 때 문제가 발생할 수 있는 것이고 결과는 더 최악이 될 수 있다"고 강조했다.

 

이제까지의 AI는 굉장히 협의적이었기에 이러한 문제가 비교적 크지 않았다는 것이 러셀 교수의 설명이다. 기존 AI에서 지능은 특정 목표의 달성 여부를 의미했다. 반면 범용 AI에서는 어떠한 환경에서도 임무를 수행하기 위한 고급 행동을 빨리 배우는 능력을 지능이라고 한다.

 

스튜어트 러셀 교수는 "이러한 목표가 성공하면 세계 GDP는 10배 이상 상승할 것이다. 건강, 교육, 과학 등에서 우리 문명이 지금까지 제공했던 것 이상으로 혜택을 누릴 수 있을 것"이라고 전했다.

 

AI타임스 박성은 기자 sage@aitimes.com

 

Copyright © '인공지능 전문미디어' AI타임스 (http://www.aitimes.com/)
무단전재 및 재배포 금지

 

AI 석학 스튜어트 러셀 교수, "윤리적 AI 위해서 AI 기술 연구자들이 핵심적인 역할해야" - AI타임스