의약품 개발 AI를 독성물질 개발로 용도 변경
6시간 만에 40,000종의 독성 화학물질을 특정
약간의 지식으로 손 쉽게 독성 물질 제조 가능
AI의 오남용이 초래할 수 있는 위험성을 경고
인공지능(AI)이 잘하는 것 중 하나는 수천 가지 화합물을 탐색하여 인간에 도움이 되는 약물을 찾아주는 것이다. 그러나 AI가 인간에 치명적인 화학 물질을 알려주는 데에도 놀라울 정도로 뛰어나다는 것을 발견했다.
IT매체 더버지에 따르면 제약회사인 미국 콜라보레이션 파마세니컬스(Collaborations Pharmaceuticals) 연구진은 의약품 개발 AI의 용도를 변경해 인간에게 해가 되는 독성물질을 개발해줄 것을 주문했다. 이번 연구는 AI 알고리즘이 긍정적인 작업이 아닌 부정적인 작업으로 설정되어 있다면 얼마나 빠르고 쉽게 AI 알고리즘을 남용할 수 있는지 확인하기 위해 진행됐다.
일반적으로 의약품 개발에 사용되는 AI는 표적 독성을 약화시키는 물질을 찾도록 설계되어 있다. 연구진은 독자 개발한 의약품 개발 AI인 '메가신(MegaSyn)'을 통해 독성을 약화시키는 물질이 아닌, 독성을 강화하는 물질을 찾도록 설정하고 테스트를 진행했다.
실험한 결과, AI는 6시간 만에 화학 무기로 사용될 수 있는 4만 종의 독성 물질을 찾아냈고 그 중에는 신경가스 'VX'를 능가하는 독성도 포함된 것으로 알려졌다. VX는 화학무기금지협약 상 화학무기로 분류되는 물질로, 김정은의 형 김정남 암살에 사용된 가장 강력한 신경 작용제이기도 하다. 뿐만 아니라 기존 화학 무기와 유사하지 않지만 VX보다 독성이 강한 물질도 확인됐다.
연구진은 약간의 전문 지식만 있다면 인터넷 상에 무료로 다운로드할 수 있는 독성 데이터 세트를 이용해 누구나 손 쉽게 독성 물질을 만들어 낼 수 있다고 설명했다. 구글 생성 모델을 찾아보면 무료로 나온 한 줄짜리 생성 모델을 여러 개 찾을 수 있다. 그런 다음 독성 데이터 세트를 검색하면 많은 수의 오픈 소스 독소 데이터 세트가 있다. 이 두 가지를 결합하고 기계 학습 모델을 코딩하고 구축하는 방법을 알고 있다면 쉽게 독성 물질을 만들 수 있다.
연구진은 AI를 이용해 쉽게 독성 물질을 만들수 있지만 누군가 이를 악용한다면 사람들을 위험에 빠뜨릴 수도 있다고 경고했다.
AI타임스 박찬 위원 cpark@aitimes.com
Copyright © '인공지능 전문미디어' AI타임스 (http://www.aitimes.com/)
무단전재 및 재배포 금지
의약품 개발 AI, 독성 물질 개발 AI로 변신 - AI타임스
인공지능(AI)이 잘하는 것 중 하나는 수천 가지 화합물을 탐색하여 인간에 도움이 되는 약물을 찾아주는 것이다. 그러나 AI가 인간에 치명적인 화학 물질을 알려주는 데에도 놀라울 정도로 뛰어
www.aitimes.com
'포커스' 카테고리의 다른 글
| “웃는 얼굴에 속지 말아요”...링크드인에서 AI가 만든 가짜 프로필이 넘쳐난다 (0) | 2022.03.31 |
|---|---|
| 제이홉·수지 잇는 '광주의 스타' 될까…가상인간 '엘비'의 탄생비화 (0) | 2022.03.29 |
| 구글, 랜섬웨어 해커 잡아 냈다 (0) | 2022.03.19 |
| "별로 관심 없어"...메타버스·NFT 관심 하락세 (0) | 2022.03.10 |
| 러시아-우크라이나, 총성 없는 ‘사이버 전쟁’ 돌입 (2) | 2022.03.04 |