AI타임스

텍스트를 편향되거나 유해한 이미지로 변환 목소리만 듣고 차별적인 얼굴 이미지 생성 얼굴 이미지만 보고 사람의 성향을 추론 AI의 편향을 악용하는 오남용 우려 커져 사람처럼 판단하고 생각하는 인공지능(AI) 기술이 화제다. 문장 한 두 마디의 설명을 듣고 그림이나 사진으로 묘사하는 AI가 등장했다. 사람의 목소리만 듣고 그 사람의 얼굴 생김새를 그려내는 AI나 사람의 얼굴만 보고 그 사람의 성향을 추측하는 AI도 주목 받는다. 기술의 발전이 놀랍지만 AI가 인간의 지능을 닮아 갈수록 편향과 오남용의 우려는 커진다. 얼마 전 미국의 오픈AI(OpenAI)가 문장 한 두 마디를 듣고 사진이나 그림을 만들어내는 ‘DALL-E 2’를 공개한 바 있다. DALL-E 2는 고해상도의 이미지를 짧은 응답 시간안에 생성..

미국과 중국 비롯한 고소득 국가의 환자 데이터가 대부분 차지 편향된 환자 데이터를 AI가 사용할 때 결과적으로 위험을 초래 소수 부유한 국가에서 수행된 연구와 실험 결과로 임상 일반화 장기적인 데이터 수집과 국제 데이터 저장소 구축 필요성 제기 임상 AI에 사용되는 데이터 세트의 절반 이상이 미국이나 중국에서 온 것이라는 연구 결과가 나왔다. AI가 알고리즘을 훈련하고 검증한 결과는 데이터가 사용된 집단 이외의 집단에선 제대로 일반화되지 않는다는 점을 감안할 때 데이터가 풍부한 지역의 인구는 데이터가 부족한 지역에 비해 훨씬 더 많은 혜택을 누리게 되어 의료 격차를 심화시킬 수 있다. 국제학술지인 'PLoS 디지털 헬스(Digital Health)'에 게재된 논문을 보면 2019년에 발표된 7,000개 ..

실제 데이터 세트를 사용하는 대신 합성 데이터를 생성하는 모델 개발 자기 지도 표현 학습을 기반으로 동일한 이미지에 대해 여러 뷰를 생성 사전 훈련된 생성 모델과 대조 학습 모델을 연결해 대상 이미지를 분류 실제 데이터를 사용해 훈련된 모델 보다 우수한 시각적 표현 학습 가능 합성 데이터를 사용해 훈련된 이미지 분류 모델이 실제 데이터에서 훈련된 모델 보다 더 우수하다는 연구 결과가 나왔다. MIT(Massachusetts Institute of Technology) 대학의 연구진이 실제 데이터 세트를 사용하는 대신 합성 데이터를 생성하는 모델을 사용해서 머신 러닝 모델을 훈련하는 방법을 개발했다. 자연 재해 후 위성 사진에서 피해를 식별하기 위해 이미지 분류를 수행하는 머신 러닝 모델을 훈련시키려면 엄..