신경망 모델의 의사 결정 과정을 설명 가능 분류에 영향을 미치는 개별 속성을 시각화 광범위한 도메인 및 분류기에 적용 가능 구글이 주어진 이미지에 대해 분류기(classifier)가 식별한 분류 결과에 대한 의미 있는 설명을 생성할 수 있는 새로운 기술을 도입했다. 이에 따라 이전에 불투명했던 분류 프로세스에 대한 새로운 통찰력을 제공하고 과학적 발견 프로세스를 지원하는 데 핵심적인 역할을 할 전망이다. 신경망은 특정 작업을 놀라울 정도로 잘 수행할 수 있지만 어떻게 결정에 도달하는지 이해하는 것은 종종 미스터리다. 신경 모델의 의사 결정 과정을 설명하는 것은 특히 의료 이미지 분석이나 자율 주행과 같이 고위험 분야에서 특히 중요하다. 이러한 통찰력은 의료 제공자를 안내하고, 모델 편향을 밝히고, 하위 ..
