[1]. Saliency Map이란?{1}. 개념모델이 예측할 때 입력 이미지의 어느 픽셀에 집중했는지를 시각적으로 표현한 지도이다. 비유하자면 형광펜으로 중요한 부분에 밑줄 긋는 것이다.의사가 MRI 사진을 보고 "이 부분이 수상하다"며 동그라미 치는 것처럼모델이 "나는 이 부분을 보고 종양이라고 판단했어"를 히트맵으로 표현하는 것이다.{2}. 왜 필요한가?딥러닝 모델은 이미지를 보고 예측하지만 왜 그렇게 예측했는지(블랙박스)는 말해주지 않는다. Saliency Map은 블랙박스를 열어서 "모델이 이 부분를 보고 판단했다"를 시각적으로 보여준다.{3}. 핵심 아이디어"예측값에 가장 큰 영향을 준 픽셀이 어디인가?"픽셀을 조금 바꿨을 때 예측값이 크게 바뀌면 중요한 픽셀이고, 예측값이 안 바뀌면 중요하지..