페리

https://www.sciencedirect.com/science/article/pii/S1746809426003204 이 논문은 지역적 특징을 잡는 CNN과 전역적 맥락을 포착하는 Transformer를 통합한 Thoraxformer를 제안한다. 단순한 성능 향상이 아닌, 밀집 어노테이션 없이도 병변의 위치를 설명 가능하게 만드는 것이 핵심 목표다. ABSTRACTTransformer와 Foundation 모델은 다양한 분야에서 성공적으로 으용되고 있다. 하지만 데이터가 부족한 의료 영상 분석의 특성상, 이 모델들의 낮은 투명성은 기존 CNN 기반 방법들에 비해 의사결정 과정의 명확성을 저해한다. 이를 해결하기 위해 CNN과 Transformer를 통합한 Thoraxformer를 제안한다. CNN의 ..

https://arxiv.org/abs/1610.02357 Xception: Deep Learning with Depthwise Separable ConvolutionsWe present an interpretation of Inception modules in convolutional neural networks as being an intermediate step in-between regular convolution and the depthwise separable convolution operation (a depthwise convolution followed by a pointwise convolution).arxiv.orgXception : Deep Learning with Depthwise..

[1]. 정방행렬 (Square Matrix )행과 열의 크기가 같은 행렬 정방행렬 특징차수 : 행과 열의 크기가 n으로 같으므로 보통 'n차 정방행렬'이고 함주대각선 : 왼쪽에서 오른쪽 아래로 이어지는 대각선 성분들이 존재함 정방행렬에도 종류가 다양하다.정방행렬은 딥러닝 모델의 Layer 구조를 설계할 때 자주 등장한다. 예를 들어 입력 데이터 512차원이고 출력도 512차원인 레이어의 가중치는512 x 512 정방행렬이 된다. 또한 트랜스포머 모델에서 문장 내 단어들끼리의 관계를 계산할 때단어 개수가 N개라면 N x N 정방행렬을 만들어단어 간의 상관관계를 분석한다. {1}. 상관변환정방행렬 중 직교행렬을 이용한 좌표 변환벡터의 길이와 각도를 그대로 유지하면서 좌표만 바꾸는 변환정방행렬 Q가 위를 ..

[1]. 미분"함수가 특정 지점에서 얼마나 빠르게 변하는가?"를 측정하는 도구 현재 가중치에서 Loss의 순간 기울기를 구하기 위해 사용한다. 비유하자면 산 등반과 같다.함수를 울퉁불퉁한 산이라고 생각하면 된다.어떤 구간은 완만하고 (기울기 작음)어떤 구간은 가파르고 (기울기 큼)어떤 구간은 평평함 (기울기 = 0)미분은 지금 내가 서 있는 바로 그 지점의 경사도를 알려준다.즉, "지금 발 딛고 있는 곳이 얼마나 가파른가?"를 측정하는 도구이다.{1}. 수학적 정의f(x+h) - f(x) : x가 h만큼 변했을 때, 함수값의 변화량 h : x의 변화량h → 0 : 그 간격을 0에 수렴 (h값이 0에 가까워 지도록 점점 줄여감. 0이 되는 것이 아님)즉, "x가 아주 조금 변할 때 f(x)가 얼마나 변하는..

[1]. Attribution{1}. Attribution이란?AI가 해당 결론을 내린 이유가 뭔지 입력의 어떤 부분이 얼마나 영향을 줬는지 수치로 측정하는 것이다.쉽게 말하면 AI의 판단 근거를 역추적하는 기술이다. 예를 들어입력 이미지 → AI → 종양 발견 (확률 94%)Attribution은 "종양 있음" 이 판단은 어떤 영역 때문인지 수치로 측정해 준다.{2}. 배경기존 AI의 문제 - 블랙박스딥러닝 모델은 성능은 뛰어난데 왜 그런 결론을 냈는지 알 수 없다. 이건 특히 의료 AI에서 치명적이다. 의사 입장에서 AI가 왜 정상이라고 했는지를 모르면 AI를 믿고 사용할 수가 없다.{3}. XAI 등장{2} 문제를 해결하려고 나온 분야가 XAI이다.Attribution은 XAI의 핵심 도구 중 하나..

[0]. SHAP (Shapley Additive Explanations)란?게임 이론의 샤플리 값을 활용한 기법이다.머신러닝 모델의 예측 결과를 각 피처(특징)의 기여도로 분해하여 설명하는 XAI 기법이다. [1]. SHAP이 필요한 이유 예를 들어 모델이 "악성 종양, 확률 98%"라고 했을 때왜 그 결론인가?어떤 요소가 결정적이었나?틀렸을 때 어디서 잘못됐나?"이걸 답하는 것이 XAI, 그중 Feature Attribution 계열의 대표가 SHAP이다.{1}. Feature Attribution이란?예측값 = 기준값 + 피처1 기여 + 피처 2 기여 + ... + 피처 n 기여즉, 각 피처가 예측에 얼마나, 어느 방향으로 기여했는지 수치로 분해하는 것이다. 근데 각 피처의 기여도를 어떻게 측정해야..

[1]. LIME란?예측 하나를 설명하기 위해, 주변만 단순한 모델로 흉내 내는 기법이다.[2]. 핵심 아이디어복잡한 모델 전체를 이해하려 하지 말고, 설명하고 싶은 예측 1건 주변에서만 단순한 선형 모델로 근사해서 설명하자{1}. "주변"?입력 데이터를 살짝 변형한 유사한 데이터들을 의미한다.예를 들어 원본 데이터가 종양 크기 = 2.1cm, 나이=40 이면,종양크기 = 2.3cm, 나이 = 45 ⇒ 주변종양크기 = 1.7cm, 나이 = 43 ⇒ 주변종양크기 = 1.0cm, 나이 = 25 ⇒ 주변 아님즉, 거리가 가까울수록 가중치를 높게, 멀수록 낮게 줘서 선형 모델을 학습시키는 것이다.[3]. 작동 원리{1}. 설명할 데이터 1건 선택원본 : 종양 크기 = 2.1cm, MRI 신호강도 = 0.7, 나..

[1]. Attention Mechanism{1}. 개념"입력 데이터의 모든 부분을 동등하게 보지 않고, 중요한 부분에 더 집중하는 메커니즘" 예를 들면사람이 긴 글을 읽을 때 전체를 똑같이 집중해서 읽지 않는다."결론", "핵심", "중요"같은 단어가 보이면 그 부분을 더 집중해서 읽는 거랑 똑같다.{2}. 왜 나왔나? - RNN의 한계Attention 이전에는 RNN(순환 신경망)이 순서가 있는 데이터를 처리했다. RNN의 문제는 아래와 같다.입력 : "환자의 종양 크기가 매우 크고, MRI 신호강도가 높으며 나이는 젊다"RNN 처리 순서 :"환자의" → "종양" → "크기가" → 매우" → "크고" → "MRI" → .. → "젊다"문장이 길어지면 앞부분 정보가 뒤로 갈수록 희석된다. 예를 들면,1..

[1]. Saliency Map이란?{1}. 개념모델이 예측할 때 입력 이미지의 어느 픽셀에 집중했는지를 시각적으로 표현한 지도이다. 비유하자면 형광펜으로 중요한 부분에 밑줄 긋는 것이다.의사가 MRI 사진을 보고 "이 부분이 수상하다"며 동그라미 치는 것처럼모델이 "나는 이 부분을 보고 종양이라고 판단했어"를 히트맵으로 표현하는 것이다.{2}. 왜 필요한가?딥러닝 모델은 이미지를 보고 예측하지만 왜 그렇게 예측했는지(블랙박스)는 말해주지 않는다. Saliency Map은 블랙박스를 열어서 "모델이 이 부분를 보고 판단했다"를 시각적으로 보여준다.{3}. 핵심 아이디어"예측값에 가장 큰 영향을 준 픽셀이 어디인가?"픽셀을 조금 바꿨을 때 예측값이 크게 바뀌면 중요한 픽셀이고, 예측값이 안 바뀌면 중요하지..

[1]. Activation Function란?인공 신경망에서 이전 층의 가중치 합을 입력받아 비선형성을 추가하고, 다음 층으로 전달할 최종 출력값을 결정하는 함수다.. 쉽게 이해하기 위해서는 뉴런 구조를 알야 한다.{1}. 뉴런 구조 뉴런 구조는입력값 → [Net Input Function] → [Activation Function] → 출력 순으로 이뤄진다.Net Input Function : 입력값 x 가중치를 모두 더함Activation Function : Net Input Function의 합계를 받아서 최종 출력값으로 변환 쉽게 설명하면 아파트 경비실 CCTV 시스템과 같다.아파트 경비실에 여러 센서가 있는데문 열림 감지 센서 (가중치 높음)움직임 감지 센서 (가중치 중간)소리 감지 센서 (..