페리

[1]. Saliency Map이란?{1}. 개념모델이 예측할 때 입력 이미지의 어느 픽셀에 집중했는지를 시각적으로 표현한 지도이다. 비유하자면 형광펜으로 중요한 부분에 밑줄 긋는 것이다.의사가 MRI 사진을 보고 "이 부분이 수상하다"며 동그라미 치는 것처럼모델이 "나는 이 부분을 보고 종양이라고 판단했어"를 히트맵으로 표현하는 것이다.{2}. 왜 필요한가?딥러닝 모델은 이미지를 보고 예측하지만 왜 그렇게 예측했는지(블랙박스)는 말해주지 않는다. Saliency Map은 블랙박스를 열어서 "모델이 이 부분를 보고 판단했다"를 시각적으로 보여준다.{3}. 핵심 아이디어"예측값에 가장 큰 영향을 준 픽셀이 어디인가?"픽셀을 조금 바꿨을 때 예측값이 크게 바뀌면 중요한 픽셀이고, 예측값이 안 바뀌면 중요하지..

[1]. Activation Function란?인공 신경망에서 이전 층의 가중치 합을 입력받아 비선형성을 추가하고, 다음 층으로 전달할 최종 출력값을 결정하는 함수다.. 쉽게 이해하기 위해서는 뉴런 구조를 알야 한다.{1}. 뉴런 구조 뉴런 구조는입력값 → [Net Input Function] → [Activation Function] → 출력 순으로 이뤄진다.Net Input Function : 입력값 x 가중치를 모두 더함Activation Function : Net Input Function의 합계를 받아서 최종 출력값으로 변환 쉽게 설명하면 아파트 경비실 CCTV 시스템과 같다.아파트 경비실에 여러 센서가 있는데문 열림 감지 센서 (가중치 높음)움직임 감지 센서 (가중치 중간)소리 감지 센서 (..

[1]. CNN (Convolutional Neural Networks)딥러닝에서 주로 이미지나 영상 데이터를 처리할 때 쓰인다.CNN에서 C는 Convolution(합성곱)을 뜻하며, 이미지의 특징을 추출하는 전처리 역할을 한다.{1}. 왜 쓰냐?(1). 문제점DNN(Deep Neural Network)의 문제점에서 시작되었다.DNN는 이미지를 1줄로 펼쳐버리기 때문에 공간(차원)이라는 정보가 소멸된다. 예) :"고양이 얼굴"을 이루는 건 눈, 코, 입의 위치 관계인데 픽셀을 한 줄로 펼치면 그 관계가 사라진다.즉, 숫자만 남고 맥락은 없어지는 것이다.(2). 핵심 아이디어CNN은 이미지를 날것 그대로 받아서, 부분 부분 흝어가며 특징을 쌓아나간다. 그림 감정사를 예로 들어보자DNN은 그림을 가위로 잘..

https://link.springer.com/article/10.1007/s10586-025-05281-5[5]. 의료 영상 분야에서 설명 가능한 인공지능의 실제 적용 사례{1}. 방사선학 - AI 판독에 확신을 주다방사선과 의사가 수백 장의 영상을 볼 때,AI가 "이 부분이 의심됩니다"라고 형광펜으로 표시해 주는 역할을 한다.(1). 실제 적용1. 폐렴 탐지 (흉부 X-ray)Grad-CAM 히트맵으로 염증 부위 강조의사가 "AI가 맞는 곳을 봤네" 확인 가능2. 뇌종양 분할 (MRI)SHAP + Deep Taylor Decomposition종양 영역 정밀 식별3. 골절 탐지 (근골격계 X-ray)LIME, SHAP, GRAD-CAM 비교 연구XAI 피드백으로 훈련한 모델이 실제 환경에서 더 우수(2..

https://link.springer.com/article/10.1007/s10586-025-05281-5 리뷰 논문이어서 의료 분야에서 XAI가 어떻게 사용되는지만 정리하려고 했는데, 읽다 보니 많은 양의 선행 연구를 체계적으로 분류하고, 비판적으로 분석하는 연구진의 방법론과 논리적 설득력을 극대화하는 학술적 글쓰기 구조를 배울 수 있게 되었다. 해당 논문은 이집트의 Minia University 연구진(Essam H. Houssein, Amr M. Gamal, Eman M. G. Younis, Ebtsam Mohamed )을 중심으로 작성되었다. 의료 영상 AI에 XAI를 적용한 연구들을 모아서 비교, 분석하고, 문제점이랑 앞으로 방향을 정리한 리뷰 논문이다. [0]. 요약2016년에 시작된 ..

[1]. XAI란?AI가 만든 결과를 사람이 더 잘 이해할 수 있는 방식으로 해석하고 설명하는 기술 투명한 AI 의사결정 과정으로 *머신러닝 라이프사이클 중에 전반에 걸쳐 적용되는 기술 ? 머신러닝 라이프사이클비즈니스 문제 정의, 데이터 수집/정제, 모델 학습 및 평가, 배포, 모니터링 및 재학습으로머신러닝 전체의 과정이 이어지는 반복적인 순환 과정 XAI는 아래와 같은 질문에 답변을 해준다.모델이 그렇게 결과를 내놓은 이유?다른 결정을 하지 않은 이유?어떤 경우에 모델이 성공적이었는가?어떤 경우에 모델이 실패했는가?어떤 경우에 모델의 출력을 신뢰할 수 있는가?사용자는 오류를 어떻게 수정할 수 있는가?즉, XAI는 AI의 결정을 사람이 이해할 수 있도록, 어떤 근거로 그 결론에 도달했는지 설명해 주는..

1. AI 최적화란?손실함수를 최소화하도록 모델의 파라미터를 조정하는 과정2. 손실함수 (Loss Function)AI 모델의 예측값과 실제 정답의 차이를 측정하여 모델의 성능을 평가하고 최소화하는 지표→ 선형대수 2에서 수학적 개념과 함께 자세히 작성해 놓음{1}. ML에서의 역할모델이 예측하면얼마나 틀렸는지 숫자로 측정이 숫자를 줄이는 방향으로 학습 진행 예) :3. 경사하강법 (Gradient Descent)→ 수학 쪽에서 자세히 다뤄질 예정으로 ML에서 어떻게 사용하는지만 간단하게 정리할 거임AI 모델의 예측값과 실제값의 손실을 최소화하기 위해손실 함수의 기울기 반대 방향으로 모델의 파라미터를 조금씩 반복적으로 조정해서최적의 해를 찾는 알고리즘4. 학습률 (Learning Rage)머신러닝에서 모..

[1]. Decision Tree (의사 결정 트리){1}. 개념질문을 반복해서 데이터를 분류하는 알고리즘 예) :시험 점수 + 출석률로 합격/불합격 분류점수 >= 60? → 질문 1├── No → 불합격└── Yes → 출석률 ≥ 80%? → 질문 2 ├── No → 불합격 └── Yes → 합격질문 1에서 점수로 1차 분류를 하고,질문 2에서 출석률로 2차 분류를 했다. 이렇게 질문을 반복할수록 더 정교하게 데이터를 분류할 수 있게 된다. {2}. 구조1. 루트 노드→ 첫 번째 질문2. 브랜치→ 질문의 결과 (Yes / No)...3. 리프 노드4. 최종 분류 결과 {3}. 질문의 기준어떤 질문이 데이터를 가장 잘 나누는가? ..

머신러닝 모델은 종류마다 데이터를 학습하는 방식이 다르다. 어떤 모델이 어떤 방식으로 동작하는지 이해해야, 문제에 맞는 모델을 선택하고 결과를 올바르게 해석할 수 있다.[1]. 회귀 모델{1}. Linear Regression (선형 회귀)데이터를 가장 잘 설명하는 회귀선(직선)을 찾아 미래 값을 예측하는 알고리즘 - 학습 단계데이터 쌍(x, y) → 가장 잘 맞는 직선(w, b) 찾기- 예측 단계새로운 x → 직선 공식(y = wx + b)에 대입 → y 예측 (1). 수식y = wx + b (직선 공식)기호이름역할x입력값주어진 데이터w가중치(weight)직선의 기울기b편향직선의 절편y예측값모델의 출력이 중 w와 b는 직선의 모양을 결정하는 값으로, 각각 기울기와 절편을 의미한다. - 기울기직선이 얼..

- 사람이 명확하게 구분할 수 없는 지식을 구현해야 하거나- 사람이 일일히 구현하기에는 너무 많은 양의 규칙들이 필요한 경우=> 위 두 개의 문제를 해결할 수 있는 것이 머신러닝이다. 즉, 인간처럼 학습시켜서 컴퓨터가 규칙을 생성할 수 있지 않을까 해서 시도한 방법 [1]. 머신러닝? 인공지능이랑 뭐가 다름?{1}. 인공지능기계를 인간 행동의 지식에서와 같이 행동하게 만드는 것=> 1956년 다트머스 회의에서 존 매카시가 처음으로 발표함{2}. 그럼 뭐가 더 큰가?인공지능이 가장 큰 개념인공지능을 구현하는 방법 중 하나가 머신러닝머신러닝에는 여러 알고리즘이 있다. 그 중 하나가 인공신경망이고, 인공신경망 중에서 층을 깊게 쌓은 것이 딥러닝이다. 구조를 그리면 아래와 같다.AI └── Machine Le..