페리

[1]. Attribution{1}. Attribution이란?AI가 해당 결론을 내린 이유가 뭔지 입력의 어떤 부분이 얼마나 영향을 줬는지 수치로 측정하는 것이다.쉽게 말하면 AI의 판단 근거를 역추적하는 기술이다. 예를 들어입력 이미지 → AI → 종양 발견 (확률 94%)Attribution은 "종양 있음" 이 판단은 어떤 영역 때문인지 수치로 측정해 준다.{2}. 배경기존 AI의 문제 - 블랙박스딥러닝 모델은 성능은 뛰어난데 왜 그런 결론을 냈는지 알 수 없다. 이건 특히 의료 AI에서 치명적이다. 의사 입장에서 AI가 왜 정상이라고 했는지를 모르면 AI를 믿고 사용할 수가 없다.{3}. XAI 등장{2} 문제를 해결하려고 나온 분야가 XAI이다.Attribution은 XAI의 핵심 도구 중 하나..

[0]. SHAP (Shapley Additive Explanations)란?게임 이론의 샤플리 값을 활용한 기법이다.머신러닝 모델의 예측 결과를 각 피처(특징)의 기여도로 분해하여 설명하는 XAI 기법이다. [1]. SHAP이 필요한 이유 예를 들어 모델이 "악성 종양, 확률 98%"라고 했을 때왜 그 결론인가?어떤 요소가 결정적이었나?틀렸을 때 어디서 잘못됐나?"이걸 답하는 것이 XAI, 그중 Feature Attribution 계열의 대표가 SHAP이다.{1}. Feature Attribution이란?예측값 = 기준값 + 피처1 기여 + 피처 2 기여 + ... + 피처 n 기여즉, 각 피처가 예측에 얼마나, 어느 방향으로 기여했는지 수치로 분해하는 것이다. 근데 각 피처의 기여도를 어떻게 측정해야..

[1]. LIME란?예측 하나를 설명하기 위해, 주변만 단순한 모델로 흉내 내는 기법이다.[2]. 핵심 아이디어복잡한 모델 전체를 이해하려 하지 말고, 설명하고 싶은 예측 1건 주변에서만 단순한 선형 모델로 근사해서 설명하자{1}. "주변"?입력 데이터를 살짝 변형한 유사한 데이터들을 의미한다.예를 들어 원본 데이터가 종양 크기 = 2.1cm, 나이=40 이면,종양크기 = 2.3cm, 나이 = 45 ⇒ 주변종양크기 = 1.7cm, 나이 = 43 ⇒ 주변종양크기 = 1.0cm, 나이 = 25 ⇒ 주변 아님즉, 거리가 가까울수록 가중치를 높게, 멀수록 낮게 줘서 선형 모델을 학습시키는 것이다.[3]. 작동 원리{1}. 설명할 데이터 1건 선택원본 : 종양 크기 = 2.1cm, MRI 신호강도 = 0.7, 나..

[1]. Attention Mechanism{1}. 개념"입력 데이터의 모든 부분을 동등하게 보지 않고, 중요한 부분에 더 집중하는 메커니즘" 예를 들면사람이 긴 글을 읽을 때 전체를 똑같이 집중해서 읽지 않는다."결론", "핵심", "중요"같은 단어가 보이면 그 부분을 더 집중해서 읽는 거랑 똑같다.{2}. 왜 나왔나? - RNN의 한계Attention 이전에는 RNN(순환 신경망)이 순서가 있는 데이터를 처리했다. RNN의 문제는 아래와 같다.입력 : "환자의 종양 크기가 매우 크고, MRI 신호강도가 높으며 나이는 젊다"RNN 처리 순서 :"환자의" → "종양" → "크기가" → 매우" → "크고" → "MRI" → .. → "젊다"문장이 길어지면 앞부분 정보가 뒤로 갈수록 희석된다. 예를 들면,1..

[1]. Saliency Map이란?{1}. 개념모델이 예측할 때 입력 이미지의 어느 픽셀에 집중했는지를 시각적으로 표현한 지도이다. 비유하자면 형광펜으로 중요한 부분에 밑줄 긋는 것이다.의사가 MRI 사진을 보고 "이 부분이 수상하다"며 동그라미 치는 것처럼모델이 "나는 이 부분을 보고 종양이라고 판단했어"를 히트맵으로 표현하는 것이다.{2}. 왜 필요한가?딥러닝 모델은 이미지를 보고 예측하지만 왜 그렇게 예측했는지(블랙박스)는 말해주지 않는다. Saliency Map은 블랙박스를 열어서 "모델이 이 부분를 보고 판단했다"를 시각적으로 보여준다.{3}. 핵심 아이디어"예측값에 가장 큰 영향을 준 픽셀이 어디인가?"픽셀을 조금 바꿨을 때 예측값이 크게 바뀌면 중요한 픽셀이고, 예측값이 안 바뀌면 중요하지..

[1]. Activation Function란?인공 신경망에서 이전 층의 가중치 합을 입력받아 비선형성을 추가하고, 다음 층으로 전달할 최종 출력값을 결정하는 함수다.. 쉽게 이해하기 위해서는 뉴런 구조를 알야 한다.{1}. 뉴런 구조 뉴런 구조는입력값 → [Net Input Function] → [Activation Function] → 출력 순으로 이뤄진다.Net Input Function : 입력값 x 가중치를 모두 더함Activation Function : Net Input Function의 합계를 받아서 최종 출력값으로 변환 쉽게 설명하면 아파트 경비실 CCTV 시스템과 같다.아파트 경비실에 여러 센서가 있는데문 열림 감지 센서 (가중치 높음)움직임 감지 센서 (가중치 중간)소리 감지 센서 (..

[1]. CNN (Convolutional Neural Networks)딥러닝에서 주로 이미지나 영상 데이터를 처리할 때 쓰인다.CNN에서 C는 Convolution(합성곱)을 뜻하며, 이미지의 특징을 추출하는 전처리 역할을 한다.{1}. 왜 쓰냐?(1). 문제점DNN(Deep Neural Network)의 문제점에서 시작되었다.DNN는 이미지를 1줄로 펼쳐버리기 때문에 공간(차원)이라는 정보가 소멸된다. 예) :"고양이 얼굴"을 이루는 건 눈, 코, 입의 위치 관계인데 픽셀을 한 줄로 펼치면 그 관계가 사라진다.즉, 숫자만 남고 맥락은 없어지는 것이다.(2). 핵심 아이디어CNN은 이미지를 날것 그대로 받아서, 부분 부분 흝어가며 특징을 쌓아나간다. 그림 감정사를 예로 들어보자DNN은 그림을 가위로 잘..

[1]. XAI란?AI가 만든 결과를 사람이 더 잘 이해할 수 있는 방식으로 해석하고 설명하는 기술 투명한 AI 의사결정 과정으로 *머신러닝 라이프사이클 중에 전반에 걸쳐 적용되는 기술 ? 머신러닝 라이프사이클비즈니스 문제 정의, 데이터 수집/정제, 모델 학습 및 평가, 배포, 모니터링 및 재학습으로머신러닝 전체의 과정이 이어지는 반복적인 순환 과정 XAI는 아래와 같은 질문에 답변을 해준다.모델이 그렇게 결과를 내놓은 이유?다른 결정을 하지 않은 이유?어떤 경우에 모델이 성공적이었는가?어떤 경우에 모델이 실패했는가?어떤 경우에 모델의 출력을 신뢰할 수 있는가?사용자는 오류를 어떻게 수정할 수 있는가?즉, XAI는 AI의 결정을 사람이 이해할 수 있도록, 어떤 근거로 그 결론에 도달했는지 설명해 주는..