페리

본 실습은 GPT를 기반으로 실습했습니다. 전체 코드는 맨 아래. ipynb로 올려놨습니다.0. 환경 세팅!pip install transformers networkx matplotlib!는 Colab / Jupyter에서 셸 명령어를 실행할 때 앞에 붙이는 기호pip install ...pip : 파이썬 패키지 설치 도구를 의미한다.그래서 pip install xxx 라고 하면, xx라는 라이브러리를 인터넷에서 받아서 이 환경에 설치해 라는 의미이다.transformersHugging Face에서 만든 LLM/딥러닝 모델 라이브러리내가 사용한 기능 :AutoTokenizer : 텍스트 -> 토큰으로 바꾸는 토크나이저 자동 로드AutoModelForCausalLM : LLM 자동 로드이것들을 사용해서 d..

최근 LLM이 복잡한 문제 해결 능력을 크게 향상시킨 이유 중 하나는 Chain-of-Thought(CoT, 사고의 흐름)기법이다. 이것은 문제를 단계별로 나누어 해결하게 만드는 프롬프트 엔지니어링 방식이다. 하지만 가장 큰 문제는 왜 그렇게 답했는지 알 수 없다는 점이다. LLM의 내부는 여전히 블랙박스로 남아 있고, CoT로 생성한 사고 과정이 정말 올바른 reasoning인지는 확인할 방법이 없다.이 문제를 해결하기 위해 등장한 기술이 CRV(Circuit-based Reasoning Verification)이다. 생각은 했지만, 그 생각이 맞는지는 모른다CoT는 복잡한 문제를 단계별로 풀게 하고, 생각의 과정을 자연어로 드러나 모델이 어떻게 reasoning했는지 사람이 검증할 수 있는 것이 장점..