
로그인 후 이용해주세요
저장소에 저장되었습니다.
로그인 후 이용해주세요
ChatGPT가 언어를 이해하는 방식에 대한 궁금증에서 출발하여 자연어 처리와 선형대수학의 관계를 탐구함
단어를 벡터로 표현하는 워드 임베딩과 Word2Vec의 개념을 설명하고, 원 핫 벡터와 CBOW 방식의 작동 원리를 정리함
Word2Vec의 학습 구조에서 가중치 행렬, 투사층, 소프트맥스 함수, 크로스 엔트로피 등을 활용한 예측 과정을 구체적으로 분석함
Wikipedia 데이터를 활용하여 Word2Vec을 직접 구현해보고, 다양한 문서에 적용해 실습을 진행함
자연어를 수치화하여 기계가 이해하도록 만드는 과정을 수학적·프로그래밍적으로 고찰한 활동이었음