
로그인 후 이용해주세요
저장소에 저장되었습니다.
로그인 후 이용해주세요
고등학교 생활동안 ai를 사용해보면서 영어보다 한국어의 인식이 느리고 부정확해 기대와 동떨어진 대답을 얻은 경험이 있어서 탐구를 시작함.
영어 BERT 모델과 한국어 BERT 모델을 이용해 마스킹된 문장 일부를 복원하는 과제를 적용했고 결과 영어가 10%정도 우세함을 보임.
8bit 양자화 기법을 적용해 모델 파라미터의 표현 정밀도를 낮춘 결과 추론 속도가 약 1.3배 향상되었으며, 이후 L1 기반 프루닝과 파인튜닝을 병행하여 정확도가 6.5%p 상승함을 확인함.
이 탐구를 통해 한국어 대규모 언어 모델이 가지는 추론 속도와 자원 사용의 한계를 8bit 양자화와 프루닝 기법으로 효과적으로 개선할 수 있음을 확인함.