[논문] 데이터 합성 및 파라미터 효율 파인튜닝을 통한 저자원 NMT: Q'eqchi' 마야어 사례 연구

개요

디지털 저자원 토착 언어에 대한 신경망 기계 번역은 극심한 데이터 부족으로 인해 종종 어려움을 겪으며, 이로 인해 추출형 웹 스크래핑에 의존하게 된다. 데이터 주권을 보장하기 위해, 본 연구는 목표 언어의 병렬 텍스트를 스크래핑하지 않고 NMT 모델을 부트스트랩하는 데이터 합성 방법론을 제시한다. Q’eqchi’ 마야어에 초점을 맞추어, 우리는 커뮤니티가 제공한 사전을 대규모 합성 코퍼스로 변환했으며, mT5-base 모델에 LoRA 어댑터를 이용한 파라미터 효율적 미세조정(PEFT)을 활용했다. 도메인 내 평가에서 높은 구조 습득(BLEU 42.02)을 보여주었으며, 이는 합성 제약이 복잡한 교착형 형태론과 VOS 어순을 효과적으로 학습시킴을 증명한다. 하지만, 실제 용어집과의 평가에서는 구조‑의미 격차(BLEU 0.59)가 드러났으며, 모델은 문법적 일관성을 유지하지만 자연 언어의 어휘적 기반이 부족하다. 모델은 합성 템플릿의 제한된 구조 변동성에 과적합되는 모습을 보인다; 파이프라인에서 높은 의미 엔트로피에도 불구하고, 자연 언어의 구문 유연성을 다루는 데 어려움을 겪으며, 실제 입력을 경직된 학습 패턴에 강제로 맞춘다. 또한, 다중 작업 학습(Multi‑Task Learning) 아키텍처를 활용한 소거 연구에서는 부정적 전이가 발생했으며, 이는 보조 작업들이 LoRA 어댑터 내 제한된 파라미터 용량을 놓고 경쟁하여 합성 마커에 과도하게 최적화되고 자연스러운 유연성이 희생되었음을 시사한다. 궁극적으로, 합성 부트스트래핑이 매우 효과적인 구조적 프라이머임을 확인했지만, 커리큘럼 학습을 통한 의미 정제를 위해서는 실제 데이터가 필요함을 밝힌다.

주요 기여

이 논문은 다음 분야의 연구를 제시한다:

• cs.CL
• cs.AI
• cs.LG

방법론

자세한 방법론은 전체 논문을 참조하십시오.

실용적 함의

이 연구는 cs.CL 분야의 발전에 기여한다.

저자

• Alexander Chulzhanov
• Soeren Eberhardt
• Arjun Mukherjee

논문 정보

• arXiv ID: 2606.09767v1
• Categories: cs.CL, cs.AI, cs.LG
• Published: 2026년 6월 8일
• PDF: PDF 다운로드