Học tương phản cho mô hình dịch máy Khmer-Việt

Abstract

Cơ sở lý thuyết về học sâu, mô hình dịch máy mạng nơ-ron, mô hình máy chuyển đổi, mô hình ngôn ngữ lớn, kỹ thuật học tương phản và các độ đo đánh giá mô hình học máy. Mô hình ngôn ngữ lớn LaMa-3.1-8B sẽ được tinh chỉnh trên bộ dữ liệu huấn luyện ban đầu, cải thiện thêm thông qua kỹ thuật học tương phản, áp dụng mô hình tinh chỉnh đa ngữ cho ngôn ngữ nguồn và ngôn ngữ đích được huấn luyện bằng phương pháp chắt lọc tri thức, thiết kế một lệnh nhắc kếp hợp nhãn đánh giá chất lượng bản dịch từ mô hình tinh chỉnh đa ngữ để cải thiện bản dịch.