Representation Learning for Natural Language Processing

Abstract

Cuốn sách này cung cấp cái nhìn tổng quan về những tiến bộ gần đây trong lý thuyết, thuật toán và ứng dụng học biểu diễn để xử lý ngôn ngữ tự nhiên (NLP), từ việc nhúng từ đến các mô hình ngôn ngữ được đào tạo trước. Nó được chia thành bốn phần. Phần I trình bày các kỹ thuật học biểu diễn cho nhiều mục nhập ngôn ngữ, bao gồm từ, câu và tài liệu, cũng như các kỹ thuật đào tạo trước. Phần II sau đó giới thiệu các kỹ thuật biểu diễn liên quan đến NLP, bao gồm biểu đồ, các mục nhập đa phương thức và tính mạnh mẽ. Sau đó, Phần III giới thiệu các kỹ thuật biểu diễn kiến thức có liên quan chặt chẽ đến NLP, bao gồm kiến thức thế giới dựa trên thực thể, kiến thức ngôn ngữ dựa trên sememe, kiến thức miền pháp lý và kiến thức miền y sinh. Cuối cùng, Phần IV thảo luận về những thách thức còn lại và hướng nghiên cứu trong tương lai. Các lý thuyết và thuật toán về học biểu diễn được trình bày cũng có thể mang lại lợi ích cho các lĩnh vực liên quan khác như học máy, phân tích mạng xã hội, Web ngữ nghĩa, truy xuất thông tin, khai thác dữ liệu và sinh học tính toán. Cuốn sách này dành cho sinh viên đại học và sau đại học ở trình độ nâng cao, nghiên cứu sinh sau tiến sĩ, nhà nghiên cứu, giảng viên và kỹ sư công nghiệp cũng như bất kỳ ai quan tâm đến việc học biểu diễn và xử lý ngôn ngữ tự nhiên. So với ấn bản đầu tiên, ấn bản thứ hai (1) cung cấp phần giới thiệu chi tiết hơn về học biểu diễn trong Chương 1; (2) bổ sung thêm bốn chương mới để giới thiệu các mô hình ngôn ngữ được đào tạo trước, học biểu diễn mạnh mẽ, học biểu diễn kiến thức pháp luật và học biểu diễn kiến thức y sinh; (3) cập nhật những tiến bộ gần đây trong việc học cách biểu diễn ở tất cả các chương; và (4) sửa một số lỗi trong lần xuất bản đầu tiên. Nội dung mới sẽ có khoảng hơn 50% so với phiên bản đầu tiên. Đây là một cuốn sách truy cập mở.