Advances in Explainable Artificial Intelligence

Abstract

Các thuật toán Trí tuệ nhân tạo (AI) dựa trên Machine Learning (ML) có khả năng học hỏi từ các ví dụ đã biết, tạo ra nhiều mô hình và biểu diễn trừu tượng khác nhau. Khi áp dụng cho các ví dụ không quen thuộc, các thuật toán này có thể thực hiện một loạt nhiệm vụ, bao gồm phân loại, hồi quy và dự báo, cùng một số nhiệm vụ khác. Thông thường, những cách biểu diễn ML hiệu quả cao này rất khó hiểu, đặc biệt là trong trường hợp các mô hình Deep Learning, có thể liên quan đến hàng triệu tham số. Tuy nhiên, trong nhiều ứng dụng, điều quan trọng là các bên liên quan phải nắm được lý do đằng sau các quyết định của hệ thống để sử dụng chúng hiệu quả hơn. Sự cần thiết này đã thúc đẩy những nỗ lực nghiên cứu sâu rộng nhằm nâng cao tính minh bạch và khả năng giải thích của các thuật toán ML, hình thành lĩnh vực Trí tuệ nhân tạo có thể giải thích được (XAI). Các mục tiêu của XAI bao gồm: giới thiệu tính minh bạch cho các mô hình ML bằng cách cung cấp những hiểu biết toàn diện về lý do căn bản đằng sau các quyết định cụ thể; thiết kế các mô hình ML vừa dễ hiểu vừa minh bạch hơn, đồng thời duy trì mức hiệu suất cao; và thiết lập các phương pháp để đánh giá khả năng diễn giải và tính minh bạch tổng thể của các mô hình, định lượng tính hiệu quả của chúng đối với các bên liên quan khác nhau. Số đặc biệt này tập hợp những đóng góp về những tiến bộ và kỹ thuật gần đây trong lĩnh vực XAI.