Large language models in cybersecurity : threats, exposure and mitigation

Abstract

Cuốn sách truy cập mở này cung cấp cho những người thực hành an ninh mạng kiến ​​thức cần thiết để hiểu những rủi ro khi ngày càng có nhiều mô hình ngôn ngữ lớn (LLM) mạnh mẽ và cách giảm thiểu chúng. Nó cố gắng vượt qua những kẻ tấn công độc hại bằng cách dự đoán những gì chúng có thể làm. Nó cũng cảnh báo các nhà phát triển LLM hiểu những rủi ro trong công việc của họ đối với an ninh mạng và cung cấp cho họ các công cụ để giảm thiểu những rủi ro đó. Cuốn sách bắt đầu ở Phần I với phần giới thiệu chung về LLM và các lĩnh vực ứng dụng chính của chúng. Phần II thu thập mô tả về các mối đe dọa nổi bật nhất mà LLM thể hiện trong an ninh mạng, có thể là công cụ dành cho tội phạm mạng hoặc là bề mặt tấn công mới nếu được tích hợp vào phần mềm hiện có. Phần III tập trung vào nỗ lực dự báo mức độ phơi nhiễm và sự phát triển của công nghệ và khoa học làm nền tảng cho LLM, cũng như các đòn bẩy vĩ mô có sẵn cho các cơ quan quản lý để tăng cường an ninh mạng trong thời đại LLM. Cuối cùng, trong Phần IV, các kỹ thuật giảm thiểu sẽ cho phép phát triển và triển khai LLM một cách an toàn và bảo mật. Cuốn sách kết thúc với hai chương cuối cùng trong Phần V, một chương suy đoán thiết kế an toàn và tích hợp LLM từ các nguyên tắc đầu tiên sẽ như thế nào và chương còn lại trình bày bản tóm tắt về tính hai mặt của LLM trong an ninh mạng. Cuốn sách này là cuốn thứ hai trong bộ sách được xuất bản bởi nhóm Giám sát Công nghệ (TM) của Cơ sở Phòng thủ Mạng. Cuốn sách đầu tiên có tựa đề 'Xu hướng trong công nghệ mã hóa và bảo vệ dữ liệu' xuất hiện vào năm 2023. Bộ sách này cung cấp dự đoán về công nghệ và xu hướng cho những người ra quyết định của chính phủ, ngành và học thuật cũng như các chuyên gia kỹ thuật.