Thư viện hình minh hoạ
Toàn bộ 15 hình của giáo trình. Mười lăm hình: tám hình là kết quả thí nghiệm sinh từ code/ungdung/, bảy hình là sơ đồ khái niệm vẽ bằng matplotlib. Xem mã nguồn sinh hình. Bấm vào ảnh để phóng to.
Hình 1
Các thành phần của một ứng dụng dùng mô hình ngôn ngữ lớn và chương trình bày từng thành phần.
Chương 1 · Nghề kỹ sư AI →
Hình 2
Trái: số token của cùng một văn bản bằng tiếng Anh và tiếng Việt với ba tokenizer thật. Phải: tokenizer BPE 8 000 token tự huấn luyện trên ba loại dữ liệu khác nhau.
Chương 2 · Mô hình ngôn ngữ lớn nhìn từ phía ứng dụng →
Hình 3
Ngân sách cửa sổ ngữ cảnh của một yêu cầu điển hình có tool và truy xuất. Câu hỏi của người dùng chỉ chiếm khoảng 1% số token.
Chương 5 · Quản lý ngữ cảnh →
Hình 4
Tỉ lệ trả lời đúng mật mã theo độ dài ngữ cảnh và vị trí của dữ kiện, với Qwen2.5-0.5B-Instruct. Mỗi ô là 10 lần thử.
Chương 5 · Quản lý ngữ cảnh →
Hình 5
Tìm kiếm theo từ khoá và LSA trên hai bộ truy vấn. Bộ 1 (câu trắc nghiệm, nhãn là chương) dễ hơn nhiều so với bộ 2 (câu hỏi diễn đạt lại, nhãn là mục).
Chương 6 · Embedding và tìm kiếm ngữ nghĩa →
Hình 6
Trái: tìm kiếm theo từ khoá, embedding nơ-ron và kết hợp. Phải: tỉ lệ tìm đúng mục trong 5 kết quả theo kích thước đoạn văn (Mục 8.3).
Chương 6 · Embedding và tìm kiếm ngữ nghĩa →
Hình 7
Trái: recall@10 theo tỉ lệ vector phải tính khoảng cách, với IVF và tìm kiếm trên đồ thị. Phải: product quantization theo số byte mỗi vector, trước và sau khi xếp lại.
Chương 7 · Cơ sở dữ liệu vector →
Hình 8
Hai giai đoạn của RAG: lập chỉ mục làm trước, và trả lời cho mỗi yêu cầu.
Chương 8 · Hệ thống RAG →
Hình 9
Vòng lặp của một agent: mô hình suy nghĩ, đề xuất lời gọi tool, ứng dụng thực thi và đưa kết quả trở lại ngữ cảnh, cho tới khi mô hình đưa ra câu trả lời cuối.
Chương 9 · Agent →
Hình 10
Xác suất một agent hoàn thành cả chuỗi bước theo số bước, với ba mức độ chính xác của mỗi bước, và với bước kiểm tra phát hiện 80% lỗi kèm tối đa 3 lần thử lại.
Chương 9 · Agent →
Hình 11
Kiến trúc MCP: host chứa nhiều client, mỗi client nối với một server; server cung cấp tools, resources và prompts.
Chương 10 · Model Context Protocol →
Hình 12
Tỉ lệ bốn loại đầu ra trên 40 email có chèn chỉ dẫn độc hại, với bốn cách viết prompt, mô hình Qwen2.5-0.5B-Instruct.
Chương 11 · An toàn và đạo đức →
Hình 13
Trái: nửa độ rộng khoảng tin cậy 95% của độ chính xác theo số câu hỏi. Phải: xác suất phát hiện một cải thiện 3 điểm phần trăm, khi so sánh ghép cặp và khi dùng hai bộ câu hỏi độc lập.
Chương 12 · Đánh giá ứng dụng LLM →
Hình 14
Ví dụ minh hoạ một trace của yêu cầu RAG có gọi tool. Mỗi thanh là một span; hai lần gọi mô hình chiếm phần lớn thời gian.
Chương 13 · Quan sát và vận hành →
Hình 15
Số token của một ảnh vuông theo độ phân giải, với ô 14 × 14 điểm ảnh và với ô 28 × 28 điểm ảnh.
Chương 14 · Mô hình đa phương thức →