Giáo trìnhNền tảng · Học sâu · Biểu diễn & Căn chỉnh · Ứng dụng LLM · Quantization · MLOps

Tài liệu tự học bằng tiếng Việt

Tự học học máy và kỹ thuật AI

Sáu giáo trình: Nền tảng, Học sâu, Biểu diễn & Căn chỉnh, Ứng dụng LLM, Quantization và MLOps. Nội dung đi từ toán và học máy cổ điển, qua học sâu và mô hình ngôn ngữ, tới xây dựng ứng dụng LLM, tối ưu suy luận và vận hành hệ thống, theo các chặng của roadmap AI Engineer trên roadmap.sh.

Mỗi chương trình bày theo thứ tự: vấn đề cần giải quyết, định nghĩa, suy luận, ví dụ số, rồi thí nghiệm kiểm chứng bằng mã chạy lại được. Mỗi chương có câu hỏi tự kiểm tra, mỗi bài tập có lời giải đầy đủ, và mỗi kết quả quan trọng đều ghi nguồn.

Nền tảng →Học sâu →Biểu diễn & Căn chỉnh →Ứng dụng LLM →Quantization →MLOps →

Các giáo trình viết để đọc nối tiếp nhau. Trang Lộ trình xếp toàn bộ bài học thành các chặng theo roadmap, kèm bảng cho biết mỗi chủ đề của roadmap được trình bày ở chương nào.

Giáo trình 1

Nền tảng học máy

Đại số tuyến tính, xác suất và các thuật toán học máy cổ điển: hồi quy, phân loại, đánh giá mô hình, regularization, MLE và MAP, tối ưu lồi, SVM, PCA, K-means và hệ thống gợi ý. Mỗi khái niệm có định nghĩa, ví dụ tính tay và thí nghiệm kiểm chứng.

21
chương
13
hình sinh bằng mã
67
câu trắc nghiệm
~5h
thời gian đọc
Phòng thí nghiệmThư viện 13 hìnhTừ điển thuật ngữMã nguồn thí nghiệmToàn văn một trang

Nên bắt đầu từ đâu

Toàn bộ chương

0Chương 0 · 5 phút

Ký hiệu và quy ước

Bảng ký hiệu, quy ước thuật ngữ theo cheatsheet tiếng Việt của Stanford, và hai nghĩa khác nhau của chữ bias.

1Chương 1 · 15 phút

Tổng quan về học máy

Phần lớn thuật toán học máy được ghép từ cùng ba thành phần: một họ hàm, một hàm mất mát và một cách tối ưu; chương dựng khung đó, phân loại các dạng bài toán và mô tả quy trình bao quanh thuật toán, nơi xảy ra phần lớn lỗi.

2Chương 2 · 21 phút

Đại số tuyến tính

Những khái niệm đại số tuyến tính mà các chương sau cần, mỗi khái niệm kèm lý do: hạng quyết định hồi quy có nghiệm duy nhất hay không, số điều kiện quyết định tốc độ của gradient descent, SVD dẫn tới PCA và ridge.

3Chương 3 · 17 phút

Xác suất và thống kê

Ngôn ngữ để nói về sự không chắc chắn: kỳ vọng, phương sai, ma trận hiệp phương sai, phân phối Gauss và định lý Bayes, cùng phép tách sai số của một ước lượng thành độ chệch và phương sai.

4Chương 4 · 23 phút

Hồi quy tuyến tính

Thuật toán đơn giản nhất có nghiệm dạng đóng, nên các hiện tượng như ma trận suy biến và đa cộng tuyến quan sát được trực tiếp; thí nghiệm cho thấy đa cộng tuyến làm hệ số dao động gấp 25 lần mà dự đoán gần như không đổi.

5Chương 5 · 21 phút

Gradient descent

Khi không có công thức, ta đi từng bước xuống dốc: số vòng lặp tỉ lệ với số điều kiện, momentum hạ nó xuống theo căn bậc hai, và gradient tự tính cần được kiểm tra bằng sai phân với bước sai phân chọn đúng.

6Chương 6 · 22 phút

Phân loại tuyến tính

Perceptron, hồi quy logistic và hồi quy softmax dùng chung mô hình tuyến tính và khác nhau ở hàm mất mát; khác biệt đó quyết định perceptron có hội tụ không và hồi quy logistic có cho ra xác suất không.

7Chương 7 · 21 phút

k láng giềng gần nhất và Naive Bayes

Hai cách tiếp cận khác với việc học biên quyết định: k-NN tra cứu các điểm gần nhất, còn Naive Bayes mô tả dữ liệu từng lớp rồi suy ngược bằng Bayes; với dữ liệu Gauss, Naive Bayes, LDA và QDA là cùng một mô hình.

8Chương 8 · 18 phút

Đánh giá mô hình phân loại

Độ chính xác có thể chọn nhầm một mô hình vô dụng khi lớp dương hiếm; chương xây các thước đo thay thế từ ma trận nhầm lẫn, so ROC-AUC với PR-AUC, và nêu các lỗi chia dữ liệu làm mọi con số mất ý nghĩa.

9Chương 9 · 21 phút

Overfitting và regularization

Mô hình có thể khớp dữ liệu huấn luyện rất tốt mà dự đoán kém; ridge và lasso kiểm soát điều đó theo hai cách khác nhau, phân tích được chính xác qua SVD, và cường độ regularization được chọn bằng cross-validation.

10Chương 10 · 16 phút

Ước lượng hợp lý cực đại và hậu nghiệm cực đại

Phần lớn hàm mất mát và thành phần phạt đã gặp suy ra được từ hai nguyên lý: hợp lý cực đại cho bình phương sai số và cross-entropy, hậu nghiệm cực đại cho ridge, lasso và làm trơn Laplace.

11Chương 11 · 15 phút

Tập lồi và hàm lồi

Tính lồi là ranh giới giữa bài toán tối ưu có bảo đảm và không có: định nghĩa, cách nhận ra hàm lồi qua các phép toán bảo toàn, và thí nghiệm cho thấy gradient descent dừng ở nhiều điểm khác nhau khi tính lồi mất đi.

12Chương 12 · 11 phút

Tối ưu lồi và đối ngẫu Lagrange

Công cụ để xử lý ràng buộc trong bài toán lồi: hàm Lagrange, bài toán đối ngẫu, điều kiện Slater và KKT, với điều kiện bù dẫn thẳng tới vector hỗ trợ; mọi khái niệm được tính tay trên một ví dụ xuyên suốt.

13Chương 13 · 20 phút

Máy vector hỗ trợ

SVM chọn siêu phẳng có lề lớn nhất; đối ngẫu chỉ ra rằng chỉ vài vector hỗ trợ quyết định nghiệm, lề mềm tương đương mất mát hinge cộng regularization, và kernel cho biên phi tuyến mà không phải dựng không gian đặc trưng.

14Chương 14 · 15 phút

Giảm chiều dữ liệu

PCA tìm các hướng có phương sai lớn nhất và hoá ra là phân tích trị riêng của ma trận hiệp phương sai; định lý Eckart–Young được kiểm chứng tới 10⁻¹², và một thí nghiệm cho thấy khi có nhãn, LDA chọn hướng tốt hơn hẳn.

15Chương 15 · 13 phút

Phân cụm K-means

K-means đơn giản nhưng đặt ra ba câu hỏi: kết quả phụ thuộc khởi tạo tới mức nào, thuật toán ngầm giả định cụm có hình dạng gì, và chọn số cụm ra sao khi không có nhãn để đối chiếu.

16Chương 16 · 17 phút

Hệ thống gợi ý

Phân rã ma trận dùng lại gần như mọi công cụ của giáo trình; thí nghiệm cho thấy nó chỉ có ích khi mỗi người có số đánh giá gấp vài lần hạng, và người dùng mới cần một phương án dựa trên nội dung.

17Chương 17 · 7 phút

Bài tập

Mười bài tập có lời giải chi tiết và ngân hàng câu hỏi trắc nghiệm theo từng chương.

18Chương 18 · 21 phút

Câu hỏi phỏng vấn

Cách trình bày câu trả lời, các câu hỏi thường gặp theo sáu nhóm chủ đề kèm câu trả lời mẫu, và những câu trả lời chưa đạt.

19Chương 19 · 6 phút

Tài liệu tham khảo

Sách, bài báo gốc và tài liệu tiếng Việt, mỗi nguồn ghi rõ được dùng cho phần nào của giáo trình.

·Phụ lục · 2 phút

Phụ lục: chạy lại thí nghiệm

Cấu trúc mã nguồn, lệnh chạy lại toàn bộ thí nghiệm, và hai loại số liệu: kiểm chứng đẳng thức và mô phỏng.

Giáo trình 2

Học sâu và các kiến trúc mô hình

Từ phân rã độ chệch – phương sai, cây quyết định và phương pháp tập hợp, qua mạng nơ-ron, lan truyền ngược, mạng tích chập, phát hiện đối tượng và phân đoạn ảnh, mạng hồi quy, tới Transformer, RoPE, GQA, FlashAttention và cách ước lượng tham số, FLOP, bộ nhớ của mô hình ngôn ngữ lớn.

17
chương
15
hình sinh bằng mã
59
câu trắc nghiệm
~5h
thời gian đọc
Phòng thí nghiệmThư viện 15 hìnhTừ điển thuật ngữMã nguồn thí nghiệmToàn văn một trang

Nên bắt đầu từ đâu

Toàn bộ chương

0Chương 0 · 5 phút

Ký hiệu và quy ước

Bảng ký hiệu, quy ước thuật ngữ theo cheatsheet tiếng Việt của Stanford, và ba nghĩa của chữ bias trong giáo trình: độ chệch, hệ số chặn và thiên kiến quy nạp.

1Chương 1 · 14 phút

Các họ mô hình

Mỗi họ mô hình là một cách trả lời cùng một nhóm câu hỏi về họ hàm, số tham số, cách tối ưu và cách chống overfitting; các câu trả lời đó quy về thiên kiến quy nạp, và giải thích vì sao cây vẫn mạnh trên dữ liệu dạng bảng.

2Chương 2 · 23 phút

Độ chệch và phương sai

Sai số của một mô hình tách thành độ chệch, phương sai và nhiễu; mô phỏng trên 250 tập huấn luyện đo từng thành phần, đường cong học thay phép đo trên dữ liệu thật, và double descent bổ sung cho bức tranh cổ điển.

3Chương 3 · 20 phút

Cây quyết định và phương pháp tập hợp

Một cây quyết định có phương sai cao; bagging và rừng ngẫu nhiên giảm phương sai, gradient boosting giảm độ chệch, và số đo trên cùng một bài toán cho thấy từng cách tác động vào đâu.

4Chương 4 · 20 phút

Mạng nơ-ron nhiều lớp

Vì sao giữa các lớp phải có hàm phi tuyến, mạng một lớp ẩn biểu diễn được tới đâu theo định lý xấp xỉ phổ quát, và một phép dựng cho thấy độ sâu tiết kiệm số tham số theo cấp số mũ.

5Chương 5 · 23 phút

Lan truyền ngược và các thuật toán tối ưu

Lan truyền ngược tính gradient với chi phí cỡ ba lần tính hàm mất mát nhưng tốn bộ nhớ kích hoạt; SGD, momentum, Adam và AdamW dùng gradient đó để cập nhật tham số, kèm một ví dụ tính tay đầy đủ.

6Chương 6 · 20 phút

Khởi tạo, chuẩn hoá và kết nối tắt

Gradient co lại hoặc phình ra qua nhiều lớp; khởi tạo Xavier và He, chuẩn hoá và kết nối tắt giữ nó ổn định, và thí nghiệm với mạng 40 lớp cho thấy kết nối tắt một mình làm gradient bùng nổ.

7Chương 7 · 37 phút

Mạng nơ-ron tích chập

Ba giả định về ảnh giảm số tham số đi hàng nghìn lần; chương đi từ phép tích chập và trường tiếp nhận tới so sánh CNN với ViT, phát hiện đối tượng với IoU, NMS và AP, và phân đoạn ảnh.

8Chương 8 · 16 phút

Mạng nơ-ron hồi quy

RNN đọc chuỗi bằng một trạng thái cập nhật qua từng bước; gradient tiêu biến và bùng nổ theo thời gian, LSTM giữ thông tin nhờ cổng quên, và giới hạn về tính song song khiến Transformer thay thế RNN.

9Chương 9 · 19 phút

Attention và Transformer

Attention như một phép tra cứu mềm, lý do chia điểm số cho √dₖ được chứng minh và đo, attention nhiều đầu, mặt nạ, cấu trúc một khối Transformer, mã hoá vị trí và ba kiểu kiến trúc.

10Chương 10 · 21 phút

Các cải tiến của Transformer

Khung Transformer giữ nguyên nhưng các thành phần đã đổi: pre-LN, RoPE, GQA, SwiGLU, mixture of experts và FlashAttention, mỗi thay đổi kèm vấn đề nó giải quyết và điểm yếu của nó.

11Chương 11 · 20 phút

Các chiến lược giải mã

Cùng một mô hình với hai chiến lược giải mã cho hai hành vi rất khác nhau; chương so sánh greedy, beam search, nhiệt độ, top-k và top-p trên một phân phối đuôi dài, và các vấn đề giải mã trong hệ thống thật.

12Chương 12 · 18 phút

Tham số, FLOP và bộ nhớ của Transformer

Công thức số tham số, số phép tính và bộ nhớ của Transformer, kiểm chứng khớp tới từng tham số với GPT-2 và Llama 2, và ngân sách huấn luyện Llama 2 7B ước lượng từ C ≈ 6ND.

13Chương 13 · 9 phút

Bài tập

Mười một bài tập có lời giải chi tiết và ngân hàng câu hỏi trắc nghiệm theo từng chương.

14Chương 14 · 25 phút

Câu hỏi phỏng vấn

Cách trình bày câu trả lời, các câu hỏi thường gặp theo năm nhóm chủ đề (học máy cổ điển và mạng nơ-ron, huấn luyện mạng sâu, Transformer, tài nguyên tính toán, thị giác máy tính) kèm câu trả lời có số liệu, và bảng các câu trả lời chưa đạt.

15Chương 15 · 17 phút

Tài liệu tham khảo

Sách và bài báo gốc theo nhóm chủ đề, mỗi nguồn ghi rõ được dùng cho nội dung nào của giáo trình.

·Phụ lục · 1 phút

Phụ lục: chạy lại thí nghiệm

Cấu trúc mã nguồn, lệnh chạy lại toàn bộ thí nghiệm, và phân biệt giữa số liệu mô phỏng với phép đối chiếu con số đã công bố.

Giáo trình 3

Biểu diễn, mô hình sinh và căn chỉnh

Embedding và tìm kiếm vector, tiền huấn luyện, tinh chỉnh và LoRA, ba họ mô hình sinh VAE, GAN, khuếch tán, rồi học tăng cường, RLHF và DPO. Các kết quả quan trọng được suy ra đầy đủ và kiểm chứng bằng số.

20
chương
14
hình sinh bằng mã
49
câu trắc nghiệm
~3h
thời gian đọc
Phòng thí nghiệmThư viện 14 hìnhTừ điển thuật ngữMã nguồn thí nghiệmToàn văn một trang

Nên bắt đầu từ đâu

Toàn bộ chương

0Chương 0 · 4 phút

Ký hiệu và quy ước

Bảng ký hiệu, quy ước thuật ngữ, và hai nghĩa khác nhau của hệ số β trong VAE và trong RLHF.

1Chương 1 · 6 phút

Tổng quan

Bốn nhóm kỹ thuật ra đời riêng rẽ, embedding, học chuyển giao, mô hình sinh và căn chỉnh, xếp thành một chuỗi khi nhìn theo quá trình tạo ra một trợ lý ngôn ngữ; mỗi nhóm trả lời một câu hỏi mà nhóm trước để lại.

2Chương 2 · 15 phút

Word2Vec

Đếm số lần đồng hiện, chuyển sang PMI rồi nén bằng SVD đã cho embedding giải đúng mọi phép loại suy trên một kho ngữ liệu nhân tạo; word2vec làm cùng việc mà không lập ma trận, vì ở điểm tối ưu tích vô hướng của nó bằng PMI dịch đi log k.

3Chương 3 · 7 phút

Hình học của không gian embedding

Khi đám mây embedding lệch tâm, hai vector ngẫu nhiên độc lập có cosine trung bình tới 0,87; trừ vector trung bình, làm trắng hoặc học tương phản sửa được hiện tượng này, còn từng chiều riêng lẻ của embedding thường không mang nghĩa.

4Chương 4 · 10 phút

Embedding theo ngữ cảnh và tìm kiếm vector

Embedding tĩnh không phân biệt được các nghĩa của một từ; Transformer gán vector theo ngữ cảnh nhưng cần học tương phản mới cho embedding câu tốt, và tìm kiếm trên hàng triệu vector dựa vào các chỉ mục gần đúng như IVF, HNSW và PQ.

5Chương 5 · 7 phút

Tiền huấn luyện

Dữ liệu không nhãn rẻ và dồi dào, và việc đoán token tiếp theo buộc mô hình học sự kiện, ngữ pháp, phép tính và cấu trúc mã; mô hình đã tiền huấn luyện được dùng lại theo bốn cách, và có những trường hợp tiền huấn luyện không giúp được.

6Chương 6 · 7 phút

Đóng băng và tinh chỉnh

Một thí nghiệm có kiểm soát cho thấy với 20 và 50 mẫu ba cách làm không phân biệt được, từ 150 mẫu tinh chỉnh toàn phần dẫn đầu, còn đóng băng chững lại từ 500 mẫu vì đặc trưng cố định đặt ra giới hạn trên.

7Chương 7 · 10 phút

LoRA và tinh chỉnh tiết kiệm tham số

Tinh chỉnh toàn phần Llama 2 7B cần 96,4 GiB; LoRA chỉ học phần cộng thêm hạng thấp, đưa trạng thái Adam xuống 32 MiB, không làm suy luận nhanh hơn nhưng cho phép một mô hình gốc phục vụ nhiều adapter và kết hợp được với lượng tử hoá trong QLoRA.

8Chương 8 · 5 phút

Mô hình sinh

Hằng số chuẩn hoá làm ước lượng hợp lý cực đại không áp dụng trực tiếp được cho bài toán sinh; mô hình tự hồi quy, VAE, GAN và mô hình khuếch tán là bốn cách tránh nó, với những đánh đổi khác nhau về độ ổn định, độ sắc nét và tốc độ lấy mẫu.

9Chương 9 · 11 phút

Bộ tự mã hoá biến phân

VAE tối đa chặn dưới ELBO để không gian ẩn có cấu trúc lấy mẫu được; thí nghiệm cho thấy hệ số β quyết định số chiều ẩn còn mang thông tin, từ 6 chiều ở β = 0 tới không chiều nào khi hậu nghiệm sụp, và mẫu mờ là do hàm mất mát bình phương.

10Chương 10 · 10 phút

Mạng đối sinh

Bộ sinh học qua đánh giá của bộ phân biệt; dạng gốc của hàm mất mát có gradient gần 0 đúng lúc bộ sinh còn tệ nên không phủ được cụm nào, dạng không bão hoà phủ đủ 8 cụm, và việc phải tìm điểm cân bằng thay vì cực tiểu làm GAN khó huấn luyện.

11Chương 11 · 11 phút

Mô hình khuếch tán

Quá trình thuận có dạng đóng, kiểm chứng trên 200 000 quỹ đạo mô phỏng; lịch nhiễu đọc qua tỉ số tín hiệu trên nhiễu, huấn luyện chỉ là hồi quy dự đoán nhiễu, còn lấy mẫu chậm được khắc phục bằng DDIM, chưng cất và khuếch tán trong không gian ẩn.

12Chương 12 · 10 phút

Nhập môn học tăng cường

Học từ phần thưởng thay vì đáp án đúng: phương trình Bellman, Q-learning, và một thí nghiệm trên lưới 7 × 7 cho thấy khởi tạo lạc quan đủ để khám phá với ε = 0, còn khởi tạo bi quan làm cả ε = 0,3 thất bại.

13Chương 13 · 8 phút

Gradient chính sách

Thủ thuật log biến gradient của phần thưởng kỳ vọng thành một kỳ vọng ước lượng được bằng lấy mẫu; đường nền không đổi kỳ vọng nhưng giảm độ lệch chuẩn khoảng 2,3 lần, và PPO dùng hàm lợi thế cùng phép cắt tỉ số xác suất.

14Chương 14 · 10 phút

Học tăng cường từ phản hồi của con người

Học từ so sánh vượt được giới hạn của học bắt chước vì đánh giá dễ hơn tạo ra; mô hình thưởng Bradley–Terry là hồi quy logistic trên hiệu điểm, và bài toán có ràng buộc KL có nghiệm dạng đóng khớp với nghiệm số tới 10⁻⁷.

15Chương 15 · 9 phút

Tối ưu trực tiếp theo sở thích (DPO)

Đảo ngược nghiệm dạng đóng của RLHF làm hằng số chuẩn hoá triệt tiêu, cho một hàm mất mát tính thẳng từ dữ liệu so sánh; DPO trùng RLHF hai bước tới 4,2 × 10⁻⁸ và đơn giản hơn, nhưng RLHF vẫn có lợi khi cần học trên câu trả lời mới sinh.

16Chương 16 · 8 phút

Bài tập

Mười bài tập có lời giải chi tiết và ngân hàng câu hỏi trắc nghiệm theo từng chương.

17Chương 17 · 14 phút

Câu hỏi phỏng vấn

Cách trình bày câu trả lời, các câu hỏi thường gặp về biểu diễn, học chuyển giao, mô hình sinh và căn chỉnh kèm câu trả lời mẫu dẫn số liệu, và bảng các câu trả lời chưa đạt.

18Chương 18 · 6 phút

Tài liệu tham khảo

Sách và bài báo gốc theo nhóm chủ đề, mỗi nguồn ghi rõ được dùng cho nội dung nào của giáo trình.

·Phụ lục · 2 phút

Phụ lục: chạy lại thí nghiệm

Cấu trúc mã nguồn, lệnh chạy lại, các kết quả kiểm chứng đẳng thức, và ba kết quả khác với cách phát biểu thường gặp.

Giáo trình 4

Xây dựng ứng dụng với mô hình ngôn ngữ lớn

Các chặng của roadmap AI Engineer: cách LLM hoạt động từ phía ứng dụng, chọn và triển khai mô hình, prompt và context engineering, embedding, cơ sở dữ liệu vector, RAG, agent, MCP, an toàn, đánh giá, quan sát vận hành và AI đa phương thức. Thí nghiệm chạy trên chính văn bản tiếng Việt của lộ trình.

20
chương
15
hình sinh bằng mã
47
câu trắc nghiệm
~4h
thời gian đọc
Phòng thí nghiệmThư viện 15 hìnhTừ điển thuật ngữMã nguồn thí nghiệmToàn văn một trang

Nên bắt đầu từ đâu

Toàn bộ chương

0Chương 0 · 3 phút

Ký hiệu và quy ước

Cách giáo trình gọi tên các thuật ngữ vốn ra đời bằng tiếng Anh, các ký hiệu dùng trong bài, và quy ước về tên sản phẩm và giá dịch vụ.

1Chương 1 · 12 phút

Nghề kỹ sư AI

Kỹ sư AI xây sản phẩm trên một mô hình có sẵn thay vì huấn luyện từ đầu, nên công sức chính dời sang việc đo xem hệ thống tốt tới đâu; chương mô tả công việc đó và các thành phần của một ứng dụng dùng LLM.

2Chương 2 · 23 phút

Mô hình ngôn ngữ lớn nhìn từ phía ứng dụng

Những đặc điểm của mô hình ảnh hưởng trực tiếp tới thiết kế: token và tokenizer đo trên văn bản tiếng Việt, cửa sổ ngữ cảnh và KV cache, lấy mẫu, các giai đoạn huấn luyện, chi phí, độ trễ và các giới hạn cố hữu.

3Chương 3 · 17 phút

Chọn và triển khai mô hình

Phân loại mô hình, mô hình đóng và mở trọng số, cách tính bộ nhớ GPU khi tự triển khai, cách gọi mô hình qua API, và thứ tự xét các tiêu chí khi chọn mô hình.

4Chương 4 · 16 phút

Thiết kế prompt

Viết prompt như viết một bản đặc tả: cấu trúc của prompt, ví dụ trong prompt, chain-of-thought, đầu ra có cấu trúc, function calling, prompt caching và quản lý prompt như mã nguồn.

5Chương 5 · 19 phút

Quản lý ngữ cảnh

Phần lớn token mô hình nhận được không do người viết prompt viết ra; chương bàn cách chọn những token đó, đo việc mô hình dùng thông tin kém đi khi ngữ cảnh dài, và các kiểu hỏng của ngữ cảnh.

6Chương 6 · 19 phút

Embedding và tìm kiếm ngữ nghĩa

Embedding văn bản và cách huấn luyện, độ tương đồng, và một thí nghiệm trên văn bản tiếng Việt cho thấy BM25 thắng một mô hình embedding nhỏ, còn kết hợp hai cách tốt nhất ở câu hỏi khó.

7Chương 7 · 14 phút

Cơ sở dữ liệu vector

Vì sao tìm kiếm chính xác quá chậm với kho lớn, và ba ý tưởng tìm gần đúng là IVF, product quantization và đồ thị HNSW, đo trên cùng một bộ dữ liệu; kèm lọc theo quyền và cập nhật chỉ mục.

8Chương 8 · 20 phút

Hệ thống RAG

Truy xuất tài liệu rồi đưa vào ngữ cảnh để mô hình trả lời dựa trên đó; thí nghiệm trên 254 câu trắc nghiệm cho thấy ngữ cảnh đúng giúp còn ngữ cảnh sai làm hại, nên phải đo riêng truy xuất và sinh.

9Chương 9 · 19 phút

Agent

Khi để mô hình tự chọn bước tiếp theo: workflow và agent, function calling, ReAct, hệ nhiều agent, và phép tính cho thấy độ tin cậy giảm theo cấp số nhân với số bước cùng cách khắc phục bằng kiểm tra và thử lại.

10Chương 10 · 11 phút

Model Context Protocol

Một giao thức chung để ứng dụng AI kết nối với tool và dữ liệu: kiến trúc host, client, server, các thành phần, thiết kế phi trạng thái của đặc tả 2026-07-28, cách xây server và các rủi ro an toàn.

11Chương 11 · 21 phút

An toàn và đạo đức

Danh sách rủi ro của OWASP, thí nghiệm prompt injection gián tiếp cho thấy các cách phòng thủ bằng prompt không đáng tin, phòng thủ bằng kiến trúc, dữ liệu nhạy cảm, thiên kiến và rào chắn.

12Chương 12 · 16 phút

Đánh giá ứng dụng LLM

Ba cách chấm, các thước đo theo nhiệm vụ, cỡ mẫu cần thiết để một kết luận đáng tin, sức mạnh của so sánh ghép cặp bằng kiểm định McNemar, và kiểm thử hồi quy cho mọi thay đổi.

13Chương 13 · 10 phút

Quan sát và vận hành

Những gì cần ghi lại để tái tạo được lỗi, trace và span theo OpenTelemetry, theo dõi chi phí và độ trễ, ước lượng chất lượng khi không có nhãn, và bảo vệ dữ liệu trong log.

14Chương 14 · 9 phút

Mô hình đa phương thức

Cách mô hình ngôn ngữ đọc ảnh và vì sao số token tăng theo bình phương độ phân giải, video, sinh ảnh, nhận dạng và tổng hợp tiếng nói.

15Chương 15 · 6 phút

Lập trình với công cụ AI

Các loại công cụ lập trình dựa trên LLM, hai thí nghiệm có đối chứng cho kết quả trái ngược về hiệu quả, và cách dùng an toàn.

16Chương 16 · 7 phút

Bài tập

Mười bài tập có lời giải chi tiết và ngân hàng câu hỏi trắc nghiệm theo từng chương.

17Chương 17 · 17 phút

Câu hỏi phỏng vấn

Câu hỏi thường gặp khi phỏng vấn vị trí kỹ sư AI theo năm nhóm chủ đề, kèm câu trả lời mẫu và những câu trả lời chưa đạt.

18Chương 18 · 6 phút

Tài liệu tham khảo

Đặc tả, bài báo gốc và báo cáo kỹ thuật, mỗi nguồn ghi rõ được dùng cho phần nào của giáo trình.

·Phụ lục · 1 phút

Phụ lục: chạy lại thí nghiệm

Cấu trúc mã nguồn, lệnh chạy lại, bản chụp dữ liệu và giới hạn của các thí nghiệm dùng mô hình nhỏ.

Giáo trình 5

Quantization trong Deep Learning: từ nguyên lý đến thực hành

Từ công thức S và Z cho tới GPTQ, NF4 và KV cache. Viết theo lối bài giảng, mọi hình và mọi con số đều sinh ra từ mã chạy được.

17
chương
17
hình sinh bằng mã
48
câu trắc nghiệm
~1h
thời gian đọc
Phòng thí nghiệmThư viện 17 hìnhTừ điển thuật ngữGhi chú biên tậpMã nguồn thí nghiệmToàn văn một trang

Nên bắt đầu từ đâu

Toàn bộ chương

0Chương 0 · 1 phút

Ký hiệu và quy ước

Bảng ký hiệu dùng xuyên suốt tài liệu và phần kiến thức nền cần có trước khi bắt đầu.

1Chương 1 · 3 phút

Vì sao cần quantization

Bốn động cơ: bộ nhớ, năng lượng, tốc độ và cái giá phải trả. Vì sao di chuyển dữ liệu đắt hơn tính toán hàng trăm lần.

2Chương 2 · 5 phút

Máy tính biểu diễn số

Số nguyên bù hai, IEEE 754, FP16/BF16/FP8. Khác biệt cốt lõi: độ chính xác tương đối so với tuyệt đối.

3Chương 3 · 6 phút

Uniform affine quantization

Suy ra công thức S và Z từ đầu, ví dụ tính tay đầy đủ, lượng tử đối xứng so với bất đối xứng.

4Chương 4 · 3 phút

Phân tích sai số

Mô hình nhiễu đều, quy tắc mỗi bit đáng giá 6 dB, và đánh đổi giữa sai số làm tròn với sai số cắt.

5Chương 5 · 3 phút

Độ mịn (granularity)

Per-tensor, per-channel, per-group. Vì sao scale chỉ được đặt trên trục không bị lấy tổng.

6Chương 6 · 4 phút

Suy luận bằng số nguyên

Khai triển phép nhân ma trận đã lượng tử, bias int32, requantization bằng số học dấu chấm tĩnh.

7Chương 7 · 3 phút

Lượng tử cả một mạng

Lượng tử cái gì, nút fake-quant, gộp BatchNorm vào tích chập và gộp chuỗi lớp.

8Chương 8 · 3 phút

Calibration

Năm cách chọn dải cho activation — min–max, EMA, percentile, MSE, KL — và một thí nghiệm so sánh trung thực.

9Chương 9 · 7 phút

PTQ và QAT

Straight-Through Estimator, LSQ, so sánh theo độ rộng bit, và nhóm kỹ thuật PTQ nâng cao: CLE, bias correction, AdaRound.

10Chương 10 · 6 phút

PyTorch và TFLite

Mã đã chạy thật: eager mode, QAT, PT2E/torchao, LiteRT, và cách đo kích thước – độ trễ – độ chính xác cho đáng tin.

11Chương 11 · 11 phút

Quantization cho LLM

Outlier có hệ thống, LLM.int8(), SmoothQuant, GPTQ, AWQ, NF4/QLoRA, FP8 và microscaling, lượng tử KV cache.

12Chương 12 · 2 phút

Quy trình làm việc

Sơ đồ chọn phương pháp, phân tích độ nhạy theo lớp, và danh sách kiểm tra tám mục trước khi triển khai.

13Chương 13 · 2 phút

Những hiểu lầm thường gặp

Chín phát biểu nghe rất hợp lý nhưng sai, kèm đính chính có dẫn chứng từ chính các thí nghiệm trong tài liệu.

14Chương 14 · 2 phút

Bài tập

Chín bài tập của giáo trình kèm lời giải chi tiết, bộ câu hỏi trắc nghiệm theo chương và các bài luyện tính tay.

15Chương 15 · 2 phút

Tài liệu tham khảo

Hai mươi nguồn gốc: bài báo nền tảng, kỹ thuật cho LLM, và tài liệu công cụ.

·Phụ lục · 1 phút

Phụ lục: chạy lại thí nghiệm

Cây thư mục mã nguồn và các lệnh để tái lập toàn bộ hình vẽ cùng số liệu trong tài liệu.

Giáo trình 6

MLOps: vận hành hệ thống học máy

Những gì cần làm sau khi đã có một mô hình tốt: kiểm định dữ liệu, tính đúng theo thời điểm của đặc trưng, thí nghiệm lặp lại được, đánh giá theo lát cắt, phục vụ và ra mắt mô hình, phát hiện dịch chuyển phân phối, giám sát, huấn luyện lại, vòng phản hồi và LLMOps. Các nhận định dựa trên bài báo gốc hoặc trên thí nghiệm chạy lại được.

18
chương
14
hình sinh bằng mã
63
câu trắc nghiệm
~3h
thời gian đọc
Phòng thí nghiệmThư viện 14 hìnhTừ điển thuật ngữMã nguồn thí nghiệmToàn văn một trang

Nên bắt đầu từ đâu

Toàn bộ chương

0Chương 0 · 2 phút

Ký hiệu và quy ước

Các ký hiệu xác suất dùng trong giáo trình và cách gọi tiếng Việt của các thuật ngữ MLOps.

1Chương 1 · 14 phút

Nợ kỹ thuật trong hệ thống học máy

Vì sao hệ thống học máy hỏng theo cách khó thấy và khó bảo trì hơn phần mềm thông thường, giải thích qua khái niệm nợ kỹ thuật của Sculley và cộng sự.

2Chương 2 · 9 phút

Vòng đời của hệ thống học máy

Một hệ thống học máy đi qua những giai đoạn nào, những người vận hành nó đánh giá thành công ra sao, và quy trình được tự động hoá tới mức nào.

3Chương 3 · 11 phút

Dữ liệu

Vì sao dữ liệu là nguồn sự cố phổ biến nhất, cách phân loại lỗi dữ liệu và biến các giả định về dữ liệu thành phép kiểm tra tự động.

4Chương 4 · 11 phút

Đặc trưng

Hai lỗi khó phát hiện nhất của học máy, lệch giữa huấn luyện và phục vụ và rò rỉ thông tin từ tương lai, cùng cách kho đặc trưng hỗ trợ phòng tránh chúng.

5Chương 5 · 8 phút

Tính lặp lại của thí nghiệm

Làm thế nào để huấn luyện lại đúng một mô hình khi cần điều tra sự cố, và cách ghi lại thí nghiệm cùng các mô hình được đưa vào sử dụng.

6Chương 6 · 14 phút

Đánh giá mô hình trước khi triển khai

Vì sao một chỉ số trên tập kiểm tra không đủ để quyết định triển khai, và các cách đánh giá bổ sung: theo lát cắt, kiểm thử hành vi, bộ tiêu chí ML Test Score.

7Chương 7 · 10 phút

Phục vụ mô hình

Các cách đưa mô hình vào phục vụ, ngân sách độ trễ, và vì sao phần đuôi của phân phối độ trễ chi phối thời gian trả lời khi gọi nhiều dịch vụ.

8Chương 8 · 13 phút

Triển khai mô hình mới

Đưa một mô hình mới tới người dùng từng bước, và cách biết chắc nó tốt hơn mô hình cũ bằng A/B test.

9Chương 9 · 19 phút

Dịch chuyển phân phối

Dữ liệu thay đổi theo thời gian theo những cách nào, cách nào phát hiện được khi chưa có nhãn, và vì sao không nên dùng thẳng ngưỡng PSI quen thuộc.

10Chương 10 · 10 phút

Giám sát

Theo dõi một hệ thống học máy đang chạy: chỉ số nào cần đo, đo ở lớp nào khi nhãn đến chậm, và thiết kế cảnh báo sao cho người nhận còn tin vào nó.

11Chương 11 · 9 phút

Huấn luyện lại

Mô hình cũ đi nhanh tới mức nào, khi nào nên huấn luyện lại, và làm sao để việc tự động hoá huấn luyện lại không tạo ra sự cố mới.

12Chương 12 · 10 phút

Vòng phản hồi

Khi dự đoán của mô hình quyết định dữ liệu huấn luyện của chính nó: cơ chế, mức thiệt hại đo bằng mô phỏng, và cách phát hiện, khắc phục.

13Chương 13 · 16 phút

Vận hành ứng dụng dùng mô hình ngôn ngữ lớn

Những gì thay đổi khi hệ thống dùng mô hình ngôn ngữ lớn: đánh giá bằng giám khảo LLM, hệ thống RAG, chi phí theo token, rào chắn và quản lý phiên bản.

14Chương 14 · 6 phút

Bài tập

Mười bài tập theo thứ tự các chương, từ tính tay tới thí nghiệm và thiết kế, kèm lời giải chi tiết và ngân hàng câu hỏi trắc nghiệm.

15Chương 15 · 22 phút

Câu hỏi phỏng vấn

Các câu hỏi thường gặp khi phỏng vấn vị trí kỹ sư học máy và kỹ sư MLOps, kèm cách trả lời dựa trên nội dung và số liệu của giáo trình.

16Chương 16 · 6 phút

Tài liệu tham khảo

Hai mươi chín bài báo, sách và tài liệu gốc mà giáo trình dựa vào, kèm ghi chú mỗi nguồn được dùng cho phần nào.

·Phụ lục · 1 phút

Phụ lục: chạy lại thí nghiệm

Cây thư mục mã nguồn và các lệnh để tái lập toàn bộ hình vẽ và số liệu.