0. Ký hiệu và quy ước — Nền tảng học máy

Chương 05 phút đọcMở đầu

0Ký hiệu và quy ước#

Để đọc giáo trình này, người học cần biết đạo hàm của hàm một biến, phép nhân ma trận và đọc được mã Python dùng NumPy. Kiến thức đại số tuyến tính và xác suất ở mức cần thiết được nhắc lại trong Chương 2 và Chương 3, nên không đòi hỏi học trước.

0.1Bảng ký hiệu#

Ký hiệu	Ý nghĩa
$x \in \mathbb{R}^{d}$	một điểm dữ liệu đầu vào có $d$ đặc trưng
$X \in \mathbb{R}^{n \times d}$	ma trận dữ liệu gồm $n$ điểm, mỗi điểm là một hàng
$y_i$ , $\hat{y}_i$	nhãn thật và giá trị dự đoán của điểm thứ $i$
$w$ , $b$	vector trọng số và hệ số chặn của mô hình tuyến tính
$\theta$	ký hiệu chung cho mọi tham số của mô hình
$L(\theta)$	hàm mất mát
$\eta$	tốc độ học (learning rate)
$\lambda$	hệ số regularization
$\nabla_\theta L$	gradient của $L$ theo $\theta$
$\mathcal{L}$	hàm hợp lý (Chương 10) hoặc hàm Lagrange (Chương 12, 13)
$\Sigma$	ma trận hiệp phương sai
$\lambda_i$ , $v_i$	trị riêng và vector riêng thứ $i$
$d_i$	giá trị suy biến thứ $i$ trong phân tích SVD
$\kappa$	số điều kiện của ma trận
$\alpha_i$	nhân tử Lagrange ứng với ràng buộc thứ $i$
$K$	số lớp trong bài toán phân loại
$k$	số cụm, số láng giềng hoặc số chiều giữ lại, tuỳ ngữ cảnh

Chữ $\lambda$ được dùng cho hai việc: hệ số regularization (Chương 9) và trị riêng (Chương 2, Chương 14). Hai cách dùng không xuất hiện trong cùng một công thức, trừ Mục 9.3 là nơi trị riêng được viết qua giá trị suy biến $d_i$ để tránh nhầm.

0.2Quy ước thuật ngữ#

Giáo trình dùng thuật ngữ theo cách phổ biến trong cộng đồng học máy tiếng Việt, có tham khảo bản dịch tiếng Việt các cheatsheet CS229 và CS230 của Đại học Stanford. Thuật ngữ nào đã có tên tiếng Việt thông dụng thì dùng tiếng Việt; thuật ngữ nào người làm nghề vẫn gọi bằng tiếng Anh thì giữ nguyên tiếng Anh.

Tiếng Anh	Dùng trong giáo trình
supervised / unsupervised learning	học có giám sát / học không giám sát
regression / classification	hồi quy / phân loại
loss function	hàm mất mát
learning rate	tốc độ học
normal equations	phương trình chuẩn
training / validation / test set	tập huấn luyện / tập xác thực / tập kiểm tra
confusion matrix	ma trận nhầm lẫn
accuracy	độ chính xác (accuracy)
precision, recall, F1 score	precision, recall, điểm F1
bias (của một ước lượng)	độ chệch
variance	phương sai
overfitting / underfitting	overfitting / underfitting
regularization	regularization
cross-validation	cross-validation
gradient descent, momentum, mini-batch	giữ nguyên tiếng Anh
likelihood	hàm hợp lý (likelihood)
prior / posterior	phân phối tiên nghiệm / phân phối hậu nghiệm
cross-entropy	cross-entropy
eigenvalue / eigenvector	trị riêng / vector riêng
singular value decomposition	phân tích giá trị suy biến (SVD)
support vector machine	máy vector hỗ trợ (SVM)
kernel, margin	kernel, lề
principal component analysis	phân tích thành phần chính (PCA)

Chữ bias trong tiếng Anh có hai nghĩa khác nhau. Nghĩa thứ nhất là sai lệch có hệ thống của một ước lượng so với giá trị thật; giáo trình gọi là độ chệch, theo cách gọi "ước lượng không chệch" quen thuộc của thống kê. Nghĩa thứ hai là tham số cộng thêm $b$ trong $w^\top x + b$ ; giáo trình gọi là hệ số chặn. Bảng đối chiếu đầy đủ nằm ở trang Từ điển thuật ngữ.

0.3Quy ước về chiều và cách viết số#

Ma trận dữ liệu $X$ có $n$ hàng ứng với $n$ điểm dữ liệu và $d$ cột ứng với $d$ đặc trưng, đúng như X.shape == (n, d) trong NumPy. Trong công thức, $x$ là vector cột nên tích với trọng số viết là $w^\top x$ ; trong mã, cả tập dữ liệu nhân với trọng số viết là X @ w. Hai cách viết chỉ khác nhau một phép chuyển vị.

Phần chữ dùng dấu phẩy thập phân theo lối Việt Nam (0,15). Phần mã và kết quả in ra từ script giữ dấu chấm như Python (0.15).