0. Ký hiệu và quy ước — Biểu diễn, mô hình sinh và căn chỉnh

Chương 04 phút đọcMở đầu

0Ký hiệu và quy ước#

Giáo trình dùng lại ký hiệu và quy ước thuật ngữ của Nền tảng và Học sâu, bổ sung các ký hiệu riêng dưới đây.

0.1Bảng ký hiệu#

Ký hiệu	Ý nghĩa
$w$ , $c$	từ trung tâm và từ ngữ cảnh trong word2vec; cũng dùng cho vector của chúng
$V$	từ vựng và kích thước từ vựng; trong phân tích SVD $U S V^\top$ ở Mục 2.4 là ma trận các vector suy biến phải
$\#(w, c)$	số lần $w$ và $c$ cùng xuất hiện trong một cửa sổ
$\mathrm{PMI}(w, c)$	thông tin tương hỗ điểm, $\log \frac{p(w,c)}{p(w)p(c)}$
$z$	biến ẩn (VAE) hoặc nhiễu đầu vào (GAN)
$q_\phi(z \mid x)$	bộ mã hoá của VAE, phân phối hậu nghiệm xấp xỉ
$p_\theta(x \mid z)$	bộ giải mã của VAE
$\bar\alpha_t$	tỉ lệ tín hiệu còn lại sau $t$ bước của quá trình khuếch tán
$s$ , $a$ , $r$	trạng thái, hành động, phần thưởng trong học tăng cường
$r(x, y)$	hàm thưởng cho câu hỏi $x$ và câu trả lời $y$
$\pi_\theta$ , $\pi_{\text{ref}}$	chính sách đang huấn luyện và chính sách tham chiếu
$\mathrm{KL}(p \,\|\, q)$	phân kỳ Kullback–Leibler
$\mathcal{L}$	hàm mất mát hoặc hàm mục tiêu; trong phép chứng minh ở Mục 14.4 là hàm Lagrange
$A$ , $B$ , $r$	hai ma trận hạng thấp và hạng của LoRA

Chữ $r$ vừa là hạng của LoRA (Chương 7) vừa là hàm thưởng (Chương 12 tới 15); hai nghĩa không xuất hiện trong cùng một chương.

Chữ $\beta$ dễ gây nhầm hơn, vì nó có hai nghĩa gần nhau. Trong VAE (Chương 9), $\beta$ nhân với số hạng KL giữa hậu nghiệm xấp xỉ và tiên nghiệm $\mathcal{N}(0, I)$ ; trong RLHF (Chương 14), $\beta$ nhân với KL giữa chính sách mới và chính sách tham chiếu. Ở cả hai nơi, $\beta$ là mức phạt khi đi xa khỏi một phân phối tham chiếu. Chỗ khác nhau nằm ở phân phối tham chiếu: ở VAE đó là tiên nghiệm Gauss, ở RLHF là mô hình đã tinh chỉnh có giám sát. Ngoài ra, trong Chương 11, $\beta_t$ là phương sai nhiễu ở bước $t$ của quá trình khuếch tán, theo đúng ký hiệu của bài báo gốc.

0.2Quy ước thuật ngữ#

Tiếng Anh	Dùng trong giáo trình
representation, embedding	biểu diễn, embedding
pointwise mutual information	thông tin tương hỗ điểm (PMI)
negative sampling	lấy mẫu âm
anisotropy	tính bất đẳng hướng
contrastive learning	học tương phản
pre-training, fine-tuning, freezing	tiền huấn luyện, tinh chỉnh, đóng băng
transfer learning	học chuyển giao
parameter-efficient fine-tuning	tinh chỉnh tiết kiệm tham số
generative model, latent variable	mô hình sinh, biến ẩn
variational autoencoder	bộ tự mã hoá biến phân (VAE)
evidence lower bound	chặn dưới của bằng chứng (ELBO)
generative adversarial network	mạng đối sinh (GAN)
mode collapse	sụp chế độ
diffusion model, denoising	mô hình khuếch tán, khử nhiễu
reinforcement learning, policy, reward	học tăng cường, chính sách, phần thưởng
exploration, exploitation	khám phá, khai thác
advantage function	hàm lợi thế
alignment	căn chỉnh
reward hacking	lách phần thưởng

Bảng đối chiếu đầy đủ nằm ở trang Từ điển thuật ngữ.