0. Kiến thức nền và quy ước ký hiệu — Quantization trong Deep Learning: từ nguyên lý đến thực hành

Chương 01 phút đọcBiểu diễn số và lượng tử hoá

0Kiến thức nền và quy ước ký hiệu#

Người đọc cần biết: đại số tuyến tính cơ bản (nhân ma trận), cách một mạng CNN/Transformer tính toán, lan truyền ngược, và Python/NumPy/PyTorch ở mức đọc hiểu.

Ký hiệu	Ý nghĩa
$x$	một số thực (FP32) cần lượng tử: trọng số, activation hoặc bias
$q$	số nguyên tương ứng sau lượng tử
$\hat{x}$	giá trị thực khôi phục lại từ $q$ (dequantize)
$b$	số bit của kiểu số nguyên (bit-width)
$[q_{min}, q_{max}]$	miền số nguyên, ví dụ $[0, 255]$ cho uint8, $[-128, 127]$ cho int8
$[\alpha, \beta]$	dải số thực được ánh xạ (clipping range)
$S$	scale: bước nhảy giữa hai mức lượng tử liền kề, $S > 0$
$Z$	zero-point: số nguyên ứng với số thực 0
$\lfloor \cdot \rceil$	phép làm tròn đến số nguyên gần nhất
$\text{clamp}(v, a, b)$	$\min(\max(v, a), b)$
W8A8, W4A16…	trọng số 8 bit và activation 8 bit; trọng số 4 bit và activation 16 bit…