3Xác suất và thống kê#

Chương 2 mô tả dữ liệu và mô hình bằng vector và ma trận, như thể mọi con số đều chính xác. Thực tế thì không: hai căn nhà cùng diện tích vẫn có giá khác nhau, nhãn do người gán có lúc sai, và mỗi lần thu thập lại dữ liệu ta được một mẫu khác. Mô hình học từ một mẫu hữu hạn như vậy, nên bản thân nó cũng là một đại lượng ngẫu nhiên. Xác suất là ngôn ngữ để nói về sự không chắc chắn đó, và nó còn trả lời được hai câu hỏi mà đại số tuyến tính không trả lời được: vì sao hàm mất mát có dạng như vậy, và vì sao regularization có tác dụng.

3.1Vai trò của xác suất trong học máy#

Xác suất xuất hiện trong giáo trình theo ba cách. Cách thứ nhất là mô tả dự đoán không chắc chắn. Hồi quy logistic (Chương 6) trả về xác suất một điểm thuộc lớp dương chứ không chỉ một nhãn, và nhờ có xác suất, ta chọn được ngưỡng quyết định theo chi phí của từng loại sai (Chương 8). Cách thứ hai là giải thích nguồn gốc của hàm mất mát. Bình phương sai số và cross-entropy không phải hai lựa chọn tuỳ ý; Chương 10 chỉ ra rằng chúng là hệ quả của nguyên lý hợp lý cực đại dưới hai giả thiết khác nhau về nhiễu. Cách thứ ba là giải thích nguồn gốc của regularization: Mục 10.4 chỉ ra rằng hồi quy ridge trùng với ước lượng hậu nghiệm cực đại khi tiên nghiệm của trọng số là phân phối Gauss, và kiểm chứng điều này bằng số.

3.2Kỳ vọng và phương sai#

Định nghĩa 3.1 (Kỳ vọng, phương sai)

Với biến ngẫu nhiên $X$ có hàm xác suất (hoặc hàm mật độ) $p$, kỳ vọng của $X$ là

$$\begin{aligned} \mathbb{E}[X] &= \sum_x x\,p(x) && \text{(rời rạc)}, \\ \mathbb{E}[X] &= \int x\,p(x)\,dx && \text{(liên tục)}, \end{aligned}$$

và phương sai của $X$ là $\operatorname{Var}(X) = \mathbb{E}\big[(X - \mathbb{E}X)^2\big] = \mathbb{E}[X^2] - (\mathbb{E}X)^2$.

Kỳ vọng là giá trị trung bình nếu lặp lại phép thử rất nhiều lần. Phương sai đo mức phân tán quanh giá trị trung bình đó; căn bậc hai của nó là độ lệch chuẩn, có cùng đơn vị với $X$.

Các tính chất sau được dùng nhiều lần. Với hằng số $a, b$,

$$\mathbb{E}[aX + b] = a\,\mathbb{E}[X] + b, \qquad \operatorname{Var}(aX + b) = a^2 \operatorname{Var}(X).$$

Kỳ vọng của tổng luôn bằng tổng các kỳ vọng, không cần điều kiện gì: $\mathbb{E}[X + Y] = \mathbb{E}[X] + \mathbb{E}[Y]$. Phương sai của tổng thì phụ thuộc vào mức độ hai biến liên quan với nhau:

$$\operatorname{Var}(X + Y) = \operatorname{Var}(X) + \operatorname{Var}(Y) + 2\operatorname{Cov}(X, Y),$$

trong đó hiệp phương sai $\operatorname{Cov}(X, Y) = \mathbb{E}\big[(X - \mathbb{E}X)(Y - \mathbb{E}Y)\big]$. Chuẩn hoá hiệp phương sai bằng tích hai độ lệch chuẩn ta được hệ số tương quan $\rho = \operatorname{Cov}(X,Y)/(\sigma_X\sigma_Y) \in [-1, 1]$. Chỉ khi $X$ và $Y$ không tương quan ($\rho = 0$), chẳng hạn khi chúng độc lập, phương sai của tổng mới bằng tổng các phương sai.

Ví dụ 3.1 (Trung bình của nhiều mô hình)

Giả sử có $n$ mô hình, dự đoán của mỗi mô hình là một biến ngẫu nhiên có phương sai $\sigma^2$, và mỗi cặp mô hình có hệ số tương quan $\rho$. Phương sai của trung bình $n$ dự đoán là

$$\operatorname{Var}\Big(\frac1n\sum_{i=1}^n X_i\Big) = \rho\,\sigma^2 + \frac{1-\rho}{n}\,\sigma^2.$$

Với $\sigma^2 = 1$ và $n = 10$: nếu các mô hình không tương quan ($\rho = 0$), phương sai giảm còn $0{,}1$; nếu $\rho = 0{,}5$, phương sai chỉ giảm còn $0{,}5 + 0{,}05 = 0{,}55$. Dù có thêm bao nhiêu mô hình, phương sai không xuống dưới $\rho\sigma^2$.

Ví dụ này là cơ sở lý thuyết của phương pháp bagging và rừng ngẫu nhiên: lấy trung bình nhiều mô hình chỉ giảm phương sai hiệu quả khi các mô hình ít tương quan với nhau. Rừng ngẫu nhiên chọn ngẫu nhiên một tập con đặc trưng ở mỗi nhát cắt của cây chính là để giảm $\rho$. Mục 3.3 của Học sâu đo hiện tượng này trên dữ liệu.

3.3Ma trận hiệp phương sai#

Khi dữ liệu có nhiều chiều, ta cần biết phương sai của từng chiều và hiệp phương sai giữa mọi cặp chiều. Các con số đó được xếp vào một ma trận.

Định nghĩa 3.2 (Ma trận hiệp phương sai)

Với vector ngẫu nhiên $x \in \mathbb{R}^d$ có kỳ vọng $\mu$, ma trận hiệp phương sai là

$$\Sigma = \mathbb{E}\big[(x - \mu)(x - \mu)^\top\big] \in \mathbb{R}^{d \times d}, \qquad \Sigma_{jk} = \operatorname{Cov}(x_j, x_k).$$

Từ $n$ điểm dữ liệu, gọi $X_c$ là ma trận dữ liệu đã trừ trung bình của từng cột, ước lượng mẫu của $\Sigma$ là

$$\hat\Sigma = \frac{1}{n-1} X_c^\top X_c.$$

Đường chéo của $\Sigma$ chứa phương sai của từng đặc trưng; các phần tử ngoài đường chéo chứa hiệp phương sai giữa từng cặp đặc trưng. Ma trận này có ba tính chất, ứng với ba chỗ dùng ở các chương sau. Trước hết, $\Sigma$ đối xứng và nửa xác định dương, vì $z^\top \Sigma z = \operatorname{Var}(z^\top x) \ge 0$ với mọi $z$. Theo định lý phổ, $\Sigma$ có hệ vector riêng trực chuẩn, và đó là các thành phần chính của PCA (Chương 14). Tiếp theo, trị riêng lớn nhất của $\Sigma$ là phương sai lớn nhất mà một phép chiếu lên một hướng đơn vị có thể đạt được, và hướng đạt giá trị đó là vector riêng tương ứng. Cuối cùng, giả thiết "naive" của thuật toán Naive Bayes Gauss tương đương với việc ép $\Sigma$ của mỗi lớp thành ma trận đường chéo, tức coi mọi cặp đặc trưng là không tương quan khi đã biết lớp; Mục 7.4 kiểm chứng điều này bằng số và cho thấy Naive Bayes, LDA và QDA chỉ khác nhau ở ràng buộc đặt lên $\Sigma$.

Bốn căn hộ của Chương 2 cho một ma trận hiệp phương sai cụ thể. Lấy hai đặc trưng là diện tích và giá; trừ trung bình 70 m² và 2,25 tỉ, các hàng của $X_c$ là $(-30;\ -0{,}75)$, $(-10;\ -0{,}15)$, $(10;\ 0{,}15)$ và $(30;\ 0{,}75)$, nên

$$\hat\Sigma = \frac13 X_c^\top X_c = \begin{pmatrix}666{,}7 & 16\\ 16 & 0{,}39\end{pmatrix}.$$

Phương sai của diện tích là 666,7, tức độ lệch chuẩn khoảng 25,8 m²; phương sai của giá là 0,39, tức độ lệch chuẩn khoảng 0,62 tỉ. Hiệp phương sai 16 dương, tức căn rộng hơn thì đắt hơn, và hệ số tương quan $16/\sqrt{666{,}7 \times 0{,}39} \approx 0{,}992$ cho thấy giá gần như tỉ lệ thuận với diện tích. Tỉ số $16/666{,}7 = 0{,}024$ là con số sẽ gặp lại ở Chương 4: đó là độ dốc của đường thẳng khớp bốn căn hộ tốt nhất. Hai phần tử trên đường chéo chênh nhau khoảng 1 700 lần chỉ vì đơn vị đo, mét vuông so với tỉ đồng, nên vector riêng ứng với trị riêng lớn nhất gần như trùng với trục diện tích; Mục 14.2 cho thấy vì sao cần chuẩn hoá trước khi dùng các vector riêng này.

Mẫu số $n - 1$ thay cho $n$ trong ước lượng mẫu có lý do, được giải thích ở Ví dụ 3.4.

3.4Phân phối Gauss#

Phân phối Gauss, hay phân phối chuẩn, là phân phối được dùng nhiều nhất, vì hai lý do. Về lý thuyết, định lý giới hạn trung tâm nói rằng tổng của nhiều biến ngẫu nhiên độc lập nhỏ xấp xỉ phân phối Gauss, nên nhiễu tổng hợp từ nhiều nguồn thường có dạng Gauss. Về tính toán, logarit của mật độ Gauss là một hàm bậc hai, nên các bài toán tối ưu dẫn xuất từ nó thường có nghiệm dạng đóng.

Định nghĩa 3.3 (Phân phối Gauss)

Biến ngẫu nhiên một chiều $x \sim \mathcal{N}(\mu, \sigma^2)$ có mật độ

$$p(x) = \frac{1}{\sqrt{2\pi\sigma^2}}\exp\!\left(-\frac{(x-\mu)^2}{2\sigma^2}\right).$$

Vector ngẫu nhiên $x \in \mathbb{R}^d$ có phân phối Gauss nhiều chiều $\mathcal{N}(\mu, \Sigma)$, với $\Sigma$ xác định dương, nếu có mật độ

$$p(x) = \frac{1}{(2\pi)^{d/2}|\Sigma|^{1/2}}\exp\!\left(-\tfrac12 (x-\mu)^\top \Sigma^{-1}(x-\mu)\right).$$

Đại lượng trong hàm mũ, $\Delta^2(x) = (x-\mu)^\top \Sigma^{-1}(x-\mu)$, gọi là bình phương khoảng cách Mahalanobis từ $x$ tới $\mu$. Các điểm có cùng khoảng cách Mahalanobis nằm trên một đường elip, có các trục là vector riêng của $\Sigma$ và độ dài bán trục tỉ lệ với căn bậc hai của trị riêng tương ứng.

Ví dụ 3.2

Cho $\mu = 0$ và $\Sigma = \operatorname{diag}(4, 1)$, tức độ lệch chuẩn theo trục thứ nhất là 2 và theo trục thứ hai là 1. Hai điểm $a = (2, 0)$ và $b = (0, 2)$ cùng cách gốc 2 đơn vị theo khoảng cách Euclid. Nhưng $\Delta^2(a) = 2^2/4 = 1$ còn $\Delta^2(b) = 2^2/1 = 4$, tức $a$ cách tâm 1 độ lệch chuẩn còn $b$ cách tâm 2 độ lệch chuẩn. Theo phân phối này, điểm $a$ bình thường hơn điểm $b$ nhiều.

Ví dụ trên cho thấy khoảng cách Mahalanobis là khoảng cách Euclid sau khi đã quy mỗi hướng về đơn vị độ lệch chuẩn của dữ liệu theo hướng đó. Đi một đơn vị theo hướng dữ liệu trải rộng thì "gần", còn theo hướng dữ liệu co hẹp thì "xa".

Lấy logarit của mật độ Gauss ta được

$$\log p(x) = -\tfrac12 (x-\mu)^\top \Sigma^{-1}(x-\mu) + \text{hằng số},$$

một hàm bậc hai của $x$. Nhận xét đơn giản này có hai hệ quả lớn: hợp lý cực đại dưới giả thiết nhiễu Gauss dẫn tới bài toán bình phương tối thiểu (Mục 10.2), và bộ phân loại dùng phân phối Gauss cho mỗi lớp có biên quyết định là mặt bậc hai (Mục 7.4).

3.5Định lý Bayes#

Định lý 3.1 (Định lý Bayes)

Với hai biến cố (hoặc biến ngẫu nhiên) $A$ và $B$, $p(B) > 0$:

$$p(A \mid B) = \frac{p(B \mid A)\, p(A)}{p(B)}, \qquad p(B) = \sum_{A'} p(B \mid A')\,p(A').$$

Định lý Bayes cho phép đổi chiều một xác suất có điều kiện: biết xác suất quan sát được $B$ khi $A$ xảy ra, suy ra xác suất $A$ xảy ra khi đã quan sát được $B$. Hai chiều này rất khác nhau, và nhầm lẫn chúng là lỗi suy luận phổ biến.

Ví dụ 3.3 (Xét nghiệm bệnh hiếm)

Một bệnh có tỉ lệ mắc 1% dân số. Xét nghiệm cho kết quả dương tính với 99% người mắc bệnh, và dương tính nhầm với 5% người không mắc bệnh. Một người có kết quả dương tính. Xác suất người đó thật sự mắc bệnh là

$$p(\text{bệnh} \mid +) = \frac{0{,}99 \times 0{,}01}{0{,}99 \times 0{,}01 + 0{,}05 \times 0{,}99} = \frac{0{,}0099}{0{,}0594} \approx 0{,}167.$$

Chỉ khoảng 1 trong 6 người có kết quả dương tính thật sự mắc bệnh, dù xét nghiệm "đúng 99%". Lý do là số người khoẻ rất lớn, nên 5% dương tính nhầm của họ vẫn nhiều hơn số người bệnh được phát hiện.

Hiện tượng trong Ví dụ 3.3 xuất hiện lại ở Chương 8 dưới tên gọi khác: khi lớp dương hiếm, precision của bộ phân loại có thể rất thấp dù tỉ lệ báo động nhầm nhỏ.

Trong học máy, định lý Bayes được dùng với $A$ là tham số $\theta$ của mô hình và $B$ là dữ liệu $\mathcal{D}$:

$$\underbrace{p(\theta \mid \mathcal{D})}_{\text{hậu nghiệm}} = \frac{\overbrace{p(\mathcal{D} \mid \theta)}^{\text{hợp lý}} \; \overbrace{p(\theta)}^{\text{tiên nghiệm}}}{\underbrace{p(\mathcal{D})}_{\text{bằng chứng}}}.$$

Phân phối tiên nghiệm $p(\theta)$ mô tả hiểu biết về tham số trước khi thấy dữ liệu. Hàm hợp lý $p(\mathcal{D} \mid \theta)$ cho biết dữ liệu quan sát được có khả năng xảy ra tới mức nào nếu tham số là $\theta$. Phân phối hậu nghiệm $p(\theta \mid \mathcal{D})$ là hiểu biết đã được cập nhật sau khi thấy dữ liệu. Mẫu số $p(\mathcal{D})$ không phụ thuộc $\theta$, nên khi tìm $\theta$ làm hậu nghiệm lớn nhất có thể bỏ qua nó:

$$\begin{aligned} \arg\max_\theta p(\theta \mid \mathcal{D}) &= \arg\max_\theta \; p(\mathcal{D} \mid \theta)\,p(\theta) \\ &= \arg\min_\theta \;\big[-\log p(\mathcal{D} \mid \theta) - \log p(\theta)\big]. \end{aligned}$$

Vế phải có dạng "mất mát cộng thành phần phạt". Chương 10 khai triển đẳng thức này và cho thấy thành phần phạt chính là regularization.

3.6Ước lượng tham số: độ chệch và phương sai#

Học một mô hình từ dữ liệu là ước lượng tham số của nó. Vì dữ liệu là một mẫu ngẫu nhiên, ước lượng thu được cũng là ngẫu nhiên: lấy một mẫu khác thì được một giá trị khác.

Định nghĩa 3.4 (Độ chệch, phương sai của ước lượng)

Một ước lượng $\hat\theta$ của tham số $\theta$ là một hàm của dữ liệu. Độ chệch (bias) và phương sai của nó là

$$\operatorname{Bias}(\hat\theta) = \mathbb{E}[\hat\theta] - \theta, \qquad \operatorname{Var}(\hat\theta) = \mathbb{E}\big[(\hat\theta - \mathbb{E}\hat\theta)^2\big].$$

Ước lượng có độ chệch bằng 0 gọi là ước lượng không chệch.

Ở đây kỳ vọng được lấy trên mọi tập dữ liệu có thể rút ra từ cùng một phân phối, không phải trên các điểm trong một tập dữ liệu. Để hình dung, hãy lặp lại việc thu thập dữ liệu và huấn luyện rất nhiều lần: độ chệch là khoảng cách từ trung bình các kết quả tới giá trị thật, còn phương sai là mức các kết quả tản ra quanh trung bình của chúng.

Định lý 3.2 (Phân tích sai số bình phương trung bình)

Với mọi ước lượng $\hat\theta$,

$$\mathbb{E}\big[(\hat\theta - \theta)^2\big] = \operatorname{Bias}(\hat\theta)^2 + \operatorname{Var}(\hat\theta).$$

Chứng minh

Đặt $m = \mathbb{E}[\hat\theta]$. Viết $\hat\theta - \theta = (\hat\theta - m) + (m - \theta)$ rồi bình phương và lấy kỳ vọng. Số hạng chéo $2(m - \theta)\,\mathbb{E}[\hat\theta - m]$ bằng 0 vì $\mathbb{E}[\hat\theta - m] = 0$. Hai số hạng còn lại là $\operatorname{Var}(\hat\theta)$ và $(m - \theta)^2$.

Ví dụ 3.4 (Vì sao chia cho $n-1$)

Với $n$ quan sát độc lập có phương sai $\sigma^2$, ước lượng $\hat\sigma^2_n = \frac1n\sum_i (x_i - \bar x)^2$ có kỳ vọng $\frac{n-1}{n}\sigma^2$, tức luôn nhỏ hơn giá trị thật. Nguyên nhân là $\bar x$ được tính từ chính dữ liệu, nên các điểm luôn gần $\bar x$ hơn so với gần giá trị trung bình thật. Chia cho $n - 1$ thay cho $n$ cho ước lượng không chệch. Với $n = 5$ và $\sigma^2 = 1$, mô phỏng 200 000 lần cho giá trị trung bình của $\hat\sigma^2_n$ là $0{,}802$, khớp với $4/5 = 0{,}8$.

Định lý 3.2 cho thấy một ước lượng không chệch chưa chắc là ước lượng tốt: nếu phương sai lớn, sai số tổng vẫn lớn. Ngược lại, chấp nhận một chút độ chệch để đổi lấy phương sai nhỏ hơn nhiều có thể làm sai số tổng giảm. Hồi quy ridge ở Chương 9 là ví dụ điển hình: nó là ước lượng có chệch, trong khi bình phương tối thiểu thông thường là ước lượng không chệch, vậy mà ridge thường có sai số nhỏ hơn. Mục 9.3 chỉ ra phần phương sai mà ridge cắt đi nằm ở những hướng nào.

Cùng ý tưởng này áp dụng cho dự đoán của cả mô hình, dưới tên gọi đánh đổi độ chệch – phương sai (bias–variance tradeoff). Chương 2 của Học sâu trình bày đầy đủ phân tích đó và đo từng thành phần trên 250 tập huấn luyện mô phỏng.

3.7Tóm tắt#

Kỳ vọng và phương sai mô tả giá trị trung bình và mức phân tán của một đại lượng ngẫu nhiên. Phương sai của tổng phụ thuộc vào hiệp phương sai, nên lấy trung bình nhiều mô hình chỉ giảm phương sai xuống tới mức $\rho\sigma^2$. Ma trận hiệp phương sai gom phương sai và hiệp phương sai của mọi cặp đặc trưng; nó đối xứng, nửa xác định dương, và các vector riêng của nó là các thành phần chính của PCA. Với bốn căn hộ, hiệp phương sai 16 giữa diện tích và giá chia cho phương sai 666,7 của diện tích cho đúng độ dốc 0,024 của Chương 4. Logarit mật độ Gauss là một hàm bậc hai, điều sẽ biến hợp lý cực đại thành bình phương tối thiểu. Định lý Bayes đổi chiều xác suất có điều kiện, như ví dụ xét nghiệm bệnh hiếm cho thấy chỉ khoảng 16,7% người dương tính thật sự mắc bệnh, và viết hậu nghiệm thành dạng mất mát cộng thành phần phạt. Cuối cùng, sai số bình phương của một ước lượng tách thành độ chệch bình phương cộng phương sai, nên một ước lượng có chệch nhưng ít dao động có thể tốt hơn một ước lượng không chệch.

Có đại số tuyến tính và xác suất, ta đã đủ công cụ cho thuật toán học máy đầu tiên. Chương 4 xét hồi quy tuyến tính, bài toán đơn giản tới mức có nghiệm dạng đóng, nên mọi hiện tượng của nó quan sát được trực tiếp.