0. Ký hiệu và quy ước — Xây dựng ứng dụng với mô hình ngôn ngữ lớn

Chương 03 phút đọcMở đầu

0Ký hiệu và quy ước#

0.1Thuật ngữ#

Lĩnh vực này thay đổi rất nhanh, và phần lớn thuật ngữ ra đời bằng tiếng Anh. Với những khái niệm mà người làm nghề ở Việt Nam vẫn gọi bằng tiếng Anh, như token hay embedding, giáo trình giữ nguyên tên gốc; với những khái niệm đã có cách gọi tiếng Việt quen thuộc, giáo trình dùng tiếng Việt. Bảng dưới ghi lại các lựa chọn đó.

Tiếng Anh	Dùng trong giáo trình
large language model (LLM)	mô hình ngôn ngữ lớn (LLM)
token, tokenizer	token, tokenizer
prompt, system prompt	prompt, chỉ dẫn hệ thống (system prompt)
context, context window	ngữ cảnh, cửa sổ ngữ cảnh
inference	suy luận (chạy mô hình để sinh kết quả)
latency, throughput	độ trễ, thông lượng
embedding	embedding
retrieval, reranking	truy xuất, xếp lại (reranking)
retrieval-augmented generation (RAG)	RAG
agent, tool, function calling	agent, tool, function calling
hallucination	ảo giác (hallucination)
prompt injection, jailbreak	prompt injection, jailbreak
guardrail	rào chắn (guardrail)
evaluation (eval)	đánh giá
observability, trace, span	quan sát (observability), trace, span
fine-tuning	tinh chỉnh (fine-tuning)
open-weight model	mô hình mở trọng số

0.2Ký hiệu#

Giáo trình dùng ít công thức. Các ký hiệu dưới đây xuất hiện chủ yếu ở những chương về sinh văn bản, embedding, truy xuất và agent.

Ký hiệu	Ý nghĩa
$n$	số token trong ngữ cảnh
$V$	kích thước từ vựng của tokenizer
$p_\theta(x_t \mid x_{<t})$	xác suất mô hình gán cho token thứ $t$ khi biết các token trước
$T$	nhiệt độ lấy mẫu (temperature)
$q$ , $d$	vector embedding của truy vấn và của một đoạn văn
$k$	số kết quả truy xuất lấy về (top- $k$ )
$p$	xác suất một bước của agent thực hiện đúng
$N$	số vector trong chỉ mục

0.3Tên sản phẩm và giá dịch vụ#

Giáo trình có nhắc tên mô hình, thư viện và dịch vụ cụ thể, vì đó là những thứ người học sẽ gặp khi đi làm, nhưng không xếp hạng hay giới thiệu sản phẩm nào. Giá dịch vụ thay đổi liên tục, nên mọi phép tính chi phí trong giáo trình dùng đơn giá giả định và ghi rõ là giả định. Thứ cần nắm là cách tính; đơn giá thật chỉ cần tra lại vào lúc dùng.