Ứng dụng LLMgiáo trình tự học
Chương 186 phút đọc

18Tài liệu tham khảo#

Lộ trình và đặc tả

  1. roadmap.sh. AI Engineer Roadmap. roadmap.sh/ai-engineer. Cấu trúc chặng của giáo trình.
  2. Model Context Protocol. Specification, version 2026-07-28. modelcontextprotocol.io. Nguồn của Chương 10.
  3. OWASP. Top 10 for LLM Applications 2025. genai.owasp.org. Nguồn của bảng rủi ro ở Mục 11.1.
  4. Open Source Initiative. The Open Source AI Definition 1.0, 2024. Nguồn cho Mục 3.2.

Mô hình ngôn ngữ và prompt

  1. T. Brown và cộng sự. Language Models are Few-Shot Learners. NeurIPS, 2020.
  2. T. Z. Zhao, E. Wallace, S. Feng, D. Klein, S. Singh. Calibrate Before Use: Improving Few-Shot Performance of Language Models. ICML, 2021.
  3. J. Wei và cộng sự. Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. NeurIPS, 2022.
  4. T. Kojima, S. S. Gu, M. Reid, Y. Matsuo, Y. Iwasawa. Large Language Models are Zero-Shot Reasoners. NeurIPS, 2022.
  5. X. Wang và cộng sự. Self-Consistency Improves Chain of Thought Reasoning in Language Models. ICLR, 2023.
  6. M. Turpin, J. Michael, E. Perez, S. Bowman. Language Models Don't Always Say What They Think: Unfaithful Explanations in Chain-of-Thought Prompting. NeurIPS, 2023.
  7. B. T. Willard, R. Louf. Efficient Guided Generation for Large Language Models. arXiv:2307.09702, 2023.
  8. Z. R. Tam và cộng sự. Let Me Speak Freely? A Study on the Impact of Format Restrictions on Performance of Large Language Models. EMNLP Industry, 2024.
  9. W. Kwon và cộng sự. Efficient Memory Management for Large Language Model Serving with PagedAttention. SOSP, 2023.

Ngữ cảnh dài

  1. N. F. Liu và cộng sự. Lost in the Middle: How Language Models Use Long Contexts. TACL, 2024.
  2. C.-P. Hsieh và cộng sự. RULER: What's the Real Context Size of Your Long-Context Language Models? COLM, 2024.
  3. K. Hong, A. Troynikov, J. Huber. Context Rot: How Increasing Input Tokens Impacts LLM Performance. Chroma Technical Report, 2025.
  4. D. Breunig. How Long Contexts Fail. dbreunig.com, 2025. Nguồn của các kiểu hỏng ngữ cảnh ở Mục 5.6.
  5. Anthropic. Effective context engineering for AI agents, 2025. Định nghĩa context engineering ở Chương 5.

Embedding, truy xuất và RAG

  1. S. Robertson, H. Zaragoza. The Probabilistic Relevance Framework: BM25 and Beyond. Foundations and Trends in Information Retrieval, 2009.
  2. G. V. Cormack, C. L. A. Clarke, S. Büttcher. Reciprocal Rank Fusion Outperforms Condorcet and Individual Rank Learning Methods. SIGIR, 2009.
  3. N. Reimers, I. Gurevych. Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks. EMNLP, 2019.
  4. L. Wang và cộng sự. Text Embeddings by Weakly-Supervised Contrastive Pre-training. arXiv:2212.03533, 2022. Họ mô hình E5.
  5. L. Wang và cộng sự. Multilingual E5 Text Embeddings: A Technical Report. arXiv:2402.05672, 2024.
  6. A. Kusupati và cộng sự. Matryoshka Representation Learning. NeurIPS, 2022.
  7. N. Muennighoff, N. Tazi, L. Magne, N. Reimers. MTEB: Massive Text Embedding Benchmark. EACL, 2023.
  8. N. Thakur và cộng sự. BEIR: A Heterogeneous Benchmark for Zero-shot Evaluation of Information Retrieval Models. NeurIPS Datasets and Benchmarks, 2021.
  9. H. Jégou, M. Douze, C. Schmid. Product Quantization for Nearest Neighbor Search. IEEE TPAMI, 2011.
  10. Y. A. Malkov, D. A. Yashunin. Efficient and Robust Approximate Nearest Neighbor Search Using Hierarchical Navigable Small World Graphs. IEEE TPAMI, 2018.
  11. J. Johnson, M. Douze, H. Jégou. Billion-Scale Similarity Search with GPUs. IEEE Transactions on Big Data, 2019. Thư viện FAISS.
  12. S. J. Subramanya và cộng sự. DiskANN: Fast Accurate Billion-point Nearest Neighbor Search on a Single Node. NeurIPS, 2019.
  13. P. Lewis và cộng sự. Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. NeurIPS, 2020.
  14. L. Gao, X. Ma, J. Lin, J. Callan. Precise Zero-Shot Dense Retrieval without Relevance Labels. ACL, 2023. Phương pháp HyDE.
  15. R. Nogueira, K. Cho. Passage Re-ranking with BERT. arXiv:1901.04085, 2019.
  16. O. Ovadia, M. Brief, M. Mishaeli, O. Elisha. Fine-Tuning or Retrieval? Comparing Knowledge Injection in LLMs. EMNLP, 2024.
  17. S. Es, J. James, L. Espinosa-Anke, S. Schockaert. RAGAS: Automated Evaluation of Retrieval Augmented Generation. arXiv:2309.15217, 2023.
  18. F. Shi và cộng sự. Large Language Models Can Be Easily Distracted by Irrelevant Context. ICML, 2023. Nguồn của nhận xét về ngữ cảnh không liên quan ở Mục 8.5.

Agent

  1. S. Yao và cộng sự. ReAct: Synergizing Reasoning and Acting in Language Models. ICLR, 2023.
  2. N. Shinn và cộng sự. Reflexion: Language Agents with Verbal Reinforcement Learning. NeurIPS, 2023.
  3. T. Schick và cộng sự. Toolformer: Language Models Can Teach Themselves to Use Tools. NeurIPS, 2023.
  4. Anthropic. Building effective agents, 2024. Phân biệt workflow và agent, các mẫu ở Mục 9.2.
  5. Anthropic. How we built our multi-agent research system, 2025. Số liệu ở Mục 9.6.

An toàn

  1. F. Perez, I. Ribeiro. Ignore Previous Prompt: Attack Techniques for Language Models. NeurIPS ML Safety Workshop, 2022.
  2. K. Greshake và cộng sự. Not What You've Signed Up For: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection. AISec, 2023.
  3. K. Hines và cộng sự. Defending Against Indirect Prompt Injection Attacks With Spotlighting. arXiv:2403.14720, 2024.
  4. A. Wei, N. Haghtalab, J. Steinhardt. Jailbroken: How Does LLM Safety Training Fail? NeurIPS, 2023.
  5. N. Carlini và cộng sự. Extracting Training Data from Large Language Models. USENIX Security, 2021.
  6. H. Inan và cộng sự. Llama Guard: LLM-based Input-Output Safeguard for Human-AI Conversations. arXiv:2312.06674, 2023.
  7. A. Parrish và cộng sự. BBQ: A Hand-Built Bias Benchmark for Question Answering. Findings of ACL, 2022.
  8. S. Willison. The lethal trifecta for AI agents: private data, untrusted content, and external communication. simonwillison.net, 2025.

Đánh giá

  1. L. Zheng và cộng sự. Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena. NeurIPS Datasets and Benchmarks, 2023.
  2. M. Chen và cộng sự. Evaluating Large Language Models Trained on Code. arXiv:2107.03374, 2021. Ước lượng pass@k.

Đa phương thức

  1. A. Dosovitskiy và cộng sự. An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale. ICLR, 2021.
  2. A. Radford và cộng sự. Learning Transferable Visual Models From Natural Language Supervision. ICML, 2021. Mô hình CLIP.
  3. H. Liu, C. Li, Q. Wu, Y. J. Lee. Visual Instruction Tuning. NeurIPS, 2023. Mô hình LLaVA.
  4. P. Wang và cộng sự. Qwen2-VL: Enhancing Vision-Language Model's Perception of the World at Any Resolution. arXiv:2409.12191, 2024.
  5. A. Radford và cộng sự. Robust Speech Recognition via Large-Scale Weak Supervision. ICML, 2023. Mô hình Whisper.

Công cụ lập trình

  1. S. Peng, E. Kalliamvakou, P. Cihon, M. Demirer. The Impact of AI on Developer Productivity: Evidence from GitHub Copilot. arXiv:2302.06590, 2023.
  2. J. Becker, N. Rush, E. Barnes, D. Rein. Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity. METR, 2025.
  3. J. Spracklen và cộng sự. We Have a Package for You! A Comprehensive Analysis of Package Hallucinations by Code Generating LLMs. USENIX Security, 2025.