Context engineering là gì? Context engineering là việc chọn lọc và duy trì toàn bộ thông tin mô hình nhìn thấy khi suy luận: chỉ dẫn, công cụ, dữ liệu bên ngoài và lịch sử hội thoại, chứ không chỉ viết một câu lệnh hay. Theo bài của đội kỹ sư Anthropic (đăng 29/9/2025, đọc ngày 25/10/2026), việc này mang tính lặp lại vì mỗi lần đưa dữ liệu vào mô hình là một lần phải chọn. Bài này giải thích context engineering là gì, vì sao ngữ cảnh là tài nguyên hữu hạn, bốn kỹ thuật chính, khi nào cần và kinh nghiệm của OPCAIOS.
Ngữ cảnh là ngân sách chú ý có hạn: chọn ít mà đúng. Sơ đồ: OPCAIOS.
Context engineering là gì và khác prompt engineering thế nào?
Prompt engineering tập trung viết và sắp xếp chỉ dẫn, nhất là system prompt. Context engineering rộng hơn: quản lý mọi thứ nằm trong cửa sổ ngữ cảnh ở từng bước, gồm công cụ, dữ liệu truy xuất và lịch sử. Cả hai bổ sung cho nhau; prompt là một phần của ngữ cảnh.
Với một chatbot trả lời một lượt, viết prompt tốt thường đủ. Với AI agent chạy nhiều bước, ngữ cảnh phình dần theo kết quả công cụ và lịch sử, nên câu hỏi chuyển từ "viết gì" sang "giữ gì, bỏ gì ở bước này".
Vì sao ngữ cảnh là tài nguyên hữu hạn?
Mô hình mất dần độ chính xác khi cửa sổ ngữ cảnh đầy; bài của Anthropic gọi hiệu ứng này là "context rot". Mỗi token thêm vào lấy từ một ngân sách chú ý có hạn, và theo bài viết sự suy giảm diễn ra dần chứ không phải một vách đá.
Hệ quả thực tế: cửa sổ lớn không có nghĩa là nên nhét hết. Tài liệu về cửa sổ ngữ cảnh của Anthropic cũng nói nhiều ngữ cảnh hơn không tự động tốt hơn, và việc chọn nội dung quan trọng ngang với dung lượng còn trống. Xem thêm token và context window là gì.
Bốn kỹ thuật chính của context engineering
Bài của Anthropic nêu bốn kỹ thuật: nén (compaction), ghi chú có cấu trúc ngoài cửa sổ, agent phụ với ngữ cảnh sạch và nạp dữ liệu đúng lúc. Mỗi kỹ thuật giải một dạng vấn đề của tác vụ dài.
| Kỹ thuật | Làm gì | Khi nào dùng |
|---|---|---|
| Nén (compaction) | Tóm tắt hội thoại sắp đầy rồi bắt đầu lại từ bản tóm tắt; xoá bớt kết quả công cụ cũ | Phiên làm việc rất dài |
| Ghi chú có cấu trúc | Agent lưu ghi chú ngoài cửa sổ, nạp lại khi cần | Tác vụ nhiều giờ, nhiều phiên |
| Agent phụ (sub-agent) | Giao việc hẹp cho agent có ngữ cảnh sạch, nhận lại bản tóm tắt | Việc tìm kiếm, nghiên cứu tách biệt |
| Nạp đúng lúc | Giữ tham chiếu nhẹ (đường dẫn, truy vấn), chỉ tải dữ liệu khi cần | Kho dữ liệu lớn |
Bài cũng nói cách làm thực tế thường là lai: nạp sẵn một phần và truy xuất thêm khi cần. Tra cứu tài liệu riêng thường dùng RAG và vector database.
Khi nào cần để ý đến context engineering?
Cần khi tác vụ kéo dài nhiều bước, dùng nhiều công cụ hoặc nhiều tài liệu, và khi bạn thấy agent "quên", lặp lại hay lạc đề. Với việc ngắn một lượt, hãy ưu tiên viết prompt rõ ràng trước.
| Triệu chứng | Hướng xử lý |
|---|---|
| Agent quên quyết định đã chốt | Ghi chú có cấu trúc, nạp lại đầu phiên |
| Kết quả công cụ cũ làm rối | Xoá hoặc tóm tắt kết quả đã dùng |
| Chi phí và độ trễ tăng dần | Nén ngữ cảnh; xem prompt caching |
| Tìm trong kho tài liệu lớn | Nạp đúng lúc thay vì nhét hết |
Kinh nghiệm của OPCAIOS
Cách chúng tôi làm việc với agent là một dạng context engineering thủ công: có tệp hướng dẫn đọc đầu phiên, một tệp trạng thái hệ thống làm nguồn sự thật, và quy tắc "chỉ đọc file phù hợp với việc đang làm, không đọc tất cả cùng lúc" (nạp đúng lúc). Kết quả quan trọng của mỗi phiên được ghi lại vào nhật ký để phiên sau đọc lại (ghi chú ngoài cửa sổ).
Hạn chế: đây là quy ước làm việc, chúng tôi chưa đo bằng thử nghiệm đối chứng nó giúp giảm lỗi bao nhiêu. Và chính tệp trạng thái cũng có thể phình to hoặc lỗi thời nếu không dọn, nên cần xoay vòng và kiểm tra trực tiếp trước khi tin. Xem hệ thống AI tôi dùng để vận hành công việc một mình.
Câu hỏi thường gặp
Context engineering có thay thế prompt engineering không?
Không. Prompt engineering là một phần của context engineering. Bạn vẫn cần chỉ dẫn rõ ràng; context engineering lo thêm phần dữ liệu và công cụ đi kèm.
Cửa sổ ngữ cảnh 1 triệu token có làm context engineering hết cần thiết không?
Không. Bài của Anthropic không kỳ vọng cửa sổ lớn tự giải quyết suy giảm độ chính xác; chất lượng nội dung vẫn quan trọng hơn dung lượng.
Context rot là gì?
Là hiện tượng độ chính xác và khả năng nhớ của mô hình giảm dần khi số token trong ngữ cảnh tăng. Nó là cách gọi trong bài của Anthropic và tài liệu của họ.
Làm sao bắt đầu mà không cần code?
Bắt đầu bằng thói quen: tóm tắt quyết định cuối phiên vào một tệp, đầu phiên sau dán lại. Đó đã là ghi chú ngoài cửa sổ.
Có tài liệu đào tạo thực hành không?
Có thể bắt đầu từ dịch vụ đào tạo ứng dụng AI của chúng tôi để thiết kế quy trình làm việc với agent.
Nguồn: Anthropic Engineering, "Effective context engineering for AI agents" (29/9/2025) và tài liệu "Context windows" của Anthropic, đọc ngày 25/10/2026. Bảng kỹ thuật tóm tắt từ bài gốc. Kinh nghiệm là của OPCAIOS, chưa đo đối chứng.
Để lại bình luận
Email của bạn sẽ không hiển thị công khai. Bình luận sẽ hiển thị sau khi được duyệt.