Context engineering – thiết kế thông tin và công cụ mà model AI tiếp cận khi xử lý nhiệm vụ – đang quan trọng hơn việc chọn model AI nào. Đó là thông điệp từ Jeff Dean, cựu Trưởng khoa học Google, trong buổi phỏng vấn tại Y Combinator với Diana Hu. Theo Dean, model chỉ là một mảnh ghép; thứ tạo ra kết quả là cả hệ thống bao quanh nó.
Tại sao chọn model AI ngày càng ít quan trọng hơn?
Tiến bộ AI từng đồng nghĩa với việc huấn luyện model lớn hơn trên nhiều dữ liệu hơn. Jeff Dean nói với người phỏng vấn Diana Hu của Y Combinator rằng cách nhìn đó ngày càng lỗi thời. Mức tăng trưởng thực sự giờ đến từ những gì bao quanh model: retrieval (truy xuất thông tin liên quan theo nhu cầu thực tế), tools (các hành động model có thể kích hoạt), memory (những gì model giữ lại từ các tương tác trước), và phối hợp agent.
Dean nói những yếu tố này “có thể được gộp lại thành thứ mọi người gọi là context engineering.” Ông diễn đạt thẳng: “Tiến bộ AI từng chỉ là model tốt hơn. Bạn có nhiều dữ liệu hơn, train model lớn hơn với nhiều tham số hơn. Nhưng ngày càng, trong vài năm gần đây, mọi thứ quanh model mới quan trọng.”
Quan điểm của Dean: model mà mọi người chọn chỉ là một phần của hệ thống. Thứ quan trọng hơn là trang bị cho model đúng công cụ và đúng quyền truy cập vào thông tin liên quan, thay vì kỳ vọng model tự gánh hết mọi thứ.
“Context engineering” thực chất là gì?
Context engineering là việc thiết kế xem thông tin và công cụ nào mà model AI sẽ thấy và dùng khi làm một nhiệm vụ cụ thể, thay vì chỉ dựa vào những gì model đã hấp thụ trong quá trình huấn luyện. Dean so sánh trực tiếp hai cách tiếp cận:
“Điều hay ở đây là thông tin đó rất rõ ràng với model, khác hẳn với dữ liệu huấn luyện – nơi tất cả như hàng nghìn tỷ token được khuấy cùng nhau thành một nồi súp với hàng trăm tỷ hoặc nghìn tỷ tham số. Nhưng tất cả điều đó kém rõ ràng hơn so với context thực tế mà model nhìn thấy trực tiếp cho bài toán hay trường hợp dùng cụ thể này.”
Nói đơn giản: dữ liệu huấn luyện thì rộng nhưng loãng. Context trực tiếp thì hẹp nhưng chính xác. Khi model có thể truy xuất đúng tài liệu đúng lúc cần, nó hoạt động tốt hơn một model chỉ dựa vào trí nhớ từ quá trình huấn luyện.
Tại sao phối hợp đa tác nhân AI đang trở thành trọng tâm?
Dean mở rộng ý tưởng context engineering sang multi-agent orchestration (phối hợp nhiều AI agent, mỗi agent có công cụ và vai trò riêng, để cùng giải quyết các bài toán phức tạp). Ông mô tả khả năng này là hiểu được “công cụ nào có sẵn, công cụ nào sẽ giúp model giải quyết giai đoạn tiếp theo của bài toán, cách phân rã bài toán thành chuỗi các tool call, có thể thử nhiều cách tiếp cận và xem cái nào hiệu quả.”
Kết luận của Dean: loại phối hợp này là hướng đi của năng lực AI, và đây là “thời điểm cực kỳ thú vị.”
Jeff Dean chia sẻ gì về cách làm context engineering tốt hơn?
Một điểm Dean nhấn mạnh: context engineering, không giống huấn luyện model, không đòi hỏi hạ tầng GPU hay ngân sách tính toán khổng lồ. Bất kỳ ai có API access – ví dụ như Gemini – đều có thể thực hành. Lời khuyên của ông xoay quanh học từ thất bại và cải tiến liên tục.
Thay vì cố điều chỉnh tham số model (điều hầu hết người dùng không thể làm từ bên ngoài), Dean khuyến nghị viết guidelines tốt hơn và xây dựng skills tốt hơn, tức là các hướng dẫn có cấu trúc để model biết cách dùng công cụ cụ thể cho từng loại bài toán cụ thể. Ông gọi đây là “vòng lặp tự cải thiện” – càng xác định và xử lý nhiều trường hợp thất bại, hệ thống càng tốt dần.
“Thường bạn có thể làm model hoạt động tốt hơn và thành công với dạng bài toán đó, không phải bằng cách điều chỉnh tham số model – điều rất khó làm từ bên ngoài – mà bằng cách tạo guidelines tốt hơn cho model, viết skills để model biết cách dùng các công cụ khác nhau mà sẽ cực kỳ hữu ích cho loại bài toán cụ thể này.”
Checklist khởi điểm dựa trên cách tiếp cận của Dean, cho ai đang xây dựng hoặc đánh giá lại workflow AI:
- Chọn một nhiệm vụ cụ thể nơi setup AI hiện tại đang kém, không phải một danh mục mơ hồ.
- Ghi lại các trường hợp thất bại cụ thể, không phải ấn tượng chung chung.
- Xác định xem model thiếu thông tin đúng lúc (lỗ hổng retrieval) hay lý luận sai từ thông tin nó đã có (lỗ hổng reasoning).
- Viết guidelines rõ hơn cho nhiệm vụ: chỉ định model nên truy xuất thông tin gì và khi nào.
- Định nghĩa rõ ràng công cụ nào model nên dùng ở mỗi giai đoạn của nhiệm vụ.
- Chạy lại trường hợp thất bại với setup đã cập nhật và so sánh kết quả trước khi rút kết luận rộng hơn.
- Lặp lại trên nhiều loại thất bại trước khi kết luận bản thân model là vấn đề.
Điều này có ý nghĩa gì với khả năng hiển thị trên AI search?
Đây là cách đơn giản nhất để hiểu tác động kinh doanh: thương hiệu xuất hiện trong dữ liệu huấn luyện của AI đang chiến đấu theo trận chiến của năm ngoái. Thương hiệu xuất hiện trong context mà AI chủ động truy xuất mới đang cạnh tranh trong trận chiến hôm nay.
Cách Dean mô tả dữ liệu huấn luyện như “hàng nghìn tỷ token khuấy thành một nồi súp” là hình ảnh hữu ích để hiểu tại sao sự hiện diện trong dữ liệu huấn luyện đơn thuần không phải chiến lược hiển thị đáng tin cậy. Nó quá loãng. Retrieval thì cụ thể.
Khi AI assistant hỗ trợ người dùng nghiên cứu sản phẩm hay dịch vụ, nó có thể truy xuất nội dung web hiện tại hoặc dữ liệu có cấu trúc theo thời gian thực. Sự hiện diện của thương hiệu trong lớp retrieval đó quan trọng hơn việc thương hiệu có xuất hiện ở đâu đó trong training corpus hay không.
Một hệ quả mà nguồn không nêu rõ nhưng đáng đặt tên: cách tiếp cận của Dean cũng áp dụng cho cách nội dung được cấu trúc. Nội dung có cấu trúc rõ, có dẫn nguồn, và tự đứng được (self-contained – hoàn chỉnh trong chính nó) cho hệ thống retrieval nhiều hơn để làm việc so với nội dung rộng hoặc mơ hồ. Một trang đưa ra tuyên bố cụ thể, có nguồn dẫn trong một đoạn văn ngắn dễ bị hệ thống retrieval kéo ra và hiển thị chính xác hơn một trang chôn vùi cùng tuyên bố đó trong 2.000 từ bối cảnh.
Góc nhìn Hingewise
Câu hỏi đáng đặt ra không phải “nên chọn model AI nào” mà là “nội dung của tôi trông như thế nào từ góc nhìn của một hệ thống retrieval?”
Hãy thử hình dung thế này: AI phải chọn giữa hai trang về cùng một sản phẩm – trang đầu đưa ra một tuyên bố cụ thể, có nguồn rõ ràng, ngay trong đoạn đầu tiên; trang kia có cùng thông tin nhưng nằm sâu ở đoạn thứ tám sau phần giới thiệu dài. Trang nào dễ trích dẫn hơn? Câu trả lời đó gợi ý bạn cần làm gì.
Đây gần với kiến trúc thông tin cổ điển hơn là prompt engineering, và cả thương hiệu lẫn publisher đều có thể hành động ngay, bất kể đang nhắm tới AI platform nào.
Nhận định của Hingewise: sự rõ ràng của cấu trúc nội dung – không phải khối lượng hay độ phủ từ khóa – sẽ là yếu tố phân biệt chính trong lớp retrieval của AI. Khi các kiến trúc retrieval tiếp tục phát triển khác nhau giữa các nền tảng AI search, thương hiệu nào hiểu điều này sớm sẽ có lợi thế cụ thể so với thương hiệu vẫn đang tối ưu cho con người đọc.
Hướng phát triển của kiến trúc retrieval trên các sản phẩm AI search khác nhau trong 12 đến 18 tháng tới là điều đáng theo dõi.
Nguồn: Search Engine Journal · Y Combinator (phỏng vấn Jeff Dean với Diana Hu, 2025)