Kiến trúc AI Agent tại DoorDash: Khi LLM không còn là điểm tựa duy nhất

Bài viết được dịch và tổng hợp từ tin tức gốc. Bạn có thể đọc bài viết gốc bằng tiếng Anh tại đây.

Điểm tin nhanh:

• DoorDash phát triển trợ lý mua sắm AI sử dụng kiến trúc tách biệt giữa orchestration và business logic thay vì chỉ dựa vào LLM.
• Hệ thống sử dụng Model Context Protocol (MCP) để kết nối các công cụ nghiệp vụ như tìm kiếm, giỏ hàng và lịch sử đơn hàng.
• Kết quả thực tế cho thấy tỷ lệ chuyển đổi giỏ hàng tăng 24% và giảm 7% số lượt tương tác hội thoại nhờ bộ nhớ người dùng bền vững.

Việc tích hợp AI vào các sản phẩm tiêu dùng hiện nay thường rơi vào cái bẫy "LLM-centric", nơi mọi logic nghiệp vụ đều bị nhồi nhét vào các câu lệnh prompt. Tuy nhiên, DoorDash đã chứng minh rằng để xây dựng một trợ lý mua sắm thực sự hiệu quả, chúng ta cần một kiến trúc bền vững hơn, nơi AI chỉ đóng vai trò là bộ não điều phối thay vì là nơi chứa đựng toàn bộ tri thức kinh doanh. Đây là bài học đắt giá cho bất kỳ kỹ sư nào đang tìm cách xây dựng ứng dụng quản lý dự án phong cách Trello trong năm 2026 hay các hệ thống AI phức tạp khác.

Kiến trúc tách biệt: Orchestration và Business Capabilities

Thay vì embedding logic kinh doanh trực tiếp vào prompt, DoorDash đã thiết kế một Assistant Runtime đóng vai trò điều phối. Hệ thống này tương tác với các tác nhân chuyên biệt (specialized agents) thông qua một lớp Model Context Protocol (MCP) chung. Cách tiếp cận này cho phép các dịch vụ backend như tìm kiếm danh mục, gợi ý món ăn và quản lý giỏ hàng phát triển độc lập mà không cần phải cập nhật lại mô hình AI mỗi khi có thay đổi nghiệp vụ.

Sơ đồ kiến trúc cơ bản có thể hình dung như sau:

[Người dùng] ---> [Assistant Runtime] ---> [Specialized Agents]
|
v
[Shared MCP Layer]
|
[Backend Services]

Việc quản lý các agent này đòi hỏi sự kiểm soát chặt chẽ, tương tự như cách chúng ta cần xây dựng hệ thống nhật ký nguồn gốc 30 dòng cho mã nguồn AI để đảm bảo tính minh bạch và khả năng truy xuất.

Hiệu quả thực tế qua các con số

DoorDash đã công bố những số liệu ấn tượng sau 7 ngày đánh giá sản phẩm, chứng minh rằng việc tối ưu hóa kiến trúc mang lại giá trị kinh doanh rõ rệt hơn là chỉ tăng kích thước tham số của LLM.

Mẹo hay: Khi triển khai các hệ thống AI quy mô lớn, hãy tập trung vào việc tối ưu hóa dữ liệu đầu vào (context) thay vì chỉ cố gắng tinh chỉnh mô hình. Việc hiểu rõ tại sao công đoạn chuẩn bị trước khi kiểm thử PR mới là chìa khóa của sự thành công cũng áp dụng tương tự cho quy trình chuẩn bị dữ liệu cho AI.

Hệ thống bộ nhớ thông minh

Một trong những thách thức lớn nhất của AI là ngữ cảnh. DoorDash giải quyết vấn đề này bằng cách phân tầng bộ nhớ:

1. Long-term memory: Được tạo offline từ hành vi lịch sử (khẩu vị, chế độ ăn).
2. Session memory: Duy trì ngữ cảnh trong suốt phiên chat.
3. Intelligence layer: Quản lý việc cá nhân hóa dựa trên thời điểm và tác vụ cụ thể.

Đánh giá & Lời khuyên Thực tiễn

Từ góc độ kỹ thuật, giải pháp của DoorDash là một chuẩn mực cho kiến trúc AI hiện đại.

• Ưu điểm: Tách biệt logic giúp giảm thiểu rủi ro khi thay đổi mô hình (model migration), tăng tốc độ kiểm thử (từ 6 giờ xuống 20 phút) và cải thiện độ chính xác thông qua automated evaluation.
• Nhược điểm: Độ phức tạp hệ thống cao hơn đáng kể so với việc gọi API trực tiếp. Yêu cầu đội ngũ kỹ sư phải có khả năng quản lý hạ tầng MCP.
• Lưu ý: Khi triển khai, hãy chú trọng vào việc tối ưu hóa quy trình gỡ lỗi và tăng tốc độ phát triển phần mềm với AI để đảm bảo hệ thống không trở thành một "hộp đen" khó bảo trì.

Câu hỏi thường gặp (FAQ)

Tại sao DoorDash lại sử dụng Model Context Protocol (MCP)?

MCP giúp chuẩn hóa cách các agent giao tiếp với các công cụ nghiệp vụ, cho phép tái sử dụng các công cụ này trên nhiều trải nghiệm AI khác nhau mà không cần viết lại mã nguồn.

Làm thế nào để DoorDash kiểm thử các agent này?

Họ xây dựng một framework tự động tạo ra các cuộc hội thoại giả lập bằng LLM và sử dụng các dữ liệu mẫu (fixtures) để đánh giá orchestration và guardrails hàng ngày.

Kiến trúc này có phù hợp cho các dự án nhỏ không?

Nếu bạn đang xây dựng sản phẩm solo, hãy cân nhắc kỹ. Kiến trúc này tối ưu cho quy mô doanh nghiệp. Đối với dự án nhỏ, hãy tham khảo xây dựng sản phẩm solo: 5 quyết định kỹ thuật mang tính chiến lược để tối ưu hóa nguồn lực.

Kết luận

Câu chuyện của DoorDash là minh chứng cho thấy kỹ thuật phần mềm truyền thống vẫn đóng vai trò cốt lõi trong kỷ nguyên AI. Bằng cách xây dựng hệ thống dựa trên các thành phần có thể kiểm thử và tách biệt, họ đã tạo ra một trợ lý mua sắm không chỉ thông minh mà còn đáng tin cậy. Hãy bắt đầu áp dụng tư duy này vào dự án của bạn ngay hôm nay. Nếu bạn thấy bài viết hữu ích, đừng quên theo dõi hi_dev để cập nhật những kiến trúc công nghệ mới nhất.