Bài học từ Intuit: Tại sao việc tái cấu trúc AI Agent hai lần trong bốn tháng lại là con đường nhanh nhất?

Bài viết được dịch và tổng hợp từ tin tức gốc. Bạn có thể đọc bài viết gốc bằng tiếng Anh tại đây.

Điểm tin nhanh:

• Intuit đã thực hiện hai lần tái cấu trúc toàn bộ kiến trúc AI Agent chỉ trong vòng bốn tháng để tối ưu hóa hiệu suất.
• Nguyên nhân chính dẫn đến thất bại của lớp orchestration cũ là sự suy giảm ngữ cảnh (context loss) khi các agent giao tiếp bằng ngôn ngữ tự nhiên.
• Chuyển dịch từ mô hình agent chuyên biệt sang kiến trúc dựa trên kỹ năng (skills and tools) đã giúp Intuit giải quyết bài toán quy mô và cải thiện độ chính xác.

Trong kỷ nguyên bùng nổ của AI, việc xây dựng các hệ thống tự động hóa không còn là cuộc chơi của những mô hình đơn lẻ mà là sự phức tạp của các Agent Orchestration. Tuy nhiên, khi đối mặt với những thách thức về độ trễ và sai số, liệu bạn có đủ dũng cảm để đập bỏ toàn bộ công trình của mình? Intuit, một gã khổng lồ trong lĩnh vực phần mềm tài chính, đã chứng minh rằng đôi khi việc lùi lại hai bước để tái cấu trúc lại từ đầu chính là con đường ngắn nhất để tiến xa hơn.

Sự sụp đổ của lớp Orchestration truyền thống

Tại hội nghị VB Transform 2026, Nhung Ho, Phó chủ tịch AI của Intuit, đã chia sẻ về một vấn đề kỹ thuật cốt lõi mà nhiều đội ngũ phát triển đang gặp phải: sự suy giảm ngữ cảnh trong chuỗi các agent. Ban đầu, Intuit xây dựng một đội ngũ các agent chuyên biệt (specialist agents). Tuy nhiên, việc để khách hàng tự chọn agent cho từng tác vụ là một trải nghiệm không tối ưu. Giải pháp của họ là tạo ra một lớp orchestration để tự động định tuyến (routing) tác vụ.

Kiến trúc này hoạt động tốt trong khoảng ba tháng, nhưng bắt đầu bộc lộ điểm yếu chết người khi các agent giao tiếp với nhau bằng ngôn ngữ tự nhiên. Mỗi lần truyền tin (handoff), thông tin ngữ cảnh bị mất đi, dẫn đến sai số tích lũy (compounding error).

Bảng so sánh hiệu suất và rủi ro kiến trúc

Tái cấu trúc trong 60 ngày: Bài toán về niềm tin và kỹ thuật

Việc thuyết phục lãnh đạo và đội ngũ kỹ sư từ bỏ công sức của họ để bắt đầu lại từ đầu là một thách thức lớn hơn cả việc viết code. Để giải quyết, nhóm của Nhung Ho đã sử dụng các truy vấn thực tế từ production để chứng minh rằng kiến trúc dựa trên kỹ năng (skills and tools) vượt trội hơn hẳn so với hệ thống cũ.

Lưu ý: Việc chuyển đổi từ các agent độc lập sang các kỹ năng dùng chung giúp tối ưu hóa khả năng tái sử dụng mã nguồn, tương tự như cách chúng ta tối ưu hóa quy trình lập trình để tránh lặp lại code không cần thiết.

Việc thay đổi này không chỉ là vấn đề kỹ thuật mà còn là sự thay đổi về tư duy quản trị. Các đội ngũ kỹ sư thay vì tập trung xây dựng agent, họ chuyển sang tập trung vào việc chạy các bài đánh giá (evals) để đo lường hiệu quả thực tế của hệ thống. Điều này cũng tương tự như việc áp dụng chiến lược thích nghi với những thay đổi thầm lặng của AI để duy trì sự ổn định cho sản phẩm.

Con người trong vòng lặp (Human-in-the-loop)

Một trong những tính năng quan trọng nhất của kiến trúc mới là khả năng kết nối người dùng với nhân viên hỗ trợ thực tế ngay trong cuộc trò chuyện. Không giống như các chatbot thông thường chỉ đưa ra lời khuyên chung chung, hệ thống của Intuit duy trì toàn bộ ngữ cảnh (context) để nhân viên hỗ trợ có thể tiếp quản công việc ngay lập tức. Đây là bước tiến lớn trong việc xây dựng niềm tin, đặc biệt là với các dữ liệu tài chính nhạy cảm.

Việc thu thập phản hồi cũng thay đổi hoàn toàn. Thay vì chờ đợi các khảo sát thưa thớt, Intuit tận dụng chính các cuộc trò chuyện để làm dữ liệu phản hồi. Điều này giúp họ phát hiện lỗi nhanh hơn, giống như cách chúng ta giải mã những điểm yếu chí mạng của RAG để cải thiện hệ thống.

Đánh giá & Lời khuyên Thực tiễn

Từ góc độ của một Senior Tech Lead, tôi đánh giá cao sự quyết đoán của Intuit.

• Ưu điểm: Kiến trúc dựa trên kỹ năng (skills-based) giúp giảm thiểu sai số do suy luận ngôn ngữ tự nhiên, tăng tính minh bạch và khả năng kiểm soát (auditability).
• Nhược điểm: Đòi hỏi sự thay đổi lớn về văn hóa kỹ thuật và quy trình kiểm thử (evals).
• Lời khuyên: Nếu bạn đang xây dựng hệ thống AI Agent, hãy tránh việc truyền tải ngữ cảnh qua ngôn ngữ tự nhiên giữa các agent. Hãy sử dụng các cấu trúc dữ liệu chặt chẽ (JSON/Protobuf) và các công cụ (tools) được định nghĩa rõ ràng. Hãy luôn nhớ rằng khai phá tiềm năng AI Agents bắt đầu từ việc định nghĩa kỹ năng (skills) một cách chính xác.

Câu hỏi thường gặp (FAQ)

Tại sao việc truyền tin qua ngôn ngữ tự nhiên lại gây lỗi?

Vì ngôn ngữ tự nhiên có tính mơ hồ cao. Mỗi lần agent diễn giải lại thông tin, xác suất sai sót tăng lên (compounding error), dẫn đến mất mát ngữ cảnh quan trọng.

Làm thế nào để thuyết phục team kỹ thuật đập bỏ code cũ?

Sử dụng dữ liệu thực tế từ production. Hãy xây dựng một bản demo nhỏ chứng minh kiến trúc mới giải quyết được các case mà hệ thống cũ thất bại.

Vai trò của con người trong hệ thống AI Agent là gì?

Con người đóng vai trò giám sát, phê duyệt các hành động nhạy cảm và xử lý các tình huống phức tạp mà AI chưa đủ khả năng giải quyết, đảm bảo tính an toàn cho dữ liệu người dùng.

Kết luận

Câu chuyện của Intuit là bài học đắt giá cho bất kỳ đội ngũ nào đang dấn thân vào lĩnh vực AI Agent. Đừng để sự phức tạp của hệ thống làm lu mờ mục tiêu giải quyết vấn đề cho khách hàng. Hãy tập trung vào tính chính xác, khả năng kiểm soát và luôn sẵn sàng tái cấu trúc khi cần thiết. Nếu bạn đang đối mặt với những thách thức tương tự trong việc triển khai AI, hãy để lại bình luận phía dưới hoặc theo dõi hi_dev để cập nhật những xu hướng công nghệ mới nhất.