WebGPT: Bước đột phá của OpenAI trong việc nâng cao độ chính xác thực tế cho mô hình ngôn ngữ thông qua trình duyệt web

Bài viết được dịch và tổng hợp từ tin tức gốc. Bạn có thể đọc bài viết gốc bằng tiếng Anh tại đây.

Điểm tin nhanh:

WebGPT là mô hình được tinh chỉnh từ GPT-3, có khả năng sử dụng trình duyệt web dựa trên văn bản để tìm kiếm thông tin.

Công nghệ này giúp giảm thiểu đáng kể tình trạng "ảo tưởng" (hallucination) và tăng độ chính xác thực tế cho các câu trả lời.

Mô hình được huấn luyện bằng phương pháp học tăng cường từ phản hồi của con người (RLHF), ưu tiên các câu trả lời có nguồn trích dẫn rõ ràng.

Giới thiệu về WebGPT

Các mô hình ngôn ngữ lớn (LLM) như GPT-3 thường gặp phải vấn đề nghiêm trọng là "ảo tưởng" – tức là đưa ra các thông tin sai lệch nhưng nghe có vẻ rất thuyết phục. Để giải quyết vấn đề này, OpenAI đã giới thiệu WebGPT, một hệ thống cho phép mô hình ngôn ngữ tương tác với internet thông qua một trình duyệt web dựa trên văn bản (text-based browser).

Cách thức hoạt động của WebGPT

Thay vì chỉ dựa vào dữ liệu đã được học trong quá trình huấn luyện (pre-training), WebGPT có khả năng:

Thực hiện truy vấn tìm kiếm: Mô hình tự tạo ra các câu lệnh tìm kiếm trên các công cụ như Bing.
Duyệt web: Đọc nội dung từ các trang web kết quả.
Tổng hợp: Trích xuất thông tin cần thiết và đưa ra câu trả lời cuối cùng kèm theo các liên kết nguồn (citations).

Phương pháp huấn luyện

OpenAI sử dụng phương pháp Học tăng cường từ phản hồi của con người (Reinforcement Learning from Human Feedback - RLHF). Trong quá trình này, các chuyên gia sẽ đánh giá câu trả lời của mô hình dựa trên các tiêu chí: độ chính xác thực tế, tính hữu ích và sự trung lập.

Hiệu suất và Kết quả

Dưới đây là bảng so sánh hiệu suất giữa mô hình GPT-3 tiêu chuẩn và WebGPT trong các bài kiểm tra đánh giá độ chính xác thực tế:

Chỉ số đánh giá	GPT-3 (Base)	WebGPT (Fine-tuned)	Cải thiện
Độ chính xác thực tế (Factual Accuracy)	Thấp	Cao	Đáng kể
Khả năng trích dẫn nguồn	Không có	Tích hợp	Tuyệt đối
Tỷ lệ trả lời đúng câu hỏi mở	Trung bình	Rất cao	~20-30%

Tại sao WebGPT lại quan trọng?

Việc tích hợp khả năng duyệt web giúp AI không còn bị giới hạn bởi "kiến thức tĩnh" (static knowledge). Điều này mở ra tiềm năng cho các ứng dụng:

Tra cứu thông tin thời gian thực: Cập nhật các sự kiện mới nhất mà mô hình chưa từng được học.
Giảm thiểu sai lệch: Việc cung cấp nguồn trích dẫn giúp người dùng dễ dàng kiểm chứng thông tin.
Hỗ trợ nghiên cứu: Tự động hóa quá trình tổng hợp dữ liệu từ nhiều nguồn tài liệu khác nhau.

Hạn chế hiện tại

Mặc dù WebGPT đạt được những kết quả ấn tượng, OpenAI cũng lưu ý rằng mô hình vẫn có thể gặp khó khăn với các trang web có cấu trúc phức tạp hoặc các nội dung yêu cầu suy luận logic đa tầng. Đây là một bước tiến quan trọng trong lộ trình phát triển các mô hình AI an toàn và đáng tin cậy hơn.

Để tìm hiểu sâu hơn về kỹ thuật, bạn có thể tham khảo thêm tài liệu nghiên cứu chính thức của OpenAI tại OpenAI Research.