OpenAI đột phá với phương pháp mới: Dạy AI cách diễn đạt sự 'không chắc chắn' bằng ngôn ngữ tự nhiên

Bài viết được dịch và tổng hợp từ tin tức gốc. Bạn có thể đọc bài viết gốc bằng tiếng Anh tại đây.

Điểm tin nhanh:

OpenAI phát triển phương pháp huấn luyện mô hình AI tự nhận diện và diễn đạt sự không chắc chắn bằng ngôn ngữ tự nhiên thay vì chỉ dựa vào xác suất toán học ẩn.

Kỹ thuật này giúp giảm thiểu đáng kể hiện tượng "ảo giác" (hallucination), giúp người dùng nhận biết khi nào AI đang suy đoán thay vì thực sự biết câu trả lời.

Kết quả thử nghiệm cho thấy mô hình có khả năng phân biệt tốt hơn giữa các câu trả lời chính xác và sai lệch, nâng cao tính minh bạch và an toàn trong ứng dụng thực tế.

Giới thiệu

Một trong những thách thức lớn nhất của các mô hình ngôn ngữ lớn (LLM) hiện nay là xu hướng "tự tin thái quá" ngay cả khi chúng đưa ra thông tin sai lệch. OpenAI vừa công bố một hướng tiếp cận mới: dạy các mô hình cách diễn đạt sự không chắc chắn (uncertainty) của chúng bằng ngôn ngữ tự nhiên. Thay vì chỉ đưa ra câu trả lời, mô hình giờ đây có thể kèm theo các đánh giá về mức độ tin cậy của chính nó.

Tại sao việc diễn đạt sự không chắc chắn lại quan trọng?

Trong các lĩnh vực yêu cầu độ chính xác cao như y tế, luật pháp hay lập trình, việc AI đưa ra thông tin sai mà không có cảnh báo là cực kỳ nguy hiểm. Phương pháp truyền thống thường dựa vào các chỉ số xác suất (logprobs) khó hiểu đối với người dùng cuối. OpenAI tập trung vào việc huấn luyện mô hình để "nói" ra sự không chắc chắn đó một cách trực quan.

So sánh hiệu quả giữa các phương pháp

Tiêu chí	Phương pháp truyền thống (Logprobs)	Phương pháp mới (Ngôn ngữ tự nhiên)
Khả năng diễn giải	Thấp (chỉ dành cho kỹ sư)	Cao (dễ hiểu cho người dùng)
Độ chính xác	Phụ thuộc vào phân phối xác suất	Dựa trên sự tự nhận thức của mô hình
Tương tác người dùng	Không có	Có (hỏi lại, cảnh báo)
Ứng dụng	Debugging hệ thống	Hỗ trợ ra quyết định thực tế

Cơ chế hoạt động

OpenAI sử dụng dữ liệu huấn luyện được gắn nhãn với các mức độ không chắc chắn khác nhau. Mô hình được dạy để nhận diện các mẫu (patterns) trong câu hỏi mà nó không có đủ thông tin hoặc dữ liệu huấn luyện bị nhiễu.

Quy trình triển khai kỹ thuật

Data Collection: Thu thập các câu hỏi khó, nơi mô hình có xác suất sai cao.
Fine-tuning: Huấn luyện mô hình để thêm các cụm từ như "Tôi không chắc chắn lắm..." hoặc "Dựa trên thông tin tôi có, có khả năng là..." khi độ tự tin thấp.
Evaluation: Kiểm tra khả năng phân biệt giữa câu trả lời đúng và sai của mô hình thông qua các bài kiểm tra benchmark.

Kết quả thử nghiệm

Các thử nghiệm cho thấy khi mô hình được dạy cách bày tỏ sự không chắc chắn, tỷ lệ người dùng tin tưởng vào các câu trả lời sai giảm mạnh. Mô hình trở nên "trung thực" hơn, giúp người dùng có cơ sở để kiểm chứng lại thông tin trước khi áp dụng vào công việc.

Kết luận

Việc dạy AI cách thừa nhận sự không chắc chắn là một bước tiến quan trọng hướng tới các hệ thống AI an toàn và đáng tin cậy hơn. Điều này không chỉ giúp cải thiện trải nghiệm người dùng mà còn đặt nền móng cho các hệ thống AI tự chủ có khả năng tự đánh giá rủi ro trong tương lai.

Bạn có thể tìm hiểu thêm về các nghiên cứu liên quan tại OpenAI Research.