OpenAI khởi động chương trình tài trợ 1 triệu USD: Thúc đẩy dân chủ hóa quy trình ra quyết định cho AI

Bài viết được dịch và tổng hợp từ tin tức gốc. Bạn có thể đọc bài viết gốc bằng tiếng Anh tại đây.

Điểm tin nhanh:

OpenAI ra mắt chương trình tài trợ 1 triệu USD để tìm kiếm các phương thức dân chủ hóa việc thiết lập quy tắc cho AI.

Chương trình cung cấp 10 khoản tài trợ, mỗi khoản trị giá 100.000 USD cho các dự án thử nghiệm khả thi.

Mục tiêu là xây dựng một hệ thống quản trị AI minh bạch, có sự tham gia của cộng đồng trong khuôn khổ pháp luật hiện hành.

Giới thiệu về sáng kiến "Democratic Inputs to AI"

OpenAI, tổ chức phi lợi nhuận đứng sau sự phát triển của các mô hình ngôn ngữ lớn hàng đầu thế giới, vừa công bố một bước đi quan trọng trong lộ trình quản trị AI. Thay vì tự mình quyết định mọi quy tắc vận hành, OpenAI đang tìm kiếm các giải pháp từ cộng đồng thông qua chương trình tài trợ cho các thử nghiệm về "quy trình dân chủ".

Tại sao cần dân chủ hóa AI?

Các hệ thống AI hiện nay đang dần trở thành một phần không thể thiếu của xã hội. Việc thiết lập các quy tắc (ví dụ: AI nên từ chối trả lời những câu hỏi nào, cách xử lý các vấn đề nhạy cảm, hoặc giới hạn hành vi của AI) không nên chỉ nằm trong tay một nhóm nhỏ các kỹ sư. OpenAI tin rằng việc thu thập ý kiến từ nhiều tầng lớp xã hội sẽ giúp AI vận hành công bằng và an toàn hơn.

Chi tiết chương trình tài trợ

Để thúc đẩy nghiên cứu này, OpenAI đã thiết lập một quỹ tài trợ với quy mô cụ thể như sau:

Hạng mục	Thông tin chi tiết
Tổng ngân sách	1.000.000 USD
Số lượng suất tài trợ	10 suất
Giá trị mỗi suất	100.000 USD
Đối tượng hướng tới	Các nhà nghiên cứu, tổ chức thử nghiệm quy trình dân chủ
Phạm vi áp dụng	Trong khuôn khổ pháp luật hiện hành

Mục tiêu của các dự án thử nghiệm

Các dự án được tài trợ sẽ tập trung vào việc trả lời các câu hỏi hóc búa về quản trị AI:

Quy trình ra quyết định: Làm thế nào để tổ chức một cuộc trưng cầu dân ý hoặc một hội đồng công dân để quyết định các chính sách của AI?
Tính khả thi: Các mô hình dân chủ này có thể mở rộng (scale) cho hàng tỷ người dùng hay không?
Tuân thủ pháp luật: Đảm bảo rằng các quyết định từ cộng đồng không vi phạm các quy định pháp lý quốc tế và địa phương.

Làm thế nào để tham gia?

OpenAI khuyến khích các nhà nghiên cứu, các tổ chức xã hội dân sự và các nhóm công nghệ có tư duy đổi mới nộp hồ sơ đề xuất. Đây là cơ hội để định hình tương lai của AI thông qua các phương pháp tiếp cận mang tính cộng đồng cao.

Để cập nhật thêm thông tin chi tiết về cách thức nộp đơn và các tiêu chí đánh giá, bạn có thể theo dõi trang chủ OpenAI Blog để nhận thông báo mới nhất về các đợt mở đơn đăng ký.

Lưu ý: Đây là một nỗ lực mang tính thử nghiệm cao của OpenAI nhằm giải quyết bài toán quản trị AI trong kỷ nguyên số.