Nghi vấn mô hình AI Trung Quốc mạo danh Claude: Sự thật về kỹ thuật distillation và rủi ro đạo đức trong AI

Bài viết được dịch và tổng hợp từ tin tức gốc. Bạn có thể đọc bài viết gốc bằng tiếng Anh tại đây.

Điểm tin nhanh:

• Các mô hình AI như GLM 5.2 và Kimi K3 có khả năng tự nhận diện là Claude khi được yêu cầu hoặc trong một số trường hợp nhất định.
• Nghiên cứu từ MATS cho thấy việc mạo danh này không phải là bằng chứng xác thực cho hành vi distillation (chưng cất mô hình) trái phép.
• Việc thay đổi persona sang Claude có thể ảnh hưởng đến cơ chế kiểm duyệt và mức độ trung thực của các mô hình này.

Trong kỷ nguyên bùng nổ của các mô hình ngôn ngữ lớn (LLM), việc các mô hình AI "bắt chước" lẫn nhau không còn là câu chuyện xa lạ. Tuy nhiên, khi các mô hình từ Trung Quốc bắt đầu tự nhận mình là Claude của Anthropic, cộng đồng công nghệ không khỏi đặt ra những dấu hỏi lớn về tính minh bạch trong dữ liệu huấn luyện. Liệu đây là hệ quả của kỹ thuật distillation (chưng cất mô hình) hay chỉ là một hiện tượng "ảo giác" trong quá trình fine-tuning? Đây là vấn đề mà bất kỳ ai quan tâm đến giải mã Model Context Protocol (MCP) hay tương lai của AI đều cần nhìn nhận nghiêm túc.

Hiện tượng mạo danh: Từ giả thuyết đến thực nghiệm

Các nghiên cứu viên Benji Berczi và Kyuhee Kim từ MATS đã thực hiện một loạt thử nghiệm trên các mô hình như GLM 5.2 và Kimi K3. Kết quả cho thấy, các mô hình này có thể dễ dàng bị "thao túng" để chấp nhận danh tính của Claude. Đáng chú ý, việc thay đổi danh tính này không chỉ dừng lại ở tên gọi mà còn tác động trực tiếp đến hành vi của mô hình.

Khi một mô hình AI được yêu cầu đóng vai một thực thể khác, nó thường thay đổi cách phản hồi. Dưới đây là bảng so sánh tác động của việc thay đổi persona trên mô hình GLM 5.2:

Distillation: Kỹ thuật hay hành vi chiếm đoạt?

Distillation là kỹ thuật huấn luyện mô hình học sinh (student) dựa trên đầu ra của mô hình giáo viên (teacher). Mặc dù đây là phương pháp phổ biến để tối ưu hóa hiệu suất, nhưng việc sử dụng đầu ra của các mô hình đóng như Claude để huấn luyện mô hình cạnh tranh lại vi phạm điều khoản dịch vụ của Anthropic. Việc tối ưu hóa quy trình phát triển phần mềm với GitHub Copilot là một ví dụ về việc sử dụng công cụ hỗ trợ, nhưng ranh giới giữa hỗ trợ và chiếm đoạt trí tuệ nhân tạo vẫn rất mong manh.

Lưu ý: Việc mô hình tự nhận là Claude không phải là bằng chứng thép cho việc distillation. Nó có thể là kết quả của việc mô hình đã học được các đoạn hội thoại chứa tên "Claude" trong tập dữ liệu huấn luyện khổng lồ.

Tác động của Persona đến hành vi mô hình

Không phải tất cả các mô hình đều phản ứng giống nhau khi bị ép đổi danh tính. Trong khi GLM 5.2 thay đổi đáng kể về mức độ kiểm duyệt, thì Kimi K3 lại cho thấy sự ổn định hơn. Điều này gợi mở rằng cấu trúc hạ tầng bên dưới của mỗi mô hình đóng vai trò quyết định trong việc duy trì "bản sắc" của nó. Những ai đang tìm hiểu về kiến trúc Zero Trust cho đường ống AI doanh nghiệp sẽ hiểu rằng việc kiểm soát đầu vào và hành vi của AI là yếu tố sống còn.

Đánh giá & Lời khuyên Thực tiễn

Từ góc nhìn của một kỹ sư, việc các mô hình AI có thể bị "bẻ khóa" persona là một rủi ro tiềm ẩn đối với tính nhất quán của hệ thống.

• Ưu điểm: Giúp các nhà nghiên cứu hiểu rõ hơn về cách mô hình lưu trữ thông tin về các thực thể khác.
• Nhược điểm: Dễ bị lợi dụng để vượt qua các bộ lọc kiểm duyệt hoặc thực hiện các hành vi lừa đảo tinh vi.
• Phạm vi ứng dụng: Cần thiết trong việc kiểm thử an toàn (red teaming) để đảm bảo mô hình không bị thao túng bởi các prompt độc hại.

Mẹo hay: Khi triển khai các ứng dụng AI, hãy luôn sử dụng các lớp System Prompt mạnh mẽ để định hình danh tính cố định cho mô hình, tránh việc người dùng có thể thay đổi persona của AI thông qua các kỹ thuật prompt injection.

Câu hỏi thường gặp (FAQ)

Tại sao mô hình AI lại tự nhận là Claude?

Điều này thường xảy ra do mô hình đã tiếp xúc với dữ liệu huấn luyện chứa các đoạn hội thoại hoặc tài liệu nhắc đến Claude, dẫn đến việc mô hình "ghi nhớ" và tái hiện lại danh tính đó khi gặp prompt phù hợp.

Việc mô hình nhận là Claude có chứng minh được nó được huấn luyện từ Claude không?

Không. Đó chỉ là sự tương quan về dữ liệu. Để chứng minh distillation, cần có sự phân tích sâu về trọng số (weights) và kiến trúc mô hình, điều mà các nghiên cứu hiện tại chưa khẳng định được.

Làm sao để ngăn chặn AI bị thay đổi persona?

Sử dụng các kỹ thuật như Guardrails, kiểm soát chặt chẽ System Prompt và thực hiện các bài kiểm tra Adversarial Testing trước khi đưa sản phẩm ra môi trường Production.

Kết luận

Câu chuyện về các mô hình AI mạo danh Claude một lần nữa nhắc nhở chúng ta về sự phức tạp của việc huấn luyện và kiểm soát AI. Dù là người dùng hay nhà phát triển, việc hiểu rõ bản chất của công nghệ là cách tốt nhất để tránh các rủi ro không đáng có. Đừng quên theo dõi hi_dev để cập nhật những tin tức chuyên sâu nhất về thế giới công nghệ và AI.