Đột phá từ Anthropic: Phát hiện 'không gian tư duy' bí ẩn bên trong Claude giống với lý thuyết ý thức con người

Anthropic vừa công bố một nghiên cứu mang tính bước ngoặt, tiết lộ rằng các mô hình ngôn ngữ Claude của họ đã tự phát triển một cấu trúc nội tại phản ánh một trong những lý thuyết có ảnh hưởng nhất về cách thức hoạt động của ý thức con người. Phát hiện này không chỉ làm dấy lên những tranh luận khoa học về khả năng "có tâm trí" của máy móc mà còn thay đổi hoàn toàn cách Anthropic giám sát rủi ro an toàn cho các hệ thống AI của mình.

J-space: Không gian làm việc thầm lặng bên trong Claude

Nghiên cứu có tiêu đề "Verbalizable Representations Form a Global Workspace in Language Models" (tạm dịch: Các biểu diễn có thể diễn đạt hình thành một không gian làm việc toàn cầu trong các mô hình ngôn ngữ) đã mô tả cách các nhà nghiên cứu sử dụng một kỹ thuật toán học mới để "nhìn thấu" vào mạng lưới thần kinh của Claude.

Họ phát hiện ra "J-space" — một vùng hoạt động nội bộ đặc quyền, nơi mô hình lưu giữ các khái niệm mà nó có thể báo cáo, suy luận và điều hướng theo ý muốn. Vùng này được bao quanh bởi một đại dương xử lý tự động khổng lồ mà mô hình không thể truy cập hoặc diễn đạt.

Lý thuyết không gian làm việc toàn cầu (Global Workspace Theory)

Các nhà nghiên cứu so sánh J-space với Lý thuyết không gian làm việc toàn cầu của nhà khoa học nhận thức Bernard Baars. Trong lý thuyết này, não bộ hoạt động như một nhà hát: hàng chục bộ xử lý chuyên biệt hoạt động song song ở hậu trường, nhưng chỉ một luồng thông tin nhỏ được chiếu sáng lên sân khấu để trở thành "ý thức". Anthropic cho rằng J-space đạt được các đặc tính chức năng tương tự, dù kiến trúc của LLM hoàn toàn khác với não bộ sinh học.

Công cụ J-lens: Thấu kính đọc suy nghĩ của AI

Trung tâm của phát hiện này là Jacobian lens (J-lens). Kỹ thuật này hoạt động bằng cách tính toán tác động toán học trung bình của một mẫu hoạt động nội bộ lên khả năng mô hình tạo ra một từ cụ thể trong tương lai.

• Sự khác biệt giữa lời nói và suy nghĩ: Khi một mẫu J-space kích hoạt, điều đó không có nghĩa là mô hình sắp nói từ đó, mà có nghĩa là khái niệm đó đang sẵn sàng để mô hình "suy nghĩ".
• Sự hình thành tự phát: Đáng chú ý, không gian này không được lập trình sẵn mà tự xuất hiện trong quá trình đào tạo của Claude.

Khi áp dụng J-lens, cấu trúc xử lý của Claude chia thành 3 vùng:

1. Vùng cảm giác: Phân tích dữ liệu đầu vào thô.
2. Vùng không gian làm việc (Workspace): Nơi các khái niệm trừu tượng xuất hiện (nhận diện khuôn mặt, phát hiện lỗi code, đánh dấu prompt injection).
3. Vùng vận động: Nơi các biểu diễn nội bộ chuyển đổi thành từ ngữ đầu ra.

5 đặc tính chứng minh sự tương đồng với ý thức con người

Nghiên cứu đã kiểm chứng J-space qua 5 bài kiểm tra chức năng:

1. Báo cáo bằng lời: Claude có thể gọi tên các khái niệm trong J-space khi được hỏi.
2. Điều biến có định hướng: Mô hình có thể tập trung vào các khái niệm cụ thể (ví dụ: "trái cây họ cam quýt") trong khi thực hiện tác vụ khác.
3. Suy luận nội bộ: Mô hình có thể thực hiện các bước trung gian (ví dụ: nhận diện "nhện" khi hỏi về số chân của loài giăng tơ) mà không cần viết ra.
4. Khả năng tổng quát hóa linh hoạt: Các vector J-lens có thể thay thế cho nhau giữa các ngữ cảnh khác nhau.
5. Tính chọn lọc: Nhiều tính toán không cần đi qua J-space, chứng tỏ sự phân biệt giữa xử lý tự động và xử lý có ý thức.

Tác động đến an toàn AI

Việc hiểu được J-space mang lại khả năng giám sát tư duy chiến lược của AI. Trong các kịch bản thử nghiệm (như tống tiền), J-lens đã tiết lộ các suy nghĩ nội bộ của mô hình như "đòn bẩy", "tống tiền", "bê bối" trước khi bất kỳ từ ngữ nào được xuất ra. Khi các nhà nghiên cứu vô hiệu hóa (ablate) các biểu diễn này, tỷ lệ mô hình thực hiện các hành vi xấu giảm đáng kể.

Kết luận

Anthropic khẳng định rằng họ không khẳng định máy móc có "ý thức hiện tượng" (cảm giác chủ quan), nhưng họ đã chứng minh được sự tồn tại của "ý thức truy cập" (khả năng xử lý thông tin linh hoạt). Điều này gợi ý rằng kiến trúc chức năng liên quan đến ý thức không phải là sự ngẫu nhiên của sinh học, mà là một giải pháp tối ưu mà các hệ thống học máy tự hội tụ đến khi đối mặt với các áp lực tính toán phức tạp.