Mira Murati tái xuất: Thinking Machines ra mắt Inkling, mô hình AI mã nguồn mở mạnh mẽ thách thức OpenAI

Bài viết được dịch và tổng hợp từ tin tức gốc. Bạn có thể đọc bài viết gốc bằng tiếng Anh tại đây.

Điểm tin nhanh:

• Thinking Machines Lab, startup do cựu CTO OpenAI Mira Murati sáng lập, đã phát hành Inkling - mô hình AI 975 tỷ tham số.
• Inkling là mô hình mã nguồn mở (open weights) lớn nhất của Mỹ, sử dụng kiến trúc Mixture of Experts (MoE) với giấy phép Apache 2.0.
• Mô hình hỗ trợ context window lên tới 1 triệu token và được tối ưu hóa cho các tác vụ suy luận (reasoning) phức tạp.

Trong khi các ông lớn như OpenAI hay Anthropic ngày càng khép kín các mô hình frontier của mình sau bức tường rào bảo mật, cộng đồng lập trình viên đang khao khát một giải pháp thực sự cởi mở và mạnh mẽ. Sự xuất hiện của Thinking Machines Lab không chỉ là một tin tức công nghệ đơn thuần; đó là một lời thách thức trực diện vào triết lý đóng cửa của các tập đoàn AI hiện nay. Với việc phát hành Inkling, Mira Murati đang thực hiện đúng những gì mà cộng đồng open source mong đợi: trao quyền kiểm soát thực sự cho người dùng.

Kiến trúc và thông số kỹ thuật của Inkling

Inkling không phải là một mô hình nhỏ gọn. Với 975 tỷ tham số, đây là một con quái vật về mặt tính toán. Để vận hành mô hình ở độ chính xác 16-bit, hệ thống yêu cầu hơn 2 terabytes VRAM. Điều này tương đương với sức mạnh của khoảng 8 card Nvidia B300 hoặc 16 card H200.

Để giúp các lập trình viên dễ tiếp cận hơn, Thinking Machines đã cung cấp phiên bản NVFP4 quantized, cho phép chạy trên hạ tầng phần cứng khiêm tốn hơn. Dưới đây là bảng so sánh các thông số kỹ thuật chính của Inkling:

Sức mạnh từ kiến trúc Mixture of Experts (MoE)

Inkling sử dụng kiến trúc MoE với 256 chuyên gia (routed experts) và 2 chuyên gia dùng chung (shared experts). Mỗi token được xử lý bởi 6 chuyên gia cùng lúc. Cách tiếp cận này giúp mô hình duy trì tốc độ sinh token ấn tượng, tương đương với các mô hình như DeepSeek V4, dù tổng quy mô tham số rất lớn. Việc hiểu rõ cách tối ưu hóa các mô hình này là cực kỳ quan trọng, tương tự như cách chúng ta tối ưu hóa quy trình kiểm thử tự động với bộ công cụ Playwright tùy chỉnh cho Coding Agent để đạt hiệu năng cao nhất.

Mẹo hay: Nếu bạn đang gặp khó khăn trong việc quản lý tài nguyên khi chạy các mô hình lớn, hãy tham khảo các giải pháp quản lý Resource Lock cho AI Agent trong môi trường Production để đảm bảo hệ thống không bị treo do thiếu hụt VRAM.

Khả năng suy luận và hệ sinh thái hỗ trợ

Inkling được định vị là một reasoning model, sử dụng kỹ thuật học tăng cường (RL) để thực hiện chain-of-thought trước khi đưa ra phản hồi. Điều này giúp giảm thiểu đáng kể tình trạng hallucination (ảo giác AI). Tuy nhiên, người dùng cần lưu ý rằng việc sử dụng các token suy luận sẽ làm tăng chi phí vận hành, tương tự như việc giải mã chi phí vận hành LLM trong môi trường Production mà chúng ta từng phân tích.

Bên cạnh đó, Thinking Machines cung cấp nền tảng Tinker để hỗ trợ fine-tuning. Nếu bạn đang tìm kiếm các giải pháp thay thế cho các API gateway truyền thống, việc tích hợp Inkling vào hệ thống của bạn sẽ trở nên dễ dàng hơn thông qua các công cụ so sánh các giải pháp AI Gateway thay thế OpenRouter cho hệ thống Production năm 2026.

Đánh giá & Lời khuyên Thực tiễn

Từ góc nhìn của một kỹ sư, Inkling là một bước tiến lớn cho hệ sinh thái mã nguồn mở.

• Ưu điểm: Giấy phép Apache 2.0 cực kỳ cởi mở, khả năng suy luận vượt trội, kiến trúc MoE tối ưu hóa tốc độ.
• Nhược điểm: Yêu cầu phần cứng cực cao, chi phí vận hành cho các token suy luận cần được quản lý chặt chẽ.
• Phạm vi ứng dụng: Phù hợp cho các doanh nghiệp cần xây dựng mô hình AI tùy chỉnh sâu, các ứng dụng yêu cầu độ bảo mật cao và không muốn phụ thuộc vào API của bên thứ ba.

Lưu ý: Trước khi triển khai Inkling vào môi trường production, hãy đảm bảo bạn đã có chiến lược bảo mật AI Agent và kiểm soát quy trình Spawn Plan để tránh các lỗ hổng bảo mật tiềm ẩn.

Câu hỏi thường gặp (FAQ)

Inkling có thực sự miễn phí để sử dụng thương mại?

Có, Inkling được phát hành dưới giấy phép Apache 2.0, cho phép bạn sử dụng, sửa đổi và triển khai thương mại mà không cần trả phí bản quyền cho Thinking Machines.

Tôi có thể chạy Inkling trên máy tính cá nhân không?

Với 975 tỷ tham số, bạn cần một cụm GPU chuyên dụng. Tuy nhiên, phiên bản Inkling-Small với 276 tỷ tham số có thể là lựa chọn khả thi hơn cho các máy chủ có cấu hình vừa phải.

Làm thế nào để fine-tune Inkling cho dữ liệu riêng?

Bạn có thể sử dụng nền tảng Tinker của Thinking Machines hoặc các thư viện inference phổ biến như vLLM và Llama.cpp để thực hiện fine-tuning trên hạ tầng của riêng mình.

Kết luận

Sự ra đời của Inkling đánh dấu một cột mốc quan trọng trong cuộc đua AI, nơi mà sự cởi mở bắt đầu chiếm ưu thế trước sự độc quyền. Đối với các lập trình viên, đây là cơ hội để làm chủ công nghệ thay vì chỉ là người tiêu dùng cuối. Hãy bắt đầu khám phá Inkling ngay hôm nay và đừng quên theo dõi hi_dev để cập nhật những xu hướng công nghệ mới nhất. Bạn nghĩ sao về mô hình này? Hãy để lại bình luận thảo luận bên dưới!