Bê bối thuật toán TikTok: Khi an toàn người dùng bị đánh đổi lấy số liệu tăng trưởng

Bài viết được dịch và tổng hợp từ tin tức gốc. Bạn có thể đọc bài viết gốc bằng tiếng Anh tại đây.

Điểm tin nhanh:

• TikTok đã giữ lại các bản vá an toàn khỏi 15 triệu người dùng Mỹ để đo lường tác động đến chỉ số gắn kết (stickiness).
• Một thanh thiếu niên nằm trong nhóm thử nghiệm đã tiếp cận nội dung độc hại về tự hại và sau đó qua đời.
• Các tài liệu nội bộ cho thấy việc bỏ qua các biện pháp bảo vệ này là một quyết định có chủ đích (by design) nhằm phục vụ mục tiêu thử nghiệm thuật toán.

Trong thế giới phát triển phần mềm, việc thực hiện A/B test để tối ưu hóa trải nghiệm người dùng là một quy trình tiêu chuẩn. Tuy nhiên, khi ranh giới giữa việc tối ưu hóa hiệu năng và đạo đức an toàn bị xóa nhòa, hậu quả để lại không chỉ là những dòng code lỗi mà là những bi kịch đời thực. Một tài liệu nội bộ vừa được công bố đã phơi bày cách TikTok cố tình giữ lại các bản vá an toàn khỏi 15 triệu người dùng Mỹ, biến họ thành những đối tượng trong một cuộc thử nghiệm mà cái giá phải trả là sự an nguy của chính họ.

Bản chất của thử nghiệm A/B tại TikTok

Vào năm 2021, TikTok đã triển khai một hệ thống thuật toán mới nhằm ngăn chặn việc người dùng bị ngập lụt trong các nội dung độc hại. Tuy nhiên, thay vì áp dụng đồng bộ, công ty đã giữ lại 10% người dùng Mỹ (khoảng 15 triệu người) ở phiên bản cũ. Mục đích của việc này là để so sánh xem liệu phiên bản an toàn hơn có làm giảm chỉ số stickiness (độ gắn kết) hay không. Đây là một chỉ số quan trọng mà các nhà đầu tư Phố Wall thường xuyên theo dõi để đánh giá tiềm năng tăng trưởng của một nền tảng.

Việc thực hiện các thử nghiệm kiểm soát quy mô lớn như vậy thường được xem là một phần của quy trình tối ưu hóa chiến lược kiểm thử trong ngành công nghệ. Tuy nhiên, khi đối tượng thử nghiệm là thanh thiếu niên và nội dung liên quan đến sức khỏe tâm thần, các tiêu chuẩn đạo đức cần phải được đặt lên hàng đầu.

Những con số biết nói về sự an toàn

Theo tài liệu được Bloomberg báo cáo, kết quả phân tích 7.563 video mà một nạn nhân 16 tuổi đã xem trong hai tuần cuối đời cho thấy một bức tranh đáng báo động:

Việc để các thuật toán tự vận hành mà thiếu đi sự kiểm soát chặt chẽ là một bài học đắt giá. Tương tự như cách các kỹ sư cần kiểm chứng mã nguồn SDK do AI tạo ra, các nền tảng mạng xã hội cũng cần có cơ chế kiểm soát nội dung đầu ra nghiêm ngặt hơn thay vì chỉ chạy theo các chỉ số tăng trưởng.

Tại sao từ khóa by design lại gây tranh cãi

Trong các vụ kiện pháp lý, cụm từ by design (theo thiết kế) mang sức nặng rất lớn. Nó ám chỉ rằng việc không áp dụng bản vá an toàn không phải là một sự cố kỹ thuật ngẫu nhiên, mà là một quyết định có chủ đích. Điều này đặt ra câu hỏi lớn về trách nhiệm của các công ty công nghệ khi rào cản pháp lý đẩy nhà đầu tư vào vòng xoáy rủi ro.

Lưu ý: Việc lạm dụng các thử nghiệm trên người dùng thực tế mà không có sự đồng ý rõ ràng về rủi ro có thể dẫn đến những hệ lụy pháp lý nghiêm trọng và làm xói mòn niềm tin của cộng đồng vào hệ thống kỹ thuật của doanh nghiệp.

Đánh giá & Lời khuyên Thực tiễn

Từ góc nhìn của một kỹ sư cấp cao, việc thực hiện các thử nghiệm trên môi trường production là cần thiết để cải thiện sản phẩm. Tuy nhiên, cần lưu ý:

• Ưu điểm: Giúp đo lường chính xác tác động của thuật toán mới đối với hành vi người dùng.
• Nhược điểm: Rủi ro đạo đức cực kỳ cao khi thử nghiệm liên quan đến nội dung nhạy cảm.
• Phạm vi ứng dụng: Chỉ nên áp dụng thử nghiệm trên các tính năng không gây hại trực tiếp đến sức khỏe tâm thần hoặc an toàn cá nhân.
• Lưu ý kỹ thuật: Cần có cơ chế Kill Switch để dừng ngay lập tức các thử nghiệm nếu phát hiện chỉ số an toàn vượt ngưỡng cho phép. Hãy luôn nhớ rằng khi AI tự hành vượt tầm kiểm soát, hậu quả sẽ rất khó lường.

Câu hỏi thường gặp (FAQ)

Tại sao TikTok lại giữ lại bản vá an toàn cho người dùng?

Để đo lường tác động của bản vá đối với chỉ số gắn kết (stickiness) của người dùng, từ đó tối ưu hóa thuật toán tăng trưởng.

Việc thử nghiệm A/B này có vi phạm quy tắc đạo đức không?

Các chuyên gia và dư luận cho rằng việc thử nghiệm trên nội dung độc hại đối với thanh thiếu niên là vi phạm nghiêm trọng đạo đức nghề nghiệp và trách nhiệm xã hội.

Công ty công nghệ nên làm gì để tránh sự cố này?

Cần thiết lập các bộ lọc an toàn cứng (hard-coded safety filters) không thể bị vô hiệu hóa bởi bất kỳ thử nghiệm thuật toán nào.

Kết luận

Câu chuyện của TikTok là một lời cảnh tỉnh cho toàn bộ cộng đồng công nghệ về trách nhiệm của người làm kỹ thuật. Dù mục tiêu là tối ưu hóa sản phẩm hay tăng trưởng doanh thu, an toàn người dùng phải luôn là ưu tiên hàng đầu. Hãy theo dõi hi_dev để cập nhật những tin tức công nghệ mới nhất và cùng thảo luận về cách xây dựng những sản phẩm có đạo đức hơn trong tương lai.