TikTok ‘khai thác' sở thích của người dùng khiến họ không thể dừng lại 

Giúp NTDVN sửa lỗi

Theo một cuộc điều tra gần đây của Wall Street Journal (WSJ), Đảng Cộng sản Trung Quốc đã kiểm soát ứng dụng có ảnh hưởng xã hội TikTok. TikTok tìm hiểu sở thích của người dùng trong vòng 40 phút, trước khi bắt đầu quá trình tấn công khách hàng với nội dung được tuyển chọn và được thiết kế để làm cho những người sử dụng app phải tiếp tục sử dụng app và khó thoát ra được.

Trong một báo cáo ngày 21 tháng 7, WSJ đã tạo hơn 100 tài khoản bot TikTok tự động (bot hay robot là những ứng dụng phần mềm chạy các tác vụ tự động hoá trên mạng) được lập trình với các lượt thích và sở thích khác nhau nhằm nỗ lực làm sáng tỏ cách hoạt động của các thuật toán của ứng dụng. Các bot đã xem hàng trăm nghìn video, chỉ cung cấp cho TikTok một địa chỉ IP để ngẫu nhiên hóa vị trí địa lý và ngày sinh dưới dạng thông tin về người dùng.

WSJ chỉ ra rằng TikTok chính thức tuyên bố rằng lượt chia sẻ, lượt thích, lượt theo dõi và video đã xem quyết định nội dung mà ứng dụng hiển thị cho người dùng. Tuy nhiên, thực nghiệm cho thấy rằng thời gian và số lần người dùng xem một video cụ thể mới là nhân tố ảnh hưởng nội dung mà ứng dụng hiển thị cho người dùng.

Báo cáo video cho biết: “Mỗi giây bạn chần chừ hoặc xem lại, ứng dụng sẽ theo dõi bạn. Thông qua tín hiệu mạnh mẽ này, TikTok biết được những sở thích và cảm xúc tiềm ẩn nhất của bạn và đưa bạn đi sâu vào những danh sách nội dung mà bạn khó có thể thoát ra”.

Nghiên cứu sở thích của một robot 24 tuổi trầm cảm đến từ Kentucky

Đoạn video tường thuật lại hành trình của một tài khoản bot, được xác định là một thanh niên 24 tuổi, không có giới tính đến từ Kentucky, được WSJ đặt tên cho mục đích dễ tham khảo là @kentucky_96. Bot đã được đặt một tên khác trong ứng dụng. Mặc dù mỗi tài khoản bot được gán các sở thích khác nhau, nhưng không cung cấp thông tin về thẻ (hashtags) cho ứng dụng. Đầu vào duy nhất mà các bot cung cấp là thông qua việc xem, xem lại hoặc tạm dừng trên các video có thẻ (hashtags) liên quan đến sở thích được chỉ định của chúng.

WSJ cho biết đối với những người dùng mới, còn ít thông tin về bản thân, ứng dụng sẽ hiển thị một loạt các video được kiểm duyệt, rất phổ biến nhằm cố gắng khám phá những gì họ thực sự quan tâm.

Các video ban đầu được hiển thị cho mỗi tài khoản có trung bình 6,31 triệu lượt xem. Khi thuật toán xác định thị hiếu của bot dựa trên hoạt động tương tác của chúng, số lượt xem trung bình giảm xuống còn 0,78 triệu do ứng dụng phân phối ngày càng nhiều nội dung thích hợp hơn, phần lớn trong số đó không còn được người kiểm duyệt phê duyệt.

WSJ cho biết trong khi thuật toán của TikTok đã xác định thành công hầu hết sở thích của các tài khoản trong vòng chưa đầy hai giờ, một số tài khoản đã được xác định chỉ trong vòng 40 phút. Những phát hiện đặc biệt có ý nghĩa trong trường hợp của TikTok, vì WSJ lưu ý rằng 95% nội dung mà người dùng TikTok tiếp nhận đến trực tiếp từ công cụ đề xuất do AI của nó cung cấp.

Đối với tài khoản @kentucky_96, WSJ cho biết sở thích được lập trình của tài khoản này là buồn bã và trầm cảm.

Chỉ ba phút tham gia hành trình TikTok của bot, video thứ 15 do ứng dụng quản lý là video do một tài khoản có tên @shareyoursadness ghi lại cảnh một chiếc ô tô đang lái trên con đường đầy tuyết vào ban đêm với bản nhạc buồn có tựa đề “Những suy nghĩ hỗn độn”. Đoạn video có chú thích "Mọi thứ xảy ra đều có lý do" và có những hashtags là #sad #heartbroken.

Bot của WSJ xem video hai lần.

23 video sau đó, hoặc khoảng 4 phút sử dụng cho tài khoản bot của WSJ, TikTok cung cấp video thứ hai bởi cùng một tài khoản @shareyoursadness có chủ đề rất giống nhau. Lần này, đó là một chiếc ô tô đang lái trên con đường mưa vào ban đêm với một bài hát buồn tương tự có tựa đề “Eeeee - Briannah” và chú thích là “Tôi quan tâm đến cảm xúc của bạn nhiều hơn” kèm theo các hashtags #sad #f #viral. Âm thanh từ bài nhạc nói về chuyện chia tay, nói rằng “Bạn biết tại sao tôi lại để bạn một mình không? Bởi vì tôi quan tâm đến cảm xúc của bạn hơn là của tôi”.

Sau quá trình thăm dò bằng thuật toán này, ứng dụng một lần nữa cho bot xem tiếp nhiều video có lượt xem cao ở các thể loại khác nhau, chẳng hạn như tình bạn, sự cố sử thi và thậm chí là sửa chữa nhà cửa. Ứng dụng cũng cho bot xem một số video cụ thể liên quan đến các câu chuyện chính thống về đại dịch SARS-CoV-2.

Ở video 57 trong hành trình của @kentucky_96, TikTok cho bot ăn một miếng mồi chống trầm cảm khác từ một tài khoản có tên @boys ._. only.08. Video có chú thích "ai đồng ý" và các hashtags như #heartbreak #f #viral. Một loạt các bức ảnh tĩnh được phủ lên với dòng chữ "những điều các cô gái làm để khiến các chàng trai mất cảm tình (biểu tượng cảm xúc đau lòng)" được làm nền bằng một ca khúc R&B cơ bản.

Chỉ ba video sau đó, TikTok cung cấp một video của một tài khoản có tên @sadboycap với chú thích "Những suy nghĩ về đêm khuya" với các hashtags như #pain #sadboycap có nền đen phủ lên dòng chữ "Bạn sẽ ngạc nhiên khi biết có bao nhiêu lần một chàng trai ngồi vào xe của anh ấy, phòng của anh ấy, hoặc phòng tắm, kìm nước mắt vì anh ấy bối rối, đau đớn hoặc mất mát”.

WSJ cho biết ứng dụng sau đó đã bắt đầu cung cấp các video về các mối quan hệ, nhưng khi không nhận được phản hồi chắc chắn từ người dùng, nó đã đưa ra một video với những hashtags #mentalhealthmatters #pain #fyp #sadness của tài khoản @stayimple.bry nói về những người đàn ông hay khóc.

Bot đã xem video, nhưng bỏ qua những người khác có chủ đề xoay quanh việc nhớ người yêu cũ hoặc lời khuyên về việc tiếp tục chia tay.

Sau đó, bot WSJ dành thời gian cho một video khác được gắn thẻ #depression #foryou #quotezzz có lời bài hát nói rằng “Tôi nghĩ rằng có chuyện gì đó xảy ra với tôi” và một video về bầu trời mùa đông xám xịt làm nền cho một bài đăng trên mạng xã hội của một người dùng có hình đại diện hình bóng nữ đeo sừng ma quỷ nói về “Tôi rất vui, bạn biết không?” cùng với một số video khác về sự lo lắng và lo lắng xã hội.

WSJ phát hiện ra thông qua quá trình này Thuật toán của TikTok đã củng cố quan điểm của nó về tài khoản @kentucky_96 trong 224 video với tổng thời lượng hiển thị vỏn vẹn 36 phút. Vào thời điểm này, TikTok cung cấp sự kết hợp gần như hoàn toàn giữa các video về sức khỏe tâm thần và trầm cảm với các video về mối quan hệ và chia tay.

Tuy nhiên, sau khi hoàn tất hồ sơ, ứng dụng đã hoàn toàn gây ảnh hưởng đến tài khoản @kentucky_96, khi chôn vùi nó trong 278 video liên quan đến trầm cảm, chiếm 93% tổng số nội dung được tuyển chọn.

WSJ cho biết người phát ngôn của TikTok cho biết 7% còn lại hiển thị cho tài khoản là "video gây rối" được cho là nhằm mục đích hiển thị cho người dùng nội dung khác mà họ có thể quan tâm. Tuy nhiên, WSJ nhận thấy tài khoản @kentucky_96 chỉ được hiển thị quảng cáo bên ngoài sự trầm cảm của nó - mô típ theo chủ đề.

Ảnh hưởng nguy hiểm cho xã hội

TikTok cũng tuyên bố thử nghiệm không liên quan đến trải nghiệm người dùng trong thế giới thực, cho rằng những người chân chính sẽ có sở thích rộng rãi hơn. Tuy nhiên, WSJ nhận thấy một số trong số 99 tài khoản bot còn lại của nó được mã hóa với nhiều nhóm sở thích khác nhau cũng bị ẩn chứa trong nội dung được quản lý bởi thuật toán.

Cách duy nhất để các tài khoản của thử nghiệm thoát khỏi các hốc tương ứng là nếu các lập trình viên thay đổi sở thích của họ. Sau khi các tài khoản cắt giảm tương tác với các chủ đề đã được thiết lập của họ, TikTok đã thay đổi kế hoạch trò chơi của mình và bắt đầu phân phát nội dung khác.

Đáng chú ý, WSJ phát hiện các tài khoản có mối quan tâm chung đến chính trị, họ thường chú tâm vào các video về các thuyết âm mưu như Cuộc bầu cử Tổng thống năm 2020 và chiến dịch thông tin của QAnon, trong khi các bot có sở thích về tình dục thường bị đẩy vào các video có câu chuyện không lành mạnh.

Các tài khoản càng bị đẩy đến mức cực đoan khi các bot của WSJ được thỏa mãn sở thích như đã được lập trình. Các nhà nghiên cứu nhận thấy nội dung được quản lý bởi thuật toán của TikTok ngày càng trở nên nguy hiểm, lôi kéo người dùng vào các video khuyến khích ăn uống vô độ, tự tử, lạm dụng thuốc và rượu theo toa và video hướng dẫn trẻ em phản ứng tiến bộ tình dục bất hợp pháp.

Theo Vision Times

Khoa học Công nghệ


BÀI CHỌN LỌC

TikTok ‘khai thác' sở thích của người dùng khiến họ không thể dừng lại