Instagram kết nối mạng lưới ấu dâm rộng lớn

Jeff Horwitz. Wall Street Journal. Ngày 7 tháng 6, 2023. Phần 2 của 2. Lê Quang Văn dịch, giải thích và thực hiện phần kỹ thuật số.

Các hệ thống thúc đẩy cộng đồng của đơn vị Meta đã hướng dẫn người dùng nội dung tình dục trẻ em; Công ty cho biết họ đang cải thiện kiểm soát nội bộ

Các tài khoản ấu dâm trên Instagram pha trộn sự trơ trẽn với những nỗ lực hời hợt để che giấu hoạt động của họ, các nhà nghiên cứu nhận thấy. Một số biểu tượng cảm xúc nhất định hoạt động như một loại mã, như hình ảnh của bản đồ — viết tắt của "người bị thu hút bởi trẻ vị thành niên" — hoặc một trong những "pizza phô mai", chia sẻ tên viết tắt của nó với "nội dung khiêu dâm trẻ em", theo Levine của UMass. Nhiều người tuyên bố mình là "người yêu thích những điều nhỏ nhặt trong cuộc sống".

Các tài khoản tự nhận mình là "người bán" hoặc "s3ller" và nhiều tài khoản nêu hình thức thanh toán ưa thích của họ trong tiểu sử của họ. Các tài khoản người bán này thường truyền đạt tuổi của đứa trẻ bằng cách nói rằng chúng "ở chương 14" hoặc "31 tuổi" theo sau là biểu tượng cảm xúc của mũi tên ngược.

Một số tài khoản mang dấu hiệu buôn bán tình dục, Levine của UMass nói, chẳng hạn như một tài khoản hiển thị một thiếu niên với từ WHORE nguệch ngoạc trên khuôn mặt của cô ấy.

Một số người dùng tuyên bố bán nội dung tình dục tự sản xuất nói rằng họ "vô danh" — chỉ cung cấp hình ảnh từ cổ trở xuống — vì những trải nghiệm trong quá khứ mà khách hàng đã theo dõi hoặc tống tiền họ. Những người khác chấp nhận rủi ro, tính phí bảo hiểm cho hình ảnh và video có thể tiết lộ danh tính của họ bằng cách hiển thị khuôn mặt của họ.

Nhiều tài khoản cho thấy người dùng có vết sẹo cắt ở bên trong cánh tay hoặc đùi của họ và một số trong số họ trích dẫn lạm dụng tình dục trong quá khứ.

Ngay cả việc liên hệ với một tài khoản trong cộng đồng ấu dâm của Instagram cũng có thể kích hoạt nền tảng bắt đầu đề xuất người dùng tham gia.

Sarah Adams, một bà mẹ hai con người Canada, đã xây dựng một lượng khán giả Instagram thảo luận về việc bóc lột trẻ em và sự nguy hiểm của việc chia sẻ quá mức trên phương tiện truyền thông xã hội. Với sự tập trung của bà, những người theo dõi Adams đôi khi gửi cho bà những điều đáng lo ngại mà họ đã gặp phải trên nền tảng. Vào tháng Hai, bà nói, một người đã nhắn tin bằng một tài khoản gắn nhãn hiệu với thuật ngữ "trẻ loạn luân".

Adams cho biết bà đã truy cập vào tài khoản - một bộ sưu tập các meme ủng hộ loạn luân với hơn 10.000 người theo dõi - chỉ trong vài giây để báo cáo lên Instagram, sau đó cố gắng quên nó đi. Nhưng trong vài ngày tiếp theo, bà bắt đầu nghe từ các bậc cha mẹ kinh hoàng. Khi họ xem hồ sơ Instagram của Adams, bà nói rằng họ đang được giới thiệu là "những đứa trẻ loạn luân" do liên hệ của Adams với tài khoản.

Người phát ngôn của Meta nói rằng "trẻ loạn luân" đã vi phạm các quy tắc của họ và Instagram đã sai lầm trong việc thực thi. Công ty cho biết họ có kế hoạch giải quyết các khuyến nghị không phù hợp như một phần của lực lượng đặc nhiệm an toàn trẻ em mới.

Như với hầu hết các nền tảng truyền thông xã hội, cốt lõi của các đề xuất của Instagram dựa trên các mẫu hành vi, không phải bằng cách kết hợp sở thích của người dùng với các chủ đề cụ thể. Cách tiếp cận này có hiệu quả trong việc tăng mức độ liên quan của các khuyến nghị và nó hoạt động đáng tin cậy nhất đối với các cộng đồng có chung một nhóm lợi ích hẹp.

Về lý thuyết, sự chặt chẽ tương tự của cộng đồng ấu dâm trên Instagram sẽ giúp Instagram dễ dàng vạch ra mạng lưới và thực hiện các bước để chống lại nó. Các tài liệu được Tạp chí xem xét trước đây cho thấy Meta đã thực hiện loại công việc này trong quá khứ để đàn áp các mạng tài khoản mà họ cho là có hại, như với các tài khoản thúc đẩy tính hợp pháp hóa bầu cử ở Mỹ sau cuộc bạo loạn Điện Capitol ngày 6 tháng 1.

Giống như các nền tảng khác, Instagram cho biết họ tranh thủ người dùng để giúp phát hiện các tài khoản vi phạm quy tắc. Nhưng những nỗ lực đó không phải lúc nào cũng hiệu