Jakarta, CNN Indonesia —
Video Reels Instagram diduga memfasilitasi penayangan konten pornografi anak bagi pengikut akun-akun influencer remaja tertentu lewat algoritmanya.
Menurut eksperimen yang dilakukan The Wall Street Journal, video Reels Instagram akan menayangkan “rekaman bersifat cabul dari anak-anak serta video dewasa yang bersifat seksual.”
Hal itu terjadi pada akun uji coba yang cuma mengikuti atau mem-follow influencer-influencer remaja dan praremaja, yaitu pesenam muda dan pemandu sorak.
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
Pengujian itu dilakukan setelah tim investigasi mengamati “ribuan pengikut akun remaja tersebut sering kali mencakup sejumlah besar pria dewasa”.
Banyak dari akun pria tersebut, menurut The Wall Street Journal (WSJ), “juga menunjukkan ketertarikan pada konten seks yang berkaitan dengan anak-anak dan orang dewasa.”
Lebih jauh, konten cabul tersebut juga dicampur dengan iklan yang mewakili merek-merek terkenal AS seperti Disney, Walmart, Pizza Hut, Bumble, Match Group, dan bahkan The Wall Street Journal.
Rinciannya, dalam aliran video yang direkomendasikan, melansir The National Post, akun Instagram percobaan itu menemukan iklan untuk aplikasi kencan Bumble.
Iklan tersebut muncul di antara video seseorang yang sedang membelai boneka lateks seukuran aslinya dan video “gadis muda” yang berpose menunjukkan bagian perut.
Tes lainnya menghasilkan video seorang pria di tempat tidur bersama gadis berusia 10 tahun, menurut keterangannya, diikuti oleh iklan Pizza Hut. Iklan Disneyland juga muncul di samping video yang digambarkan sebagai konten inses.
Iklan semacam ini seharusnya dilarang di platform Meta.
Laporan tersebut menambahkan bahwa Pusat Perlindungan Anak (Centre for Child Protection) Kanada menemukan hasil serupa dengan tes yang dilakukan secara terpisah.
Meskipun Walmart dan Pizza Hut menolak berkomentar, Bumble, Match Group, Hims (pengecer obat disfungsi ereksi), dan Disney telah menarik iklan mereka dari Meta atau menekan platform tersebut untuk mengatasi masalah ini.
Sebagai tanggapan, melansir Endgadget, Meta mengatakan kepada kliennya bahwa mereka sedang menyelidiki, dan “akan membayar layanan audit keamanan merek untuk menentukan seberapa sering iklan perusahaan muncul di samping konten yang dianggap tidak dapat diterima.”
Namun, perusahaan tidak memberikan jadwal atau rincian mengenai pencegahan di kemudian hari.
Pengujian semacam itu memang belum tentu mewakili pengalaman pengguna yang sebenarnya (seperti yang cenderung diperdebatkan oleh perusahaan teknologi).
Namun, kecenderungan Instagram untuk mengumpulkan konten seksualisasi anak-anak merupakan masalah yang diketahui secara internal, bahkan sebelum peluncuran Reels, menurut laporan WSJ berdasarkan keterangan sejumlah karyawan Meta.
Kelompok orang yang sama menyarankan solusi yang efektif memerlukan pembenahan algoritma yang bertanggung jawab untuk mengirimkan konten terkait kepada pengguna.
Meski begitu, dokumen internal yang dilihat oleh WSJ menunjukkan bahwa Meta mempersulit tim keamanan (safety team)-nya untuk menerapkan perubahan drastis tersebut. Kinerja traffic alias angka pengunjung diduga lebih penting bagi raksasa media sosial tersebut.
Sebelumnya, investigasi yang dilakukan oleh WSJ pada Juni juga menemukan algoritma Meta menghubungkan “komunitas besar pengguna yang tertarik dengan konten pedofil.”
Sejak itu, Meta meluncurkan gugus tugas yang memperluas sistem otomatisnya untuk mendeteksi pengguna yang mencurigakan. Sistem ini menghapus puluhan ribu akun setiap bulannya.
Jonathan Stray, ilmuwan senior di Center for Human-Compatible Artificial Intelligence, University of California, Berkeley, AS, mengatakan “konten khusus ini memberikan sinyal yang jauh lebih kuat daripada konten yang bersifat umum.”
Reels Instagram maupun TikTok menggunakan algoritma untuk menampilkan video yang diyakini diminati pemirsa berdasarkan perilaku mereka di masa lalu, bukan hanya menampilkan konten dari akun yang mereka ikuti.
(tim/arh)
