Tantangan Meta Moderasi Konten & Perlindungan Pengguna Muda

eTamu.id – Meta kini menghadapi tantangan baru terkait dugaan kegagalan dalam moderasi konten dan keamanan pengguna. Pelaporan eksternal memperlihatkan perbedaan signifikan antara data internal Meta dengan pengalaman pengguna terkait konten berbahaya.

Meskipun X telah menjadi fokus perhatian karena dugaan kegagalan moderasi kontennya belakangan ini, Meta juga menghadapi pertanyaan sendiri tentang bagaimana sistemnya menjaga pengguna, terutama para pemuda, serta akurasi pelaporan eksternalnya terkait hal tersebut.

Menurut keluhan yang baru saja diungkapkan terhadap perusahaan, yang diajukan atas nama 33 negara bagian, Meta telah berulang kali salah menggambarkan kinerja tim moderasinya melalui Laporan Penegakan Standar Komunitasnya, yang menurut temuan baru tidak mencerminkan data internal Meta sendiri tentang pelanggaran.

Seperti yang dilaporkan oleh Business Insider:

“Laporan Penegakan Standar Komunitas [Meta] memuji tingkat rendah pelanggaran standar komunitas di platformnya, tetapi mengesampingkan data kunci dari survei pengalaman pengguna yang menunjukkan tingkat pengalaman pengguna dengan konten berbahaya yang jauh lebih tinggi. Sebagai contoh, Meta mengatakan bahwa dari setiap 10.000 tampilan konten di platformnya, hanya ada 10 atau 11 yang mengandung ujaran kebencian. Tetapi keluhan tersebut mengatakan bahwa survei pengguna internal dari Meta, yang dikenal sebagai Tracking Reach of Integrity Problems Survey, melaporkan rata-rata 19,3% pengguna di Instagram dan 17,6% pengguna di Facebook melaporkan menyaksikan ujaran kebencian atau diskriminasi di platform-platform tersebut.”

Dalam hal ini, Meta tampaknya menggunakan hukum rata-rata untuk meredakan insiden semacam itu, dengan mengambil jumlah laporan yang lebih sedikit dan membaginya dengan basis pengguna yang sangat besar. Namun, umpan balik pengguna aktual menunjukkan bahwa paparan semacam itu jauh lebih tinggi, jadi sementara data lebih luas menunjukkan tingkat yang sangat rendah, pengalaman pengguna, jelas, berbeda.

Keluhan tersebut menyatakan bahwa Meta mengetahui hal ini, namun mempresentasikan statistik alternatif tersebut secara publik sebagai cara untuk mengurangi pengawasan, dan memberikan rasa aman palsu dalam aplikasinya dan pendekatan keamanan penggunaannya.

Dalam elemen keluhan yang mungkin lebih mengkhawatirkan dari keluhan yang sama, Meta juga dilaporkan menerima lebih dari 1,1 juta laporan pengguna di bawah usia 13 tahun yang mengakses Instagram sejak awal 2019, namun hanya menonaktifkan “hanya sebagian kecil dari akun-akun tersebut”.

Tuduhan ini telah diajukan sebagai bagian dari gugatan federal yang diajukan bulan lalu di Pengadilan Distrik AS untuk Distrik Utara California. Jika Meta terbukti melanggar hukum privasi sebagai hasil dari klaim-klaim ini, perusahaan tersebut bisa menghadapi denda besar, dan menjadi lebih terawasi terkait langkah-langkah perlindungan dan moderasinya, terutama terkait akses pengguna muda.

Tergantung pada hasilnya, itu bisa memiliki dampak besar bagi bisnis Meta, sementara juga bisa menghasilkan wawasan yang lebih akurat terkait tingkat paparan dan potensi kerusakan dalam aplikasi Meta.

Sebagai respons, Meta mengatakan bahwa keluhan tersebut menyesatkan pekerjaannya dengan “menggunakan kutipan-kutipan yang selektif dan dokumen-dokumen yang dipilih secara selektif”.

Ini adalah tantangan lain bagi tim Meta, yang bisa mengarahkan sorotan kembali pada Zuck dan Co., terkait moderasi yang efektif dan paparan, sementara juga bisa mengarah pada penerapan regulasi yang lebih ketat terkait pengguna muda dan akses data.

Hal tersebut, pada akhirnya, bisa membawa AS lebih sejalan dengan aturan Eropa yang lebih restriktif.

Di Eropa, Digital Services Act (D.S.A.) baru mencakup sejumlah ketentuan yang dirancang untuk melindungi pengguna muda, termasuk larangan mengumpulkan data pribadi untuk tujuan periklanan. Pembatasan serupa bisa dihasilkan dari dorongan baru AS ini, meskipun masih perlu dilihat apakah keluhan tersebut akan berlanjut, dan bagaimana Meta akan mencoba menanggapi hal tersebut.

Meskipun begitu, bukanlah suatu kejutan bahwa begitu banyak pemuda mengakses Instagram dalam tingkat yang tinggi.

Tahun lalu, sebuah laporan dari Common Sense Media menemukan bahwa 38% anak usia 8 hingga 12 tahun menggunakan media sosial setiap hari, sebuah angka yang terus meningkat dari waktu ke waktu. Dan meskipun Meta telah berupaya untuk menerapkan deteksi usia yang lebih baik dan langkah-langkah keamanan, banyak anak masih mengakses versi dewasa dari setiap aplikasi, dengan hanya menggunakan tahun kelahiran yang berbeda dalam banyak kasus.

Tentu saja, juga merupakan tanggung jawab orangtua untuk memantau waktu layar anak mereka, dan memastikan bahwa mereka tidak masuk ke aplikasi yang seharusnya tidak mereka masuki. Tetapi jika investigasi memang menunjukkan bahwa Meta dengan sengaja membiarkan hal tersebut terjadi, itu bisa mengakibatkan sejumlah komplikasi baru, baik bagi Meta maupun sektor media sosial secara lebih luas.

Akan menarik untuk melihat ke mana keluhan ini akan mengarahkan, dan wawasan lebih lanjut apa yang akan kita dapatkan tentang pelaporan dan langkah-langkah perlindungan Meta sebagai hasilnya dan tantangan berikutnya.

Baca juga: