Mengejar Transparansi Moderasi Platform Media Sosial

Sejumlah pengguna media sosial merasa ada yang janggal ketika unggahan mereka tentang kebakaran hutan dan lahan (karhutla) tak lagi menjangkau banyak orang. Kontennya memang tidak hilang atau dihapus, tetapi jangkauannya terasa menyusut. 

Kecurigaan bahwa akun atau unggahan mereka terkena shadowban pun muncul. Dugaan itu semakin ramai dipertanyakan setelah beredar tangkapan layar percakapan Meta AI yang menyebut Kementerian Komunikasi dan Digital (Komdigi) meminta pembatasan konten karhutla.

Pendiri Drone Emprit, Ismail Fahmi menjelaskan, algoritma media sosial pada dasarnya bekerja dengan memprediksi konten yang kemungkinan besar menarik perhatian pengguna. Setiap kali seseorang membuka aplikasi, sistem harus memilih dari ribuan konten yang berpotensi ditampilkan. 

Prediksi itu dibangun dari berbagai sinyal, seperti kemungkinan pengguna menonton sampai selesai, menyukai, menyimpan, atau membagikan sebuah unggahan. “Gampangnya, algoritma itu kerjanya menebak,” kata Ismail.

Masalahnya, menurut Ismail, konten yang tidak melanggar aturan pun belum tentu memperoleh distribusi luas. Ia menjelaskan, ada konten yang tetap tersedia di akun pengunggah, tetapi tidak banyak direkomendasikan kepada orang yang belum mengikuti akun tersebut. 

Praktik pembatasan jangkauan semacam ini kerap disebut masyarakat sebagai shadowban. Namun, jangkauan yang rendah tidak otomatis membuktikan adanya shadowban, apalagi intervensi pemerintah. 

Performa sebuah unggahan dapat dipengaruhi banyak faktor. Mulai dari, respon pengguna, sistem rekomendasi, kebijakan platform, hingga pengaturan distribusi konten. Untuk memastikan apakah pembatasan benar-benar terjadi, diperlukan bukti yang dapat membedakan penurunan jangkauan biasa dari tindakan moderasi atau pembatasan yang disengaja.

Membaca Bagaimana Algoritma Bekerja

Menurut Ismail, durasi menonton merupakan salah satu sinyal penting dalam sistem rekomendasi, disusul tindakan pengguna seperti membagikan dan menyimpan konten. Respons awal juga dapat memengaruhi distribusi berikutnya, yakni konten yang memperoleh respons baik dari kelompok pengguna awal berpeluang menjangkau audiens yang lebih luas.

Selain itu, ia menyoroti kebijakan platform terhadap konten politik. Instagram dan Threads, misalnya, memiliki pengaturan yang membatasi rekomendasi konten politik kepada pengguna yang tidak mengikuti akun pengunggahnya. Kebijakan tersebut dapat memengaruhi jangkauan pembahasan kebijakan publik, demonstrasi, dan isu politik lainnya, meskipun konten yang diunggah tidak melanggar aturan.

Bagi Ismail, persoalan lain muncul ketika sistem otomatis mencoba membedakan percakapan organik dari aktivitas bot. Mesin membaca pola perilaku, bukan memahami niat seseorang secara langsung. Pola yang diperiksa dapat mencakup usia akun, frekuensi unggahan, kesamaan teks, waktu publikasi, dan hubungan aktivitas antar akun.

Dalam situasi tertentu, pola tersebut berisiko menghasilkan kesimpulan keliru. Ketika terjadi bencana atau peristiwa besar, warga yang sungguh-sungguh ingin menyebarkan informasi dapat menggunakan tagar serupa, meneruskan pesan yang sama, atau mengunggah konten pada waktu berdekatan. 

Aktivitas mereka bisa terlihat menyerupai perilaku terkoordinasi yang biasa dikaitkan dengan bot atau spam. Konteks visual pun menjadi tantangan. 

Dokumentasi karhutla yang menampilkan api, asap, petugas, atau kerumunan warga perlu dibaca sesuai konteksnya. Apabila sistem salah mengklasifikasikan gambar atau video tersebut sebagai konten yang melanggar aturan, informasi yang penting bagi keselamatan masyarakat berpotensi ikut terdampak.

Meski demikian, kemungkinan kesalahan klasifikasi bukan bukti bahwa itulah yang terjadi pada unggahan karhutla di Indonesia. Ismail menekankan, publik belum mengetahui seberapa sering kesalahan semacam itu terjadi dalam isu-isu publik. 

Karena itu, mekanisme banding yang jelas dan transparansi platform menjadi penting agar pengguna dapat mengetahui alasan pembatasan sekaligus meminta peninjauan.

Risiko Halusinasi AI

Ketidakpastian semakin rumit ketika Meta AI ikut menjadi sumber informasi mengenai dugaan pembatasan tersebut. Tangkapan layar percakapan yang beredar menyebut Komdigi meminta pembatasan konten karhutla. 

Namun, Menteri Komunikasi dan Digital Meutya Hafid sebelumnya membantah bahwa pemerintah meminta penghapusan atau pembatasan penyebaran informasi karhutla.

Ketua Program Studi Doktor Ilmu Komunikasi Fakultas Ilmu Komunikasi Universitas Padjadjaran, Kunto Adi Wibowo, mengingatkan bahwa jawaban AI generatif tidak dapat diperlakukan sebagai pernyataan resmi perusahaan yang mengembangkannya. 

Jawaban tersebut juga tidak cukup menjadi dasar untuk menyimpulkan bahwa suatu institusi telah melakukan intervensi. “Meta AI bukan sumber kebenaran yang mutlak dan jawabannya bukan pernyataan resmi dari Meta. Teknologi AI generatif masih memiliki keterbatasan dan sangat mungkin menghasilkan informasi yang keliru,” ujar Kunto.

Ia menyoroti besarnya risiko AI hallucination, yakni ketika sistem AI menghasilkan jawaban yang terdengar meyakinkan, tetapi tidak memiliki dukungan fakta yang memadai. Dalam kasus yang menyangkut dugaan intervensi pemerintah, kekeliruan semacam itu dapat membentuk opini publik dan memicu tuduhan serius sebelum bukti yang dapat diverifikasi tersedia.

Karena itu, Kunto menilai informasi mengenai permintaan pembatasan konten harus diuji melalui dokumen, dasar hukum, atau bukti lain yang relevan. 

Pernyataan pemerintah maupun informasi yang beredar melalui produk teknologi sama-sama perlu diperiksa, bukan diterima begitu saja. Persoalannya, ketika AI memberikan jawaban yang keliru, pengguna bisa kesulitan mengetahui dari mana klaim tersebut berasal dan bagaimana memverifikasinya. 

Transparansi Jadi Kunci

Dugaan pembatasan konten karhutla pada akhirnya memperlihatkan persoalan yang lebih luas dalam ekosistem informasi digital. Platform tidak hanya menjadi tempat masyarakat menerbitkan informasi, tetapi juga mengendalikan bagaimana informasi tersebut didistribusikan melalui sistem rekomendasi dan moderasi. 

Sementara itu, produk AI milik perusahaan yang sama dapat ikut membentuk pemahaman publik mengenai peristiwa yang sedang diperdebatkan. Ismail dari Drone Emprit menekankan, pentingnya transparansi dan mekanisme banding agar warga yang menyampaikan informasi atau kritik tidak ikut terkena dampak sistem yang dirancang untuk menangani bot dan spam. 

Sementara itu, Kunto dari Universitas Padjadjaran mengingatkan, perusahaan teknologi harus bertanggung jawab ketika produk dan kebijakannya memengaruhi akses publik terhadap informasi. “Tuntutan transparansi bukan berarti setiap penurunan jangkauan harus dianggap sebagai pembungkaman, atau setiap jawaban AI yang keliru menjadi bukti adanya kesengajaan,” ujarnya. 

Kunto mengungkapkan, pentingnya publik untuk mengetahui apakah informasi mereka dibatasi, mengapa pembatasan dilakukan, dan bagaimana keputusan tersebut dapat dikoreksi.