Komdigi tengah menggodok Peraturan Menteri mengenai pelabelan konten yang dihasilkan AI, termasuk penanda untuk membantu masyarakat menelusuri asal-usul konten digital.
PADA suatu malam saat sedang scrolling Instagram Reels, perhatian Meli Meilani (28) tersita oleh sebuah video pendek. Dalam video itu, tampak seekor kucing dengan sigap menyelamatkan anak anjing yang terjebak di saluran air.
Visualnya terlihat realistis. Cipratan air, pergerakan bulu yang basah, hingga ekspresi kedua hewan itu tampak emosional dan nyata. Meli yang menyukai anak bulu (anabul) tersentuh dan ingin membagikan video menggemaskan itu ke teman dekatnya.
Namun, langkahnya terhenti saat membaca kolom komentar. Sejumlah warganet mengingatkan bahwa video aksi tolong-menolong antarhewan itu hanyalah hasil rekayasa kecerdasan artifisial (artificial intelligence/AI).
Pengalaman yang dialami Meli kini semakin marak menimpa warganet di Indonesia. Konten-konten sintetis berformat gambar maupun video kian nyata dan makin sulit dibedakan dari kejadian riil.
Makin banjirnya konten AI yang sulit dikenali dan menimbulkan berbagai risiko. Hal ini mendorong Kementerian Komunikasi dan Digital (Komdigi) menggodok Peraturan Menteri mengenai pelabelan konten yang dihasilkan AI, termasuk penanda untuk membantu masyarakat menelusuri asal-usul konten digital.
Wakil Menteri Komdigi, Nezar Patria, menjelaskan bahwa perkembangan AI memungkinkan pembuatan konten sintetis yang sangat menyerupai kenyataan. Hal ini meningkatkan risiko penyalahgunaan teknologi untuk kejahatan dan manipulasi informasi.
Dia mencontohkan kasus penipuan pertemuan virtual di Hong Kong beberapa waktu lalu, yang merugikan sebuah perusahaan hingga 25 juta dolar AS.
"Perkembangan ini sangat cepat untuk makin membuat garis pemisah, antara realita dengan sesuatu yang sintetik makin lama makin tipis," ujar Nezar dalam keterangan resmi.
Dorongan aturan soal label konten AI juga disampaikan oleh Pemerhati Budaya dan Komunikasi Digital dari Universitas Indonesia, Firman Kurniawan. Menurutnya, labeling atau watermarking pada konten AI perlu dipertegas, dari yang semula bersifat sukarela (voluntary) menjadi wajib (mandatory).
"Harus dikasih labeling karena masyarakat harus tahu buatan AI atau nyata. Soalnya tampilan dari teknologi hari ini, seperti deep fake itu sangat mirip, enggak bisa dibedain," ungkap Firman kepada Swara Indonesia Raya.
Firman menilai, bentuk penandaan tidak harus mematikan kreativitas. Deklarasi bisa dilakukan secara terbuka mengenai sejauh mana AI digunakan dalam pembuatan konten.
Misalnya, apakah AI digunakan sebatas untuk perangkuman data, membantu mencari ide, atau menghasilkan konten secara utuh dan penuh.
Labeling atau watermarking pada konten AI perlu dipertegas, dari yang semula bersifat sukarela (voluntary) menjadi wajib (mandatory).Firman Kurniawan, Pemerhati Budaya dan Komunikasi Digital dari Universitas Indonesia
Tantangan Teknis dan Jejak Digital
Kendati begitu, implementasi pelabelan AI di lapangan dinilai tak semudah membalikkan telapak tangan. Pakar Teknologi Informasi dan Keamanan Siber, Alfons Tanujaya, mengingatkan bahwa aturan pelabelan memiliki kelemahan teknis yang rentan dikelabui.
Menurutnya, pihak yang beritikad buruk atau ingin menyalahgunakan konten AI justru akan berusaha menghapus label yang telah disematkan oleh platform.
"Idealnya kalau bisa dilabel itu bagus. Tapi dalam praktiknya tidak mudah. Konten yang sudah dilabel akan berusaha dihilangkan labelnya oleh orang yang ingin menyalahgunakan. Jadi ibaratnya seperti maling sama polisi," katanya kepada Swara Indonesia Raya.
Selain itu, sifat AI yang terus belajar dan meminimalisasi cacat visual membuat kontennya makin sempurna dan sulit diidentifikasi secara kasat mata, bahkan oleh ahli forensik digital sekalipun. Hal ini berpotensi meningkatkan tren kejahatan penipuan berbasis personifikasi tokoh publik maupun penyebaran disinformasi.
Oleh sebab itu, ketimbang hanya berfokus pada pelabelan visual yang mudah diakali, Alfons menyarankan agar pemerintah mendorong penerapan standar Content Credentials atau Content Provenance and Authenticity (C2PA).
Pendekatan tersebut mewajibkan platform dan pengembang mengintegrasikan metadata untuk mencatat serta melacak asal-usul konten dari pertama kali diunggah.
"Mending asal-usul kontennya itu yang pertama kali, itu jauh lebih penting. Mau konten AI atau bukan, kalau ada misinformasi, langsung ketahuan siapa yang pertama kali menyebarkan"Alfons Tanujaya, Pakar Teknologi Informasi dan Keamanan Siber
Regulasi Perusahaan Teknologi
Pendekatan autentikasi dan provenance berbasis metadata ini sejalan dengan apa yang tengah dikembangkan secara global, misalnya di Uni Eropa yang menetapkan aturan ketat lewat EU AI Act.
Regulasi itu mewajibkan pengembang sistem AI generatif untuk melabeli 'karya-karya' mereka seperti audio, gambar, dan video. Label ini nantinya akan bisa dideteksi secara teknis oleh mesin maupun secara kasat mata.
Guna memenuhi aturan ketat Uni Eropa, raksasa akal imitasi seperti OpenAI aktif mengembangkan dan mengintegrasikan teknologi watermarking hingga metadata.
Baru-baru ini, perusahaan menerapkan standari C2PA pada model gambar DALL-E 3 dan menguji watermarking text untuk mendeteksi hasil generate ChatGPT.
"Kami membagikan pendekatan terhadap pemberian watermark pada teks sebagai respons atas Undang-Undang AI Uni Eropa, dan bagaimana hal itu sesuai dengan pekerjaan kami yang lebih luas," demikian tulis OpenAI dalam pernyataannya.
Dalam tahap ini, watermark text masih akan nonaktif secara default di API OpenAI. Akan tetapi, pelanggan di model layanan tertentu bisa memilih untuk mengaktifkan fitur tersebut.
Selanjutnya, perusahaan yang berbasis di San Francisco itu akan mulai menambahkan tanda tak terlihat pada keluaran teks ChatGPT dan Codex dalam waktu dekat.
Kendati demikian, OpenAI menyatakan, penandaan dan deteksi teks saat ini masih merupakan teknologi awal dengan sejumlah keterbatasan. Oleh karenanya, pandangan dan pemanfaatan yang bertanggung jawab masih akan terus dikembangkan.