Di Balik Wajah Palsu dan Suara Tiruan, Ancaman Penipuan Kian Nyata

Tren penipuan digital berbasis kecerdasan buatan (AI) di dalam negeri terus naik dan berkembang. Manipulasi video deepfake hingga voice cloning kian masif jadi modus pelaku kejahatan siber melakukan aksi kriminal. 

Data Indonesia Anti-Scam Centre (IASC) di bawah Otoritas Jasa Keuangan (OJK) menunjukkan adanya lonjakan masif terkait kasus scam deepfake. Sepanjang 2024 hingga 2025 saja, jumlah kasusnya naik hingga 1.400%.

Tren tersebut masih berlanjut hingga tahun ini, dengan OJK mencatat setidaknya ada 1.379 aduan resmi terkait penipuan berbasis AI hingga Juni 2026. 

Tindak kriminal siber itu berdampak langsung terhadap kerugian finansial yang angkanya tak sedikit. Kementerian Komunikasi dan Digital (Komdigi) mengestimasikan total kerugian akibat scam digital di Indonesia sebesar Rp7,5 triliun.

Dalam praktiknya, para pelaku kriminal online memanfaatkan kecanggihan model AI generatif untuk merancang berbagai rekayasa sosial. Mereka menggunakan teknologi deepfake hingga voice cloning untuk menyamar sebagai sanak famili, kolega, atau bahkan tokoh publik. 

Modus rekayasa sosial ini tidak hanya menyasar kelompok rentan seperti lansia dan masyarakat dengan literasi digital rendah. Metode tersebut telah menembus level pelaku usaha dan korporasi di tingkat nasional hingga global, yang memicu fraud dalam nominal jumbo. 

Direktur Jenderal Pengawasan Ruang Digital Kementerian Komunikasi dan Digital, Alexander Sabar, mengatakan bahwa pihaknya mendorong penguatan lintas sektor untuk menangani online scam yang marak terjadi.

Penguatan tata kelola dan koordinasi lintas sektor diperlukan agar informasi kebijakan dan langkah penanganan dari masing-masing dapat saling terhubung. Hal ini juga perlu disertai regulasi yang mengatur mekanisme koordinasi, pertukaran informasi, dan respons terjadi penipuan daring.

Dari sisi Komdigi, kementerian melakukan perlindungan digital lewat kolaborasi sistem anti-scam di sektor telekomunikasi. Pada enam bulan pertama tahun ini, upaya ini berhasil mendeteksi lebih dari dua miliar panggilan, pesan, dan tautan berisiko yang berpotensi menimbulkan dampak negatif dan kerugian riil.

Langkah di bagian hulu juga diperkuat lewat regulasi registrasi nomor seluler. Mulai 1 Juli 2026, pemerintah mewajibkan pendaftaran pengguna baru memanfaatkan verifikasi wajah biometrik, yang dicocokkan dengan data kependudukan. Tujuannya, mencegah penggunaan identitas palsu yang kerap jadi basis aksi kriminal daring.

Chairman Communication & Information System Security Research Center (CISSRec), Pratama Persadha, mengatakan penipuan digital di Indonesia sedang memasuki fase yang makin sulit dikenali. Perubahan yang ada menunjukkan, serangan tak lagi diarahkan pada perangkat atau sistem, tapi terhadap persepsi manusia. 

Untuk itu, dia mengapresiasi langkah-langkah pencegahan yang telah dilakukan pemerintah. Namun, dia menegaskan bahwa pemblokiran di tingkat jaringan tidak bisa dijadikan solusi tunggal.

Sebab, saat konten deepfake sudah menyebar lewat aplikasi pesan instan atau media sosial, penyaringan jaringan tak lagi efektif. 

Menurutnya, verifikasi biometrik saat registrasi SIM tidak otomatis membuktikan bahwa yang sedang berkomunikasi dengan kita adalah manusia asli. Teknologi AI generatif membuat kloning suara dan identitas visual menjadi sangat murah, cepat, dan bahkan bisa dilakukan secara real time,” katanya kepada Swara Indonesia Raya, Selasa (6/10/2026). 

Senada, Founder dan Group CEO VIDA sekaligus Anggota Pengawas AFTECH, Niki Luhur menjelaskan, bagaimana kemudahan akses terhadap tools AI membuat praktik impersonasi menggunakan deepfake semakin meyakinkan dan sulit dideteksi. Terutama dalam proses onboarding pengguna secara remote dan autentikasi transaksi.

Menurutnya, ancaman deepfake kini tidak hanya berupa manipulasi visual di depan kamera, tetapi juga dapat disisipkan ke dalam aliran data saat verifikasi identitas melalui kamera virtual. Ini disebut serangan injeksi (injection attack).

Deepfake untuk penipuan pun bentuknya beragam. Mulai dari, wajah sintetis yang dibuat dari foto KTP maupun swafoto yang beredar luas, video tukar wajah (face swap), hingga rekaman proses verifikasi asli yang diputar ulang untuk meniru pengguna sah.

"Kita tidak bisa membangun teknologi secara reaktif. Ketika ancaman seperti deepfake berkembang semakin cepat, industri juga harus membangun teknologi yang bersifat preventif. Perlindungan konsumen harus menjadi bagian dari inovasi, bukan sesuatu yang ditambahkan belakangan," ujar Niki, dalam keterangan pers yang diterima Swara Indonesia Raya.

Strategi Pertahanan Berlapis 

Pratama menekankan pentingnya penerapan strategi pertahanan berlapis (defense in depth) lintas ekosistem. Nomor telepon perlu divalidasi, akun perlu dianalisis, konten perlu dideteksi, perilaku transaksi perlu dipantau, dan identitas perlu diverifikasi secara dinamis. 

Di  sektor-sektor krusial seperti keuangan, perbankan, tekfin, dan e-commerce, dia mendorong adopsi behavioral analytics secara real time.

Sistem yang ada tak bisa lagi sekadar mengandalkan kata sandi atau one time password (OTP). Mereka harus mampu menilai risk score berdasarkan pola transaksi, perubahan perangkat, anomali lokasi, hingga riwayat hubungan pengirim dan penerima dana.

Model tersebut perlu diperkuat dengan graph analytics dan machine learning agar hubungan satu elemen dan yang lainnya dapat terlihat. Dengan demikian, sistem tak hanya mencari transaksi mencurigakan secara individual, tapi juga menemukan jaringan yang dipakai sebagai bagian dari operasi scam. 

Dia juga menyoroti tantangan fragmentasi data di Indonesia, di mana informasi terkait nomor telepon, akun bank, dan laporan penipuan masih tersebar di berbagai institusi. Menurutnya, integrasi pertukaran intelijen ancaman yang cepat, terukur, dan patuh pada UU Perlindungan Data Pribadi menjadi kunci utama pencegahan kejahatan siber. 

Pratama menyebut, persoalan deepfake dan voice cloning bukan semata-mata menyoal kemampuan masyarakat untuk membedakan mana yang asli dan palsu. Ketika kualitas rekayasa AI makin canggih, manusia tidak bisa terus dibebani sebagai alat deteksi akhir. 

Justru, hal yang perlu dibangun adalah ekosistem kepercayaan digital berlapis. Dengan pendekatan tersebut, keberhasilan penipuan tak lagi bergantung pada kemampuan publik mengenali wajah atau suara palsu, tapi pada seberapa kuat sistem nasional mampu menghentikan transaksi setelah indikasi penipuan muncul. 

Pertahanan terhadap scam berbasis AI, lanjutnya, harus diarahkan bukan sekadar untuk mendeteksi kepalsuan. Hal itu dilakukan untuk memastikan bahwa kepalsuan yang ada tidak punya kesempatan untuk berubah menjadi kerugian nyata.