"Agentic AI", ketika AI Mampu Bertindak Sendiri

PERKEMBANGAN teknologi kecerdasan buatan atau artificial intelligence (AI) belakangan ini semakin menarik. Jika belum lama ini kita terbiasa mengetik perintah atau prompt ke Chat GPT atau Gemini, lalu menerima teks atau gambar, teknologi AI kini melompat ke fase memikirkan langkah lanjutan dan mengerjakannya sendiri.

Terbaru, pada awal September 2026, raksasa teknologi Meta memperkenalkan Muse, agen kecerdasan buatan yang dirancang untuk bertindak proaktif dan mengeksekusi tugas digital dari awal hingga selesai atas nama pengguna. Tipe agentic AI ini, ditawarkan dengan beberapa model penalaran yang disesuaikan dengan kebutuhan penggunanya.

Kehadiran beragam teknologi AI ini jelas memantik perdebatan, termasuk di Indonesia. Berdasarkan laporan Ericsson ConsumerLab baru-baru ini, warga Indonesia menempati posisi kedua global dengan 22 persen menggunakan AI multimodal setiap harinya.

Tren ini diperkirakan mengalami kenaikan. Diperkirakan, pada 2030 penggunaan AI multimodal di Indonesia mencapai 45 persen, lebih tinggi dibandingkan proyeksi global sebesar 30 persen. 

Masih dari laporan yang sama, sebanyak 35 persen konsumen di Tanah Air pada 2030 mendatang akan menggunakan AI lewat perangkat selain ponsel pintar, termasuk kacamata pintar. Hasil ini merupakan survey dari 43.000 pengguna ponsel pintar di 27 pasar global, termasuk Indonesia.

Terus Berevolusi 

Perkembangan kecerdasan buatan memang menarik. Pertama dimulai dari Generative AI (Gen AI), berfokus pada pembuatan konten baru, seperti teks, gambar, kode atau audio. Keputusannya masih berdasarkan perintah atau prompt yang diberikan manusia.

Gen AI juga membutuhkan pengawasan, dan arahan secara konstan pada setiap langkahnya. Hasil kerjanya bisa berupa contoh draft email, atau membuat puisi bagi yang tidak memiliki bakat di bidang seni.

Gen AI mulai mendapatkan terobosan pada 2017 silam saat tim peneliti Google memperkenalkan Arsitektur Transformer. Mekanisme ini membuat AI mampu memahami konteks seluruh kalimat secara bersamaan, tidak lagi membaca kata per kata.

Ledakan pengguna terjadi di media 2022-2023 saat peluncuran ChatGPT-3.5 dan ChatGPT-4 ke masyarakat global. Bersamaan, hadir juga generator gambar seperti Midjourney dan Stable Diffusion yang membuat AI tidak hanya menebak teks melainkan menghasilkan konten berkualitas tinggi dalam hitungan detik.

Setelahnya, AI berevolusi dari sekedar pengolah teks menjadi multimodal, dimana kemampuannya tidak hanya teks tapi juga melihat gambar, mendengar suara, menganalisis video, dan membaca kode pemrograman. Disinilah mulai hadir kemampuan berpikir logis bertahap.

Kini beralih ke agentic, dimana AI mengalami pergeseran paradigma dari sekedar menjawab menjadi bertindak dan menyelesaikan masalah. Pada contoh Muse, Meta sebagai perusahaan induk menyebutkan, agen AI ini secara proaktif akan membantu penggunanya mencapai target dan tujuan, selain menawarkan ide.

Ciri khasnya memang memiliki kecerdasan tingkat lanjut yang dirancang mencapai tujuan secara otonom, tanpa harus dipandu setiap langkahnya. Layaknya asisten pribadi yang mengurus proses kerja dari awal sampai selesai.

Direktur Riset Counterpoint Research Tarun Pathak menjelaskan, kemampuan AI generatif (GenAI) telah menjadi fitur standar pada smartphone kelas atas dengan harga grosir di atas 400 DOLAR as. Namun, masih terdapat kesenjangan yang jelas antara perangkat yang memiliki kemampuan GenAI dan perangkat yang penggunanya secara rutin memanfaatkan fitur AI. 

“Seluruh produsen perangkat orisinal (OEM) utama kini berlomba-lomba menjadikan fitur GenAI sebagai pembeda utama produk mereka. Fokusnya bergeser dari kemampuan yang bergantung pada komputasi awan (cloud) menuju AI yang diproses langsung di perangkat, ujar Pathak, dikutip dari laman resmi Counterpoint Research. 

Samsung dan Google, lanjutnya, memimpin melalui fitur penyuntingan foto generatif, penerjemahan langsung, dan berbagai fitur lainnya. Sementara, Apple baru-baru ini mengumumkan bahwa mereka telah merancang ulang Siri AI dari awal.

Isu Agen AI

Seperti teknologi terkini, agentic AI sebagai generasi terbaru kecerdasan buatan juga memiliki isu. Salah satunya terkait keamanan sebab minimnya kehadiran manusia pada proses kerjanya.

Pakar Teknologi Onno Widodo Purbo menjelaskan, risiko terbesar dari Agentic AI, terletak pada kemampuannya dalam bertindak sendiri. “Semakin besar akses yang diberikan manusia ke AI melalui prompt-nya, semakin memperbesar risiko Agentic AI bertindak sendiri di luar pengawasan manusia,” ujarnya dalam Webinar AI Agent & Cyber Security, Sabtu, (7/11/2026). 

Oleh karena itu, ia menekankan, pentingnya perintah yang jelas, lengkap, dan tertulis di prompt, yang membatasi wewenang Agentic AI. Manusia pun memiliki peran pengawasan dan tanggung jawab yang besar dalam perkembangan fungsi Agentic AI dalam praktiknya. 

Onno pun memberi saran agar penggunaan Agentic AI, tidak sampai menimbulkan merugikan. “Pertama, pastikan akses yang diberikan kepada Agent AI tidak terlalu luas apalagi jika tidak dilakukan dengan pengawasan. Bahaya sekali,” katanya. 

Selain itu, manusia juga harus selalu waspada ketika AI meminta data-data pribadi, seperti foto atau identitas, seperti KTP atau paspor. Karena, data pribadi yang diberikan ke AI, akan dapat digunakan AI untuk melakukan tindakan tertentu, apabila prompt-nya memberi kewenangan. 

“Kuncinya ada pada prompt yang terperinci,” kata Onno. Kemudian, agar sepak terjang Agentic AI tidak sampai keluar dari jalurnya, Onno menekankan, pentingnya dilakukan audit secara berkala. 

Dan ketika terjadi skenario terburuk terjadi, yakni Agentic AI bertindak di luar kendali, Onno memberi solusi, yaitu kill switch. Atau putuskan jaringan listriknya. Hanya saja, hal ini akan berdampak secara luas karena ekosistem jaringan juga akan terdampak. 

Hal serupa juga disampaikan Peneliti Pusat Riset Sains Data dan Informasi (PRSDI) BRIN, Asril Jarin. Dalam siaran pers beberapa waktu lalu, ia menyebutkan perkembangan kecerdasan buatan yang mampu mengambil tindakan secara mandiri, menuntut penguatan tata kelola agar teknologi tetap aman, diawasi, dan memberikan manfaat. 

Ia menggaris bawahi kemampuan mengambil tindakan dari kecerdasan buatan. Menurutnya, kemampuan tersebut sekaligus mengubah karakter risiko AI. 

Jika kesalahan pada AI generatif umumnya berupa hasil yang keliru, pada agentic kesalahan dapat berkembang menjadi tindakan yang berdampak langsung. 

Misalnya, perubahan data, transaksi, pengiriman informasi, hingga pengendalian sistem tertentu. Asril menjelaskan, kewenangan agen, menjadi salah satu dimensi penilaian risiko AI. 

Semakin besar kewenangan yang diberikan pada agen, semakin kuat pula mekanisme pengendalian yang diperlukan. Ini bisa berupa pembatasan tindakan, pemberian izin, pemantauan, pengawasan manusia, pencatatan aktivitas hingga mekanisme penghentian dan pemulihan.

“Akuntabilitas tetap melekat pada pihak yang memiliki tanggung jawab, meskipun pelaksanaan tugas dapat dilimpahkan kepada pihak lain. Tugas dapat didelegasikan, tetapi akuntabilitas tidak dapat didelegasikan,” ucap Asril.

Ia pun mengusulkan konsep Responsible Agentic AI Framework. Tujuannya, membangun otonomi yang dipercaya, mencakup keselarasan tujuan, otonomi yang dibatasi, kewenangan yang terkendali, pengawasan dan akuntabilitas manusia, ketertelusuran tindakan, continuous assurance dan keamanan dan ketahanan sistem.

Gagasan ini membuat pengembangan AI di Indonesia tidak hanya berorientasi pada peningkatan kecerdasan teknologi, tapi membangun kemampuan nasional untuk memahami dan mengarahkan sistem AI menghasilkan nilai publik dan mengurangi risiko ketergantungan strategis baru.

“Agen yang bertanggung jawab bukanlah agen yang tidak pernah gagal. Agen yang bertanggung jawab adalah agen yang kegagalannya tetap dapat dikendalikan dan dikelola,” ia mengingatkan. 

Buat boks 

Kerentanan Digital Baru

Di tengah perkembangan Agentic AI yang pesat, kehadiran agen otonom yang beroperasi di ruang ekosistem digital perusahaan tak hanya membawa kerentanan baru yang bisa jadi, belum pernah dihadapi sebelumnya. 

Mulai dari, batas akses yang diberikan kepada agen AI, persoalan keamanan siber, tantangan audit, hingga ‘jebakan’ biaya yang bisa muncul dari pemanfaatan model teknologi baru ini. 

1. Bahaya Kewenangan dan Ancaman Keamanan Siber 

Untuk mampu menjalankan berbagai aksi yang diperintahkan, agen AI memerlukan akses tertentu dari layanan digital yang dimiliki pengguna. Akan tetapi, ketika mereka diberi privilese yang terlalu luas dan jauh, bukan tidak mungkin akan muncul dampak yang tidak diinginkan dari kesalahpahaman interpretasi prompt.  

Misalnya, ketika agen kecerdasan ini diberi hak akses untuk menghapus berkas, mengubah konfigurasi sistem, atau melakukan transaksi keuangan, dampak jika terjadi kegagalan sistem akan menjadi sangat luas. Bahkan, bisa jadi menimbulkan kerugian finansial. 

Selain itu, jenis serangan siber baru seperti indirect prompt injection juga bisa memicu agen melakukan tindakan merusak tanpa disadari. Serangan ini, terjadi dengan para peretas menyisipkan instruksi tersembunyi dalam dokumen atau situs web yang dibaca oleh si agen AI. 

“Semakin tinggi tingkat otonomi yang diberikan kepada agen AI tanpa pengawasan yang ketat, semakin besar kerentanan organisasi terhadap keputusan mandiri sistem yang tidak diinginkan,” kata Phil Munz, Senior Manager of Data Science TrojAI, dikutip dari laman Cloud Security Alliance. 

2. Akuntabilitas dan Tantangan Audit 

Selanjutnya, jika sebuah agen otonom salah mengambil keputusan dan mengakibatkan kerugian finansial atau sampai pelanggaran kerahasiaan data, pertanyaannya adalah siapa yang bertanggung jawab? 

Implementasi Agentic AI masih menyisakan persoalan akuntabilitas dan jejak audit yang harus bisa dilacak. Ketiadaan jejak keputusan yang jelas kerap menyulitkan auditor internal menelusuri berbagai aksi yang telah diambil. 

Untuk itu, para pengembang dituntut menerapkan Explainable AI (XAI) dan pencatatan aktivitas sistem secara real-time. Hal ini menjadi syarat mutlak sebelum agen AI diterjunkan ke dalam lingkungan produksi. Selain itu, pengawasan manusia dinilai masih tetap perlu agar si agen tetap berada pada jalur tugas yang tepat. 

3. Jebakan Biaya Iterasi 

Banyak pihak mengasumsikan bahwa implementasi teknologi Agentic AI akan langsung memangkas biaya operasional. Akan tetapi, cara kerja model kecerdasan buatan, kerap berbasis iterasi atau proses yang berulang dan koreksi mandiri. 

Proses ini, biasanya memakan daya komputasi jauh lebih besar ketimbang prompt biasa. Berbeda dengan AI generatif biasa yang sekali sekali jalan langsung selesai, agen AI bekerja dalam siklus perencanaan, aksi, dan refleksi (plan to act to reflect). 

Jika tidak dibatasi, siklus ini bisa berjalan berulang kali dan menguras saldo API secara drastis. Jadi, biaya operasional AI bisa membengkak secara tak terkendali akibat agen AI yang terjebak dalam proses berpikirnya sendiri dan tidak menghasilkan output akhir. 

Publikasi dari QuantumBlack AI by McKinsey mengungkapkan, temuan menarik di lapangan. Laporan itu menemukan sekitar 60% biaya operasional Agentic AI di skala enterprise justru akan tersedot untuk penyempurnaan jawaban dan siklus perbaikan kesalahan internal, bukan pada simpulan perintah awal yang diberikan. 

Menariknya, lembaga riset Gartner justru memprediksi, lebih dari 40% proyek agen AI akan dibatalkan pada akhir 2027. Salah satu alasan utamanya adalah karena biaya yang membengkak. 

Faktor lainnya mencakup nilai bisnis yang tidak terukur dan pengendalian risiko yang tidak memadai. 

4. Intaian Praktik Agent Washing 

Seiring dengan popularitas Agent AI yang makin besar di panggung teknologi global, ekosistemnya kini mulai diwarnai oleh fenomena agent washing. Dimana, para vendor mengklaim otomatisasi skrip tradisional chatbot konvensional, dilabeli dengan label Agentic AI. 

Senior Director Analyst di Gartner Supply Chainpractice, Jan Snoeckx mengatakan, di tengah naik daunnya agen AI, sebagian besar solusi saat ini masih belum mencapai tingkat otonomi end to end. Namun, para vendor kerap melebih-lebihkan kemampuan yang bisa dilakukan oleh produk mereka. 

Oleh sebab itu, praktik agent washing makin marak dan mengaburkan perbedaan antara layanan AI tradisional dengan agen otonom berbasis AI. Hal ini pada akhirnya meningkatkan risiko investasi yang tidak selaras dan keterikatan jangka panjang bagi perusahaan yang mengadopsi teknologinya. 

“Para pemimpin harus bersiap untuk masa depan AI yang berbasis agen, tapi juga perlu memisahkan kemampuan yang bermakna dari kebisingan yang terjadi di pasar saat ini,” katanya.