Di Balik Hype Perkembangan Agentic AI

Belum habis hype soal kecerdasan buatan generatif (Generative AI), dunia teknologi bergerak cepat dan menghadirkan perkembangan teranyar bernama agen kecerdasan buatan (Agentic AI). Sebuah entitas otonom yang bisa merencanakan hingga mengeksekusi tindakan nyata hanya lewat prompt. 

Perkembangan ini bukan sekadar penyempurnaan algoritma teknologi AI. Dari model Generative AI ke Agentic AI, merupakan pergeseran mendasar atas peran teknologinya itu sendiri. 

Jika Gen AI hanya menyuguhkan informasi, baik berupa teks hingga video ke penggunanya, Agentic AI bisa mengeksekusi perintah yang diberikan. 

Secara teknis, Agentic AI memiliki kemampuan perencanaan yang dinamis (dynamic planning) dan eksekusi bertingkat (multi-step execution). Kecerdasan buatan ini mampu menganalisis dan memecah tugas, memanfaatkan perangkat eksternal (tool use), hingga melakukan evaluasi mandiri (self correction). 

Meski gaungnya baru seumur jagung, skala adopsi Agentic AI di tingkat global diproyeksikan melonjak pesat dalam beberapa waktu ke depan. Lembaga riset Gartner memperkirakan, hanya 17% organisasi yang telah menerapkan agen AI saat ini. Namun, lebih dari 60% berencana mengadopsinya dalam 2 tahun ke depan. 

Tantangan dan Risiko Agentic AI 

Di tengah perkembangan Agentic AI yang pesat, kehadiran agen otonom yang beroperasi di ruang ekosistem digital perusahaan tak hanya membawa kerentanan baru yang bisa jadi, belum pernah dihadapi sebelumnya. 

Mulai dari, batas akses yang diberikan kepada agen AI, persoalan keamanan siber, tantangan audit, hingga ‘jebakan’ biaya yang bisa muncul dari pemanfaatan model teknologi baru ini. 

1. Bahaya Kewenangan dan Ancaman Keamanan Siber 

Untuk mampu menjalankan berbagai aksi yang diperintahkan, agen AI memerlukan akses tertentu dari layanan digital yang dimiliki pengguna. Akan tetapi, ketika mereka diberi priviles yang terlalu luas dan jauh, bukan tidak mungkin akan muncul dampak yang tidak diinginkan dari kesalahpahaman interpretasi prompt.  

Misalnya, ketika agen kecerdasan ini diberi hak akses untuk menghapus berkas, mengubah konfigurasi sistem, atau melakukan transaksi keuangan, dampak jika terjadi kegagalan sistem akan menjadi sangat luas. Bahkan, bisa jadi menimbulkan kerugian finansial. 

Selain itu, jenis serangan siber baru seperti indirect prompt injection juga bisa memicu agen melakukan tindakan merusak tanpa disadari. Serangan ini, terjadi dengan para peretas menyisipkan instruksi tersembunyi dalam dokumen atau situs web yang dibaca oleh si agen AI. 

“Semakin tinggi tingkat otonomi yang diberikan kepada agen AI tanpa pengawasan yang ketat, semakin besar kerentanan organisasi terhadap keputusan mandiri sistem yang tidak diinginkan,” kata Phil Munz, Senior Manager of Data Science TrojAI, dikutip dari laman Cloud Security Alliance. 

2. Akuntabilitas dan Tantangan Audit 

Selanjutnya, jika sebuah agen otonom salah mengambil keputusan dan mengakibatkan kerugian finansial atau sampai pelanggaran kerahasiaan data, pertanyaannya adalah siapa yang bertanggung jawab? 

Implementasi Agentic AI masih menyisakan persoalan akuntabilitas dan jejak audit yang harus bisa dilacak. Ketiadaan jejak keputusan yang jelas kerap menyulitkan auditor internal menelusuri berbagai aksi yang telah diambil. 

Untuk itu, para pengembang dituntut menerapkan Explainable AI (XAI) dan pencatatan aktivitas sistem secara real-time. Hal ini menjadi syarat mutlak sebelum agen AI diterjunkan ke dalam lingkungan produksi. Selain itu, pengawasan manusia dinilai masih tetap perlu agar si agen tetap berada pada jalur tugas yang tepat. 

3. Jebakan Biaya Iterasi 

Banyak pihak mengasumsikan bahwa implementasi teknologi Agentic AI akan langsung memangkas biaya operasional. Akan tetapi, cara kerja model kecerdasan buatan, kerap berbasis iterasi atau proses yang berulang dan koreksi mandiri. 

Proses ini, biasanya memakan daya komputasi jauh lebih besar ketimbang prompt biasa. Berbeda dengan AI generatif biasa yang sekali sekali jalan langsung selesai, agen AI bekerja dalam siklus perencanaan, aksi, dan refleksi (plan to act to reflect). 

Jika tidak dibatasi, siklus ini bisa berjalan berulang kali dan menguras saldo API secara drastis. Jadi, biaya operasional AI bisa membengkak secara tak terkendali akibat agen AI yang terjebak dalam proses berpikirnya sendiri dan tidak menghasilkan output akhir. 

Publikasi dari QuantumBlack AI by McKinsey mengungkapkan, temuan menarik di lapangan. Laporan itu menemukan sekitar 60% biaya operasional Agentic AI di skala enterprise justru akan tersedot untuk penyempurnaan jawaban dan siklus perbaikan kesalahan internal, bukan pada simpulan perintah awal yang diberikan. 

Menariknya, lembaga riset Gartner justru memprediksi, lebih dari 40% proyek agen AI akan dibatalkan pada akhir 2027. Salah satu alasan utamanya adalah karena biaya yang membengkak. 

Faktor lainnya mencakup nilai bisnis yang tidak terukur dan pengendalian risiko yang tidak memadai. 

4. Intaian Praktik Agent Washing 

Seiring dengan popularitas Agent AI yang makin besar di panggung teknologi global, ekosistemnya kini mulai diwarnai oleh fenomena agent washing. Dimana, para vendor mengklaim otomatisasi skrip tradisional chatbot konvensional, menggunakan teknologi Agentic AI. 

Senior Director Analyst di Gartner Supply Chainpractice, Jan Snoeckx, mengatakan di tengah naik daunnya agen AI, sebagian besar solusi saat ini masih belum mencapai tingkat otonomi end to end. Namun, para vendor kerap melebih-lebihkan kemampuan yang bisa dilakukan oleh produk mereka. 

Oleh sebab itu, praktik agent washing makin marak dan mengaburkan perbedaan antara layanan AI tradisional dengan agen otonom berbasis AI. Hal ini pada akhirnya meningkatkan risiko investasi yang tidak selaras dan keterikatan jangka panjang bagi perusahaan yang mengadopsi teknologinya. 

“Para pemimpin harus bersiap untuk masa depan AI yang berbasis agen, tapi juga perlu memisahkan kemampuan yang bermakna dari kebisingan yang terjadi di pasar saat ini,” katanya.