Pemanfaatan kecerdasan artifisial (AI) di kalangan organisasi Indonesia kini tengah bertransformasi menuju era agentic AI, saat istem tidak lagi sekadar menjadi alat bantu kerja, melainkan agen otonom yang sanggup merencanakan, mengambil keputusan, hingga bertindak mewakili institusi.
Meski Badan Riset dan Inovasi Nasional (BRIN) menilai pergeseran ini membuka banyak peluang, riset terbaru dari penyedia infrastruktur kepercayaan berbasis AI, Sumsub, mengungkapkan bahwa laju adopsi teknologi tersebut belum diimbangi dengan kesiapan bukti audit yang memadai.
Temuan ini tertuang dalam laporan APAC State of Digital Trust: AI Governance Benchmark, sebuah survei independen yang digarap oleh Blackbox Research bersama Singapore FinTech Association pada April hingga Juni 2026 terhadap 720 pengambil keputusan senior di sembilan negara Asia-Pasifik (APAC), termasuk Indonesia.
Studi tersebut mencatat bahwa 96% organisasi di Indonesia merasa yakin dapat menjelaskan keputusan yang diambil oleh sistem AI mereka. Namun pada kenyataannya, hanya 34% yang benar-benar menyimpan rekam jejak keputusan tersebut secara utuh dan antimanipulasi.
Sumsub melabeli kesenjangan antara tingginya ketergantungan terhadap keputusan AI dan minimnya bukti verifikasi ini sebagai fenomena “Accountability Asymmetry”.
Penggunaan Agentic AI di Organisasi Indonesia
Survei yang menyasar sektor Jasa Keuangan, Layanan TI dan Perangkat Lunak, E-commerce, serta platform Mobilitas dan Pengantaran ini turut menyoroti sejumlah data krusial terkait operasional AI di Indonesia:
-
Tingkat Kepercayaan Otonomi: Sebanyak 91% organisasi merasa nyaman membiarkan AI mengambil keputusan mandiri pada proses kerja rutin. Namun, angka kepercayaan ini langsung merosot menjadi 55% ketika menyangkut eksekusi transaksi keuangan.
-
Insiden di Luar Kendali: Sebanyak 64% responden di Indonesia mengakui pernah mengalami insiden di mana AI bertindak sendiri dan berujung pada masalah atau hasil yang tidak diinginkan.
-
Pergeseran Fungsi Awal: Tercatat 94% organisasi pernah menggunakan sistem AI di luar tujuan awalnya dalam setahun terakhir, sehingga peran AI yang berjalan saat ini kerap menyimpang dari persetujuan awal.
-
Kekhawatiran Kualitas Data: Sebanyak 56% responden menempatkan kualitas data sebagai kekhawatiran terbesar saat agen AI bertindak mewakili organisasi mereka—menjadikannya angka kekhawatiran tertinggi di kawasan APAC.
-
Kesiapan Solusi Pelacakan: Sebanyak 99% organisasi menyatakan siap mengadopsi solusi teknologi yang mampu melacak setiap tindakan AI hingga ke individu manusia yang bertanggung jawab.
Di sisi lain, tuntutan akuntabilitas ini kian mendesak seiring menguatnya regulasi domestik. Otoritas Jasa Keuangan (OJK) telah menetapkan standar minimum manajemen risiko dan audit siklus hidup AI melalui Panduan Tata Kelola Kecerdasan Artifisial Perbankan Indonesia.
Selain itu, pemerintah juga tengah menyiapkan dua Peraturan Presiden terkait Peta Jalan AI Nasional dan Etika AI yang kini tinggal menunggu pengesahan Presiden.
Peluncuran Sumsub Agentic AI Council dan Kerangka “Know Your Agent”
Menjawab tantangan penerjemahan regulasi ke dalam praktik operasional sehari-hari, Sumsub resmi memperkenalkan Sumsub Agentic AI Council. Forum lintas sektor di tingkat Asia-Pasifik ini mempertemukan pembuat kebijakan,pakar teknologi, akademisi, pelaku industri, hingga masyarakat sipil untuk merumuskan panduan tata kelola agen AI yang bertumpu pada tiga pilar utama:
-
Adopt: Mengeksplorasi pemanfaatan agentic AI yang berdampak dan bertanggung jawab di sektor ekonomi digital, mulai dari kepatuhan (compliance), pencegahan penipuan (fraud), layanan pelanggan, hingga efisiensi operasional.
-
Build: Membangun fondasi teknis dan operasional agen AI yang tepercaya, mencakup identitas agen, kredensial terverifikasi, arsitektur keamanan, keterlacakan (traceability), dan interoperabilitas.
-
Govern: Merumuskan kebijakan, standar, dan mekanisme pembagian tanggung jawab seiring meningkatnya otonomi sistem AI.
Terkait pentingnya infrastruktur akuntabilitas ini, Vice President APAC di Sumsub, Penny Chai, menjelaskan:
“Organisasi di Indonesia melihat potensi AI yang sangat besar, tetapi adopsinya perlu dibarengi kemampuan untuk menunjukkan bagaimana AI itu dipakai, melacak keputusan yang diambilnya, dan memastikan siapa yang bertanggung jawab,” ujar Penny Chai, Vice President, APAC di Sumsub. “Seiring agen AI mengemban tanggung jawab yang semakin besar, organisasi butuh infrastruktur kepercayaan yang menopang akuntabilitas itu di lapangan. Lewat framework Know Your Agent, kami menaruh akuntabilitas manusia sebagai inti, tiap agen AI dikaitkan dengan identitas manusia yang terverifikasi, dan menggunakan liveness check untuk memastikan otorisasi manusia pada momen-momen kritis.”
Senada dengan hal tersebut, APAC Government Relations Lead di Sumsub, Jason Chan, menambahkan:
“Seiring organisasi di Indonesia menjajaki peluang agentic AI, kemampuan untuk tetap mengawasi, melacak keputusan AI, dan menunjukkan akuntabilitas harus ikut tumbuh seiring adopsinya,” ujar Jason Chan, APAC Government Relations Lead di Sumsub. “Dari pengalaman kami membantu banyak organisasi membangun kepercayaan dalam interaksi digital, kami melihat secara langsung tantangan-tantangan ini. Sumsub Agentic AI Council hadir untuk mempertemukan keahlian dari seluruh APAC, berbagi sudut pandang soal tantangan nyata dalam mengadopsi agentic AI yang bertanggung jawab.”
Saat ini, Sumsub membuka pendaftaran bagi para pakar untuk bergabung sebagai founding advisor di dalam Council,yang akan diumumkan menjelang pertemuan perdana pada kuartal I 2027.
Kelompok kerja pertama forum ini dijadwalkan fokus membedah skema agentic commerce, yakni kondisi ketika agen AI bertindak langsung mewakili konsumen maupun pelaku bisnis dalam bertransaksi. Informasi pendaftaran dan unduhan laporan lengkap dapat diakses melalui situs resmi.
—
Disclosure: Artikel ini disusun dari rilis dengan bantuan AI dan dalam pengawasan editor.
