Penggunaan kecerdasan buatan yang mampu menjalankan tugas secara mandiri atau agentic AI di sektor perbankan perlu disertai pengawasan yang kuat. Wakil Menteri Komunikasi dan Digital Nezar Patria mengingatkan bahwa kesalahan sistem AI yang diberi kewenangan bertindak dapat memicu kerugian finansial besar hingga mengganggu stabilitas apabila tidak dikendalikan dengan baik.
Peringatan tersebut disampaikan pada 30 Oktober 2026, di tengah meningkatnya pemanfaatan AI untuk mengotomatisasi proses bisnis dan layanan keuangan. Risiko tidak hanya berkaitan dengan jawaban AI yang keliru, tetapi juga keputusan atau tindakan otomatis yang dijalankan sistem berdasarkan data dan instruksi yang diterimanya.
Mengapa agentic AI di bank membutuhkan pengawasan?
Berbeda dari chatbot yang umumnya merespons pertanyaan, agentic AI dapat diberi akses untuk menyelesaikan rangkaian tugas. Dalam lingkungan perbankan, kemampuan ini berpotensi digunakan untuk membantu pemeriksaan transaksi, layanan pelanggan, analisis risiko, hingga proses operasional.
Namun, semakin besar kewenangan yang diberikan kepada sistem, semakin besar pula dampak jika terjadi kesalahan. Kekeliruan dalam membaca konteks, data yang tidak akurat, instruksi berbahaya, atau kegagalan integrasi dapat menghasilkan tindakan yang merugikan nasabah maupun institusi.
Perlindungan data juga menjadi perhatian
Nezar turut menyoroti pentingnya tata kelola data dan perlindungan informasi pribadi. Sistem AI yang memproses data keuangan harus memiliki batas akses yang jelas, mekanisme pencatatan aktivitas, serta perlindungan terhadap kebocoran dan penyalahgunaan data.
Indonesia telah memiliki Undang-Undang Perlindungan Data Pribadi (UU PDP) dan regulasi terkait informasi elektronik. Pemerintah juga tengah menyiapkan Peta Jalan AI Nasional serta pedoman etika AI untuk merespons perkembangan teknologi tersebut.
Langkah yang perlu disiapkan industri keuangan
Bagi bank dan penyedia layanan keuangan, penerapan agentic AI sebaiknya dilakukan secara bertahap. Pengujian sebelum implementasi, pembatasan hak akses, persetujuan manusia untuk tindakan berisiko tinggi, pemantauan berkelanjutan, dan prosedur penghentian darurat merupakan sejumlah kontrol yang patut dipertimbangkan.
Perusahaan juga perlu memastikan bahwa setiap keputusan penting dapat ditelusuri: data apa yang digunakan, instruksi apa yang dijalankan, dan siapa yang bertanggung jawab ketika sistem membuat kesalahan. Dengan begitu, otomatisasi tidak menghilangkan akuntabilitas.
Inovasi AI harus berjalan bersama mitigasi risiko
Peringatan pemerintah menunjukkan bahwa tantangan adopsi AI bukan semata-mata soal kemampuan teknologi. Keamanan, kualitas data, transparansi, dan kesiapan sumber daya manusia ikut menentukan apakah AI benar-benar memberi manfaat.
Agentic AI tetap berpeluang meningkatkan efisiensi layanan keuangan. Namun, penerapannya perlu disesuaikan dengan tingkat risiko dan tidak boleh menyerahkan keputusan berdampak besar kepada sistem otomatis tanpa pengawasan yang memadai.
Sumber: TALi News, 1 November 2026; Kementerian Komunikasi dan Digital.
