Sebagian besar bisnis di Singapura sudah menunjuk pihak yang bertanggung jawab atas sistem kecerdasan buatan (AI), tetapi hanya sedikit yang bisa menunjukkan bagaimana keputusan tersebut diambil. Ini terungkap dalam laporan terbaru yang disusun oleh Sumsub dan Asosiasi FinTech Singapura (SFA).
Temuan ini berdasarkan survei terhadap 720 profesional senior di sembilan pasar Asia Pasifik yang dilakukan antara April dan Juni 2026. Survei tersebut mencakup sektor layanan keuangan, IT, e-commerce, serta mobilitas dan pengiriman.
Laporan yang berjudul “The APAC State of Digital Trust: AI Governance Benchmark” menemukan bahwa 70% organisasi di Singapura telah menetapkan orang atau tim untuk mengawasi hasil AI. Namun, hanya 29% yang bisa menghasilkan jejak audit yang menunjukkan data dan proses di balik keputusan yang dihasilkan oleh AI. Angka ini jauh lebih rendah dibandingkan rata-rata Asia Pasifik yang mencapai 38%.
Dalam sebuah briefing media, Penny Chai, Wakil Presiden Sumsub untuk Asia Pasifik, menjelaskan bahwa banyak perusahaan mengetahui siapa yang bertanggung jawab atas keputusan AI, tetapi kekurangan dokumentasi yang diperlukan untuk menunjukkan bagaimana keputusan tersebut dibuat.
Laporan ini menggambarkan kesenjangan ini sebagai “Asimetri Akuntabilitas”. Di seluruh Asia Pasifik, 95% organisasi merasa percaya diri dapat menjelaskan keputusan yang diambil oleh AI, tetapi hanya separuhnya yang dapat merekonstruksi bagaimana keputusan tersebut dicapai. Sebanyak 94% responden di Singapura sudah menggunakan atau menguji sistem AI multi-langkah, meskipun mayoritas tetap berhati-hati dalam mengembangkan AI ke fungsi yang berisiko lebih tinggi.
Kemampuan AI Meningkat, tetapi Sulit untuk Dijelaskan
Responden survei menganggap kompleksitas model sebagai hambatan utama untuk dokumentasi, dengan 66% mengutamakan hal ini. Setelah itu, kesulitan dalam mengintegrasikan berbagai platform teknologi berada pada 50%, dan tantangan melacak tindakan yang diambil oleh alat AI pihak ketiga pada 49%. Saat organisasi mengadopsi model AI multi-langkah yang berinteraksi dengan berbagai perangkat lunak dan layanan pihak ketiga, mendokumentasikan setiap tindakan menjadi semakin sulit, sehingga lebih sulit untuk melacak bagaimana keputusan dibuat atau mengidentifikasi di mana kesalahan terjadi.
Masalah ini tidak hanya terjadi di Singapura. Survei yang dilakukan Deloitte pada 2025 juga menemukan bahwa meski adopsi AI semakin cepat di seluruh dunia, hanya sekitar sepertiga organisasi yang memiliki praktik tata kelola yang matang.
Indeks Adopsi AI Global dari IBM juga menemukan bahwa tata kelola, keterjelasan, dan manajemen risiko tetap menjadi salah satu hambatan terbesar yang menghalangi perusahaan untuk mengembangkan AI ke dalam operasi yang sangat penting, menunjukkan bahwa pengawasan teknis semakin penting dalam strategi AI di perusahaan.
Dalam Keuangan, Keputusan AI Tanpa Keterjelasan Adalah Beban
Institusi keuangan lebih berhati-hati dalam mengadopsi AI dibandingkan banyak industri lainnya, karena keputusan otomatis dapat memiliki konsekuensi finansial dan regulasi langsung. Kesalahan dalam pembayaran, pengembalian, keputusan pinjaman, atau penilaian asuransi dapat menempatkan perusahaan pada risiko kerugian finansial, perselisihan pelanggan, atau tindakan regulasi, yang menjadikan keterlacakan sebagai keharusan sebelum AI dapat diperluas ke area tersebut.
Holly Fang, presiden SFA, menyatakan bahwa pertanyaan yang lebih mendesak bukan seberapa cepat AI berkembang, tetapi apakah tata kelola dapat mengikuti perkembangan tersebut. Seiring dengan AI yang bergerak menuju agen otonom yang menangani alur kerja krusial, fokus kini harus berpindah pada pembangunan keterlacakan dan akuntabilitas yang diperlukan untuk menerapkan AI secara besar-besaran.
Singapura telah melangkah maju dalam hal ini dengan memperkenalkan Model Kerangka Tata Kelola AI untuk AI Agensian serta Sistem Pengamanan untuk Keuangan Agensian dari Otoritas Moneter Singapura. Kerangka ini tidak hanya berfokus pada kinerja model, tetapi mendorong organisasi untuk membangun sistem AI yang dapat dimonitor, didokumentasikan, dan ditinjau selama beroperasi. Namun, temuan laporan tersebut menunjukkan bahwa kebijakan ini bergerak lebih cepat daripada praktiknya: meski Singapura adalah pasar pertama di dunia yang mengeluarkan panduan tata kelola AI formal, kurang dari sepertiga perusahaan saat ini mampu menghasilkan dokumentasi yang dipersyaratkan oleh kerangka tersebut.
Seiring dengan semakin banyaknya sistem otonom yang mengambil alih tanggung jawab, organisasi yang dapat menunjukkan bagaimana AI mereka menghasilkan keputusan akan lebih mampu memenuhi kebutuhan regulator, pelanggan korporasi, dan mitra bisnis dibandingkan mereka yang hanya mengandalkan metrik kinerja. Kesenjangan antara kebijakan tata kelola di Singapura dan praktik tata kelola yang ada saat ini mungkin menjadi ujian paling jelas mengenai apakah posisi tersebut dapat bertahan.
