Tantangan Utama AI: Bukan pada Kinerja Model, Tapi Hak Akses yang Terkendala

Para agen AI di dunia enterprise sedang mengalami kebuntuan, bukan karena performa modelnya kurang memuaskan, tetapi lebih kepada masalah izin. Setiap alur kerja agen pada akhirnya akan menemui satu masalah yang sama: apa yang boleh dilakukan agen ini, atas nama siapa, dan bagaimana sistem bisa mengetahuinya?

Workday punya jawabannya. Mereka menyusun sistem pencatatan yang sudah ada menjadi lapisan pengaturan untuk para agen. Gerrit Kazmaier, presiden produk dan teknologi di Workday, mengatakan bahwa banyak pelanggan mengalami kesulitan ketika mencoba menggabungkan solusi untuk para agen mereka.

“Sana memastikan integritas model persetujuan dan keamanan selalu terjaga,” kata Kazmaier. “Sejujurnya, di sinilah kami melihat pelanggan berjuang ketika mereka mencoba membangun AI sendiri dengan hanya mengakses data mentah. Kekayaan model keamanan menjadi hilang, dan hasilnya jadi terlalu luas.”

Workday yang meluncurkan Sana pada bulan Maret lalu, juga memperluas kemitraannya dengan Google untuk membawa sistem pencatatan agen Sana ke dalam Gemini Enterprise – artinya agen yang dibangun di atas Sana juga bisa ditemukan di sana.

Membangun Akurasi

Kazmaier menyebut tantangan terbesar yang mereka hadapi adalah memastikan akurasi agen, terutama bagi pengguna HR dan keuangan.

“Hampir benar saja tidak bisa diterima,” kata Kazmaier. “Pikirkan tentang membayar orang dengan benar, menutup buku, atau mengelola jadwal kerja dengan bisa dipercaya.”

Mengukur akurasi di sini lebih sulit dibandingkan di banyak konteks AI lainnya. Konfigurasi kebijakan, keamanan berbasis peran, dan hirarki organisasi saling terkait erat – sebuah kesalahan kecil bisa menambah kerumitan. Dan tidak seperti kebanyakan output AI generatif, pertanyaan di bidang HR dan keuangan sering kali tidak memiliki loop koreksi. Begitu gaji diproses secara salah atau jadwal wawancara ditetapkan dengan keliru, kerusakannya sudah terjadi.

Untuk menyikapi hal ini, Workday membangun Gemini sebagai lapisan dasar pemikirannya, kemudian menambahkan mesin konteks dan logika proses bisnis di atasnya. Workday juga menambahkan model verifikasi dan klasifikasi yang “menginterogasi” output sebelum dilaksanakan.

Rupanya, akurasi dan identitas adalah dua sisi dari koin yang sama: apakah sistem cukup memahami tentang agen, manusia yang memberi otorisasi, dan keadaan terkini dari catatan untuk bertindak dengan benar?

Kelebihan Workday adalah kemampuannya untuk menyimpulkan struktur organisasi pelanggan dari data yang mereka berikan. Sudah ada penyedia identitas pihak ketiga seperti Okta yang memverifikasi informasi mereka dengan memeriksa Workday, sehingga konteksnya menjadi sistem pencatatan yang sah bagi banyak perusahaan. Kazmaier menjelaskan bahwa Agen Mandiri Sana menggunakan Gemini sebagai permukaan percakapan untuk memicu alur kerja. Pengguna kemudian diotentikasi dan diberi otorisasi melalui model identitas dan keamanan Workday. Agen Sana hanya akan bertindak atas nama pengguna tersebut dan bekerja dalam batasan izin mereka yang berlaku.

Jejak audit mengikuti logika yang sama: Gemini hanya menyimpan log interaksi, sementara audit utama tetap berada di dalam Workday dan pelanggannya.

Bagi banyak praktisi di sektor HR dan keuangan, lapisan izin dan pengaturan dalam sistem pencatatan agen adalah kunci, terutama di ruang yang diatur.

“Sistem ini harus hidup di dalam sistem pencatatan, itu bukan pilihan, itu adalah satu-satunya cara agar bisa berjalan,” kata Dan Obendorfer, direktur produk di Würk, dalam emailnya. “Jika izinmu didefinisikan di luar tempat di mana data sebenarnya berada, kamu sudah kalah.”

Kadan Stadelmann, CTO dan salah satu pendiri Compance.AI, juga menekankan hal yang sama. “Tanpa kepemilikan agen, kinerja, biaya, atau tindakan, kekacauan pasti akan terjadi.”