Kewajiban transparansi di bawah Pasal 50 mulai berlaku, meskipun implementasi Omnibus AI Uni Eropa untuk banyak sistem berisiko tinggi dijadwalkan ulang menjadi Desember 2027, dan untuk beberapa produk berbasis AI menjadi Agustus 2028. Bagi organisasi yang membangun dan menerapkan AI di Eropa, pesan yang jelas: regulator mungkin memperpanjang garis waktu terkait kompleksitas, tapi tidak mengenai transparansi.
Walau beberapa organisasi mungkin menganggap perpanjangan ini sebagai kesempatan bernafas, waktu tersebut sebaiknya dimanfaatkan untuk mempersiapkan masa depan AI. Kita perlu memfokuskan tantangan ini pada penciptaan kondisi untuk inovasi jangka panjang, bukan sekedar memenuhi tenggat waktu kepatuhan.
Seiring dengan AI yang semakin terintegrasi dalam produk, layanan, dan keputusan yang berdampak pada kehidupan orang, organisasi perlu memastikan kepercayaan dalam sistem yang mereka terapkan, sementara pengguna perlu yakin pada organisasi yang memberlakukan sistem tersebut. Pekerjaan ini tidak bisa dimulai pada tahun 2027. Ini harus dimulai sekarang.
Kepatuhan dapat dicapai pada titik tertentu, tetapi tata kelola merupakan kemampuan yang perlu dibangun. Tenggat waktu mungkin bisa diubah, tetapi kemampuan institusi tidak bisa muncul hanya dalam waktu singkat.
Mulai dengan AI yang Sudah Digunakan
Titik awal bagi setiap organisasi seharusnya adalah penilaian jujur tentang apakah mereka memiliki gambaran yang jelas mengenai alat, hasil, dan interaksi yang diatur oleh Pasal 50. Kita sudah melihat dalam beberapa tahun terakhir bahwa sistem AI dapat dengan cepat menjadi bagian inti dari proses bisnis seiring pegawai mengeksplorasi alat baru dan penyedia melakukan inovasi serta peluncuran pembaruan.
Pertumbuhan alami ini adalah bagian normal dari adopsi teknologi baru, tetapi dapat mengakibatkan AI menjadi bagian sentral dalam proses bisnis sebelum tata kelola yang tepat diterapkan. Tata kelola paling efektif ketika membentuk keputusan tersebut dari awal.
Mencoba menambahkan tata kelola setelah AI terintegrasi jauh lebih sulit, lebih mahal, dan pada akhirnya kurang efektif. Hilangnya kepercayaan yang dihasilkan bisa jauh lebih mahal dibandingkan dengan upaya yang awalnya diperlukan untuk mencegahnya.
Perluas Kontrol yang Sudah Ada
Kabar baiknya, banyak disiplin yang diperlukan oleh undang-undang ini seharusnya sudah dikenal. Disiplin tersebut mengembangkan praktik yang ada terkait privasi, keamanan, manajemen risiko, akuntabilitas, dan tata kelola operasional, dan tantangannya sebagian besar terletak pada penerapan disiplin tata kelola yang sudah mapan ke dalam landscape teknologi yang berkembang pesat.
Organisasi yang telah serius mengatasi regulasi perlindungan data, dan sudah memahami penilaian dampak serta proses tata kelola yang efektif, berada dalam posisi yang baik untuk memenuhi banyak dari persyaratan ini – ada banyak tumpang tindih.
Tugasnya adalah memperluasnya untuk AI, bukan menggantinya. Penilaian dampak privasi dapat mengidentifikasi risiko data, tetapi tidak dapat sendiri menentukan apakah model dapat diandalkan dalam konteks tertentu, atau apakah seseorang dapat mempertanyakan secara nyata hasilnya, atau apakah proses otomatis merugikan suatu kelompok.
Pertanyaan-pertanyaan tersebut seharusnya sudah dibangun dalam alur kerja yang ada, terutama saat AI dibeli dibandingkan dibangun. Sebelum suatu kemampuan diintegrasikan dalam perangkat lunak atau proses kritis, organisasi perlu memiliki kejelasan tentang perlakuan data, perubahan layanan dan model, respons insiden, dukungan untuk kewajiban transparansi, dan bukti yang dapat disediakan oleh penyedia. Meskipun model yang digunakan berasal dari pihak ketiga, organisasi masih perlu mengatur bagaimana model tersebut dipilih, dikonfigurasi, dan digunakan.
Pertanyaan Kedaulatan
Di samping Undang-Undang AI, pertanyaan penting lainnya yang mempengaruhi cara kita memikirkan tata kelola di Eropa adalah kedaulatan. Saat debat ini semakin berkembang di seluruh Eropa, isu praktis yang diangkat semakin jelas. Di mana data disimpan? Penyedia mana yang kita andalkan? Seberapa tangguh pilihan teknologi kita? Apa yang terjadi jika keadaan komersial, hukum, atau geopolitik berubah?
Penting untuk menjelaskan apa yang bisa dimaksud dengan kedaulatan bagi perusahaan. Kedaulatan penuh dalam pemrosesan, termasuk kontrol atas chip, infrastruktur, dan rantai pasokan, jauh di luar jangkauan sebagian besar organisasi. Tujuan yang lebih praktis adalah ketahanan pemrosesan: memahami di mana ketergantungan kritis berada, memastikan tidak ada satu vendor, penyedia cloud, atau model yang menjadi titik tekanan, dan mempertahankan kendali atas lapisan tumpukan AI yang tetap berada dalam pengaruh organisasi.
Sumber terbuka bisa mendukung ini dengan memberikan transparansi dan kontrol lebih besar atas kode, tetapi tidak menghilangkan ketergantungan infrastruktur dengan sendirinya. Sebuah organisasi mungkin menggunakan model terbuka, tetapi masih bergantung pada kapasitas pemrosesan atau cloud eksternal untuk mengoperasikannya.
Organisasi seharusnya mengadopsi pendekatan kedaulatan sejak desain dalam inovasi. Kedaulatan tidak seharusnya dipertimbangkan setelah keputusan teknologi dibuat; itu perlu dimasukkan dalam keputusan tentang arsitektur data, pemilihan vendor, dan manajemen risiko sejak awal, dengan ketahanan, bukan kemandirian penuh, sebagai target yang realistis.
Penting untuk dicatat bahwa tidak setiap dataset, proses, atau beban kerja membawa tingkat risiko yang sama. Organisasi seharusnya mengadopsi pendekatan bertingkat, menerapkan persyaratan kedaulatan yang paling ketat di mana sensitivitas data, eksposur regulasi, atau kepentingan operasional memerlukan hal itu.
Pertanyaan-pertanyaan ini bukanlah isu abstrak. Melihat tata kelola AI dan kedaulatan sebagai tantangan yang saling terhubung menciptakan kesempatan untuk membangun pendekatan yang lebih koheren. Ini bukan untuk isolasi teknologi atau menarik diri dari ekosistem teknologi global, tujuannya lebih sempit dari itu. Ini tentang memastikan organisasi mempertahankan kebebasan tindakan yang berarti dalam lingkungan yang semakin kompleks dan tidak pasti.
Peluang Sebenarnya
Perdebatan tentang inovasi, regulasi, dan kedaulatan akan terus berlanjut. Eropa akan terus menyempurnakan pendekatannya terhadap AI, dan organisasi akan terus beradaptasi dengan teknologi baru, penyedia baru, dan risiko baru. Pertanyaan yang lebih penting adalah apakah organisasi memanfaatkan peluang ini untuk membangun kemampuan yang akan mereka perlukan dalam jangka panjang, bukan hanya menganggap setiap pencapaian regulasi sebagai tenggat waktu terpisah.
Tata kelola seharusnya tidak dipandang sebagai latihan kepatuhan yang memperlambat inovasi. Melainkan, ini adalah kemampuan institusi yang memungkinkan organisasi untuk berinovasi secara berkelanjutan, mengadopsi teknologi baru dengan percaya diri, dan tetap tangguh saat pasar, regulasi, serta kondisi geopolitik berubah.
Tujuan akhir adalah inovasi yang dibangun di atas kepercayaan, dan kita memiliki kemampuan untuk mewujudkannya terlepas dari tenggat waktu regulasi. Tes sesungguhnya bukan pada apakah organisasi membangun setiap bagian dari sistem yang mereka andalkan, tetapi apakah mereka memahami ketergantungan mereka dengan cukup baik untuk mengubah arah jika diperlukan.
