Undang-undang AI Uni Eropa akan berlaku untuk bisnis di Inggris dalam beberapa bulan ke depan. Namun, seberapa efektif regulasi ini dalam mengikuti perkembangan AI masih menjadi tanda tanya.
Sebenarnya, pragmatisme manusia dan otoritas yang sudah ada diperkirakan akan berperan lebih besar dalam menetapkan batasan bagi bisnis terkait AI dibandingkan dengan regulasi baru.
Khususnya litigasi akan berpengaruh besar dalam cara kita menggunakan dan mengatur alat-alat AI ini.
Teknologi AI telah mengalami perkembang pesat dalam beberapa tahun terakhir. Model-model dasar terbaru kini dirilis hampir setiap bulan, bukan lagi setiap enam bulan sekali.
Di sisi lain, proses pembuatan undang-undang terkenal lamban. Legislasi sering melalui banyak tahapan dan negosiasi yang berlarut-larut sebelum akhirnya disahkan.
Membuat regulasi baru mungkin sedikit lebih cepat, tetapi sering kali datang terlambat atau tidak sesuai dengan kebutuhan pasar yang bergerak cepat.
Peringatan Mythos
Model Mythos dari Anthropic adalah contoh nyata dari masalah ini. LLM baru ini memicu kekhawatiran global karena kemampuannya mendeteksi kerentanan zero-day dalam sistem IT, yang berpotensi menghadapkan infrastruktur keamanan siber dunia pada risiko besar.
Pengumuman tentang keberadaannya terjadi pada 7 April, bersamaan dengan niatan Anthropic untuk membatasi penggunaan model tersebut hanya untuk beberapa perusahaan teknologi dan bank besar seperti Apple dan Goldman Sachs. Namun, pada 22 April, Anthropic sudah menyelidiki laporan mengenai akses tidak sah terhadap model ini.
Kita juga telah melihat risiko signifikan dalam rantai pasokan perangkat lunak, seperti peretasan LiteLLM yang menyebabkan kebocoran data Mercor. Meskipun saat ini infrastruktur keamanan internet belum runtuh, tim keamanan dan kepatuhan kehilangan tidur memikirkan risikonya.
Penting untuk dicatat bahwa jarak antara pengetahuan tentang keberadaan Mythos dan risiko nyata yang ditimbulkannya di dunia nyata hanya terukur dalam hitungan hari, bukan tahun. Dalam rentang waktu tersebut, tidak mungkin bagi para pembuat undang-undang untuk memahami perkembangan baru yang diwakili oleh Mythos, mempertimbangkan dampak potensinya, dan menyesuaikan undang-undang yang berlaku.
Dalam konteks hukum, AI bisa dibilang sebagai ‘ikan yang licin’. Di sinilah kita lebih mungkin melihat regulator dan pengacara mengandalkan aturan yang sudah ada, ketimbang menunggu sesuatu yang baru.
Panggil Pengacara
Dalam konteks ini, pengawasan terhadap industri AI akan datang dari sumber lain. Alih-alih bergantung pada teknologi generasi berikutnya, bisnis perlu mengandalkan atribut paling manusiawi – akal sehat dan insting bertahan hidup. Pragmatism yang dipicu oleh ancaman litigasi dan denda dalam kerangka tanggung jawab baru kemungkinan besar akan membatasi penerapan AI yang merugikan atau tidak bertanggung jawab jauh lebih awal dibandingkan regulasi formal.
Dengan kata lain, jika gugatan berhasil diajukan untuk penciptaan atau penggunaan AI yang tidak etis, kita bisa berharap industri akan melakukan lebih banyak tindakan pencegahan – bukan karena adanya regulasi yang melihat segalanya, tetapi karena preseden dari litigasi tersebut.
Ini bukan sekadar harapan. Perusahaan AI Mercor, yang bernilai $10 miliar, sudah menghadapi tujuh gugatan class-action setelah kebocoran data yang menimbulkan tanda tanya tentang asal-usul data pelatihannya dan ketidakjelasan dalam praktik mereka. Menurut gugatan tersebut, Mercor diduga memantau komputer kontraktornya dan membagikan data yang dihasilkannya kepada klien, menggunakan wawancara calon yang direkam untuk melatih model AI, serta melatih model klien dengan bahan yang mungkin dimiliki oleh perusahaan lain.
Gugatan terhadap Mercor didasarkan pada undang-undang dan regulasi yang sudah ada, termasuk privasi, keamanan siber, dan bahkan penyimpanan catatan. Ini menunjukkan bahwa klaim yang muncul dari masalah AI tidak membutuhkan undang-undang atau regulasi baru, dan pengacara kemungkinan besar tidak akan berhenti sampai di sini. Seiring waktu, tindakan hukum yang menargetkan penggunaan yang tidak benar, kebocoran, atau bias akan menciptakan kerangka preseden hukum yang berdampak pada pasar, sama pentingnya dengan regulasi baru terkait AI.
Defensibility – Pendekatan Pragmatik
Akibatnya, para pemimpin akan menyadari perlunya pendekatan pragmatik dalam membangun dan menggunakan model AI. Seiring meningkatnya kasus litigasi terkait AI, semakin jelas bahwa organisasi harus dapat membela pelatihan, penggunaan, dan operasi berkelanjutan dari aplikasi dan agen AI.
Ini penting bukan hanya ketika pengacara atau regulator datang, tetapi juga untuk menjaga hubungan baik dengan pengasuransian siber.
Sama seperti restoran yang menangani alergen atau rumah sakit yang mengelola izin pasien, industri AI mungkin akan dibentuk oleh pengadilan jauh lebih cepat daripada oleh parlemen dan legislasi.
Karena itu, bisnis AI perlu menerapkan pendekatan terstruktur dan cerdas terhadap praktik tata kelola data dan AI mereka. Mereka harus memahami asal-usul data mereka, bagaimana data tersebut dikelola, dan bagaimana AI serta agen dapat mengakses dan menggunakannya, serta memantau hasilnya.
Tanpa praktik dasar tata kelola data, risiko kesalahan meningkat secara eksponensial, berpotensi mengekspos organisasi pada litigasi, meskipun tidak ada regulasi AI tertentu yang membatasi aktivitas yang dimaksud.
Pragmatisme akan menentukan kecepatan – teknologi akan membuatnya menjadi mungkin.
