Dalam setahun terakhir, banyak kekhawatiran muncul mengenai potensi bahaya yang ditimbulkan oleh kecerdasan buatan, serta perdebatan mengenai cara yang tepat untuk memastikan keselamatan AI. Sekarang, terlihat bahwa Anthropic mengajukan visi mereka tentang bagaimana pemerintah bisa mengatur industri ini.
Politico baru-baru ini melaporkan bahwa laboratorium AI ini sedang mengajukan rancangan undang-undang baru mengenai keselamatan AI yang diharapkan bisa dipertimbangkan oleh Kongres. Rancangan undang-undang ini mengusulkan situasi tertentu di mana peluncuran model AI dapat diblokir dari distribusi.
Situasi tersebut melibatkan “risiko yang dapat diperkirakan dan segera muncul,” di mana lebih dari 50 orang terancam kehilangan nyawa atau jika kerusakan properti bisa mencapai lebih dari satu miliar dolar. Risiko katastropik yang dimaksud harus “berasal dari pembuatan atau peluncuran senjata biologis, model yang menghindari kontrol pengembangnya, atau serangan siber,” tulis Politico.
Metode penilaian yang diajukan ini—50 orang dan satu miliar dolar—serupa dengan ketentuan dalam undang-undang di California yang baru-baru ini disahkan, yaitu Senate Bill 53. Undang-undang tersebut juga mendefinisikan situasi-situasi tersebut sebagai “risiko katastropik.”
Rancangan undang-undang Anthropic menyarankan agar analisis potensi bencana dari sebuah model dilakukan oleh “penilai independen” yang terdaftar di Departemen Perdagangan AS. Penilai ini bisa jadi dibayar oleh laboratorium AI sendiri, asalkan “pembayaran tidak tergantung pada hasil evaluasi,” lanjut Politico.
Masih belum jelas bagaimana sistem yang diusulkan ini akan memastikan bahwa pembayaran tidak memengaruhi penilaian. Demis Hassabis, ketua DeepMind, beberapa bulan lalu mengusulkan bahwa badan regulasi AI yang mandiri seharusnya meniru Financial Industry Regulatory Authority (FINRA) di industri keuangan.
Dalam rancangan undang-undang Anthropic, ketika penilai menentukan bahwa risiko katastropik yang mendesak muncul, mereka memiliki waktu 72 jam untuk menghubungi Departemen Perdagangan. Departemen Perdagangan kemudian harus meminta kepada hakim di D.C. untuk menghentikan peluncuran model tersebut. Undang-undang ini secara eksplisit melarang agensi federal mana pun untuk memiliki kewenangan menghentikan distribusi model secara sepihak, tulis Politico.
Anthropic tidak langsung menjawab permohonan komentar dari TechCrunch, tetapi seorang juru bicara mengonfirmasi adanya rancangan undang-undang ini kepada Politico. “Rancangan ini mencerminkan proposal yang diuraikan dalam Kerangka AI Lanjutan Anthropic, yang telah kami dorong kepada pembuat undang-undang federal dan negara bagian sejak bulan Juni,” kata juru bicara tersebut.
Risiko teoretis yang diusulkan dalam kebijakan rancangan ini cukup jauh dari insiden yang akhir-akhir ini menjadi fokus perhatian industri teknologi. Sementara beberapa orang memperingatkan potensi kematian manusia, kekhawatiran utama lebih banyak berkisar pada ancaman peretasan yang dilakukan oleh agen AI. Rentetan insiden di mana program AI tampaknya tidak mematuhi pengendali manusia dan meretas situs web di internet telah memicu keprihatinan bahwa model-model ini mungkin kekurangan kontrol keamanan yang memadai.
Dengan memberikan solusi terhadap krisis yang ditimbulkan oleh laboratorium itu sendiri, perusahaan-perusahaan seperti Anthropic menawarkan solusi mereka sendiri.
Meski laboratorium terus memperingatkan bahwa teknologi yang mereka jual bisa berakibat fatal bagi peradaban manusia, mereka terlihat lebih resisten terhadap pengawasan pemerintah yang wajib. Sebagai alternatif, mereka mengusulkan sistem penilai yang bersifat sukarela—katanya sebagai pengamat pihak ketiga yang “netral” yang ditempatkan di organisasi AI untuk memantau model-model terkait potensi risiko atau penyalahgunaan.
Walau begitu, usulan legislasi Anthropic tampaknya sedikit lebih jauh dibandingkan proposal regulasi dari industri, termasuk dari Nvidia. CEO Jensen Huang baru-baru ini berargumen bahwa industri AI tidak memerlukan hukum baru sama sekali.
