Pemerintah negara bagian Delaware di AS berencana menambah regulasi bisnisnya yang menguntungkan dengan memungkinkan perusahaan yang dijalankan oleh agen AI. Namun, para legislator di Kongres mengungkapkan keraguan mereka. Salah satu perwakilan dari Partai Republik, James Comer, telah mengirim surat kepada gubernur Delaware yang menyampaikan kekhawatirannya dan meminta evaluasi keselamatan.
Perusahaan yang beralamat di Delaware beroperasi di bawah berbagai regulasi yang menguntungkan, seperti tarif pajak yang rendah (atau bahkan nol, tergantung pada lokasi penjualan) dan pengadilan khusus. Prospek pendirian perusahaan yang dikelola oleh AI (Artificial Intelligence Company/AIC) tampaknya tidak terlalu jauh. Namun, para ahli hukum berpandangan bahwa undang-undang Delaware bisa menjadi cara untuk menerapkan perlindungan tanggung jawab bagi bisnis yang memiliki kepentingan AI.
Rencana Delaware kini berada dalam sorotan Komite Pengawasan DPR, dengan Comer menekankan potensi bahaya menempatkan AI sebagai penguasa perusahaan. Dalam suratnya kepada gubernur Matt Meyer, Comer mengekspresikan kekhawatirannya. Ia menulis, “Kami khawatir bahwa proposal AIC Delaware dapat digunakan untuk melindungi perusahaan-perusahaan AI besar dan para investornya dari tanggung jawab atas tindakan tidak bertanggung jawab yang merugikan.”
Intinya, jika terjadi masalah, AI yang akan disalahkan dan pemilik perusahaan tidak memiliki tanggung jawab. Draf undang-undang ini menetapkan periode regulasi selama 30 bulan di mana AI akan diuji. Dalam waktu tersebut, konsep ini dapat diuji dengan agen AI yang mengambil keputusan bisnis ketimbang manusia. Seperti perusahaan lainnya, AIC juga dapat digugat dan mengambil tindakan hukum jika diperlukan.
Rencana Delaware berpotensi membantu pembentukan struktur korporasi yang berfokus pada AI, seperti bisnis perdagangan otonom. Banyak yang percaya ini bisa terjadi di luar negeri jika tidak ada negara bagian di AS yang bertindak cepat. Sejumlah tokoh bisnis dan AI juga sebelumnya mendukung gagasan perusahaan yang dijalankan oleh AI. Salah satu yang paling terkenal adalah Mark Cuban, investor miliarder yang menyarankan bahwa “siapa pun yang ingin mengembangkan pendapatan mereka” harus membolehkan “siapa pun untuk mengadakan perusahaan menggunakan agen AI dan stablecoin.”
Andrew Baker, profesor hukum di University of California, mengisyaratkan bahwa undang-undang Delaware bisa jadi merupakan upaya untuk mencapai titik tengah, mungkin untuk mencapai “kepastian hukum” bagi bisnis yang terdaftar di Delaware dan menggunakan AI yang berperan aktif. “Pada akhirnya, hasil paling mungkin muncul adalah perlindungan tanggung jawab yang terlalu murah hati, yang tampaknya tidak layak tanpa kebijakan dasar yang belum dikembangkan atau dijelaskan dengan baik,” kata Baker.
Seperti yang diketahui, perusahaan berfungsi sebagai perisai terhadap tanggung jawab pribadi. Namun, kasus-kasus tersebut melibatkan bisnis yang dijalankan manusia yang harus bertanggung jawab, baik kepada diri sendiri maupun kepada hukum. Berbeda dengan itu, agen AI tidak memiliki batasan moral seperti itu.
