New York bersiap untuk menerapkan salah satu undang-undang keselamatan AI yang paling signifikan di negara ini. Pada hari Selasa, negara bagian tersebut membuka portal pendaftaran, yang mana pengembang AI besar seperti Anthropic dan OpenAI diwajibkan untuk mendaftar sebelum 1 Januari 2027.
RAISE Act, undang-undang keselamatan dan transparansi New York, mulai berlaku awal tahun depan. Undang-undang ini mewajibkan pengembang besar—perusahaan dengan pendapatan tahunan lebih dari 500 juta dolar—untuk menerbitkan kerangka keselamatan di situs web mereka, melaporkan insiden keselamatan kritis dalam waktu 72 jam, dan menerbitkan laporan transparansi publik mengenai model yang digunakan.
Kantor inovasi digital yang baru dibentuk, yaitu Office of Digital Innovation, Governance, Integrity, and Trust (DIGIT), akan menerapkan RAISE Act dan mengawasi laboratorium AI besar. Denda dapat mencapai satu juta dolar untuk pelanggaran pertama dan tiga juta dolar untuk pelanggaran selanjutnya.
Negara bagian juga bisa mengambil tindakan hukum terhadap perusahaan yang gagal mendaftar melalui portal baru ini, meskipun seorang juru bicara menolak memberikan rincian lebih lanjut.
“Para raksasa teknologi mengatakan kepada kami bahwa visi mereka untuk AI adalah hal yang tidak terhindarkan,” kata Gubernur Kathy Hochul pada konferensi pers. “Mereka memberi tahu kami untuk segera bergabung atau tertinggal… Bahwa kerugian sekunder itu sebanding selama kita memenangkan perlombaan menuju tebing AI.”
Pada hari Selasa, Hochul juga meluncurkan New York Center for AI Responsibility and Research yang berbasis di Universitas Negeri New York, Binghamton University. Pusat ini akan mengevaluasi secara independen keselamatan, keamanan, dan operasional sistem AI canggih serta bekerja sama dengan DIGIT untuk meninjau kerangka keselamatan perusahaan. Hochul pertama kali mengumumkan pusat ini pada bulan Januari dengan donasi dan modal sebesar 55 juta dolar.
“Kami sedang membangun model nasional untuk regulasi AI yang cerdas dan masuk akal, model yang mengutamakan komunitas di atas perusahaan dan manusia di atas teknologi yang kuat,” ujar Hochul.
RAISE Act bukan satu-satunya undang-undang keselamatan yang diterapkan New York. Tahun lalu, negara ini mulai memberlakukan undang-undang yang mengharuskan operator AI companion untuk secara rutin memberitahu pengguna bahwa mereka sedang berinteraksi dengan bot, serta melakukan upaya yang wajar untuk mendeteksi ide bunuh diri dan perilaku merugikan diri sendiri.
Pada bulan Oktober, Hochul menandatangani undang-undang keselamatan chatbot terpisah untuk anak di bawah umur, yang membatasi perilaku seperti interaksi yang tampak manusiawi namun menipu, respons yang manipulatif secara emosional, serta dorongan untuk perilaku seperti bunuh diri atau gangguan makan. Undang-undang ini akan berlaku pada 1 Juni 2027.
Negara bagian lain juga telah mengesahkan undang-undang keselamatan dan transparansi AI yang serupa dengan RAISE Act. California dengan SB 53, yang mulai berlaku pada bulan Januari, mewajibkan laboratorium AI di garis depan untuk memiliki dan menerbitkan kerangka keselamatan, menjalankan perlindungan pelapor, serta melaporkan insiden keselamatan kritis dalam waktu 15 hari. Illinois dengan SB 315, yang akan berlaku pada awal tahun 2027, memiliki persyaratan serupa, termasuk audit kepatuhan keselamatan yang independen.

