Tren besar dalam dunia robotika saat ini adalah menyerahkan kendali pada model AI generatif. Namun, tantangan yang muncul adalah bahwa arsitektur ini tidak dapat diprediksi seperti algoritma tradisional. Bagaimana kita bisa yakin bahwa robot humanoid baru kita akan aman?
Dr. Ding Zhao yang memimpin Safe AI Lab di Carnegie Mellon University, telah menghabiskan hampir seluruh karirnya untuk menyelesaikan masalah ini. Bersama eksekutif startup veteran Kyle Wong dan insinyur pembelajaran mesin Simo Rachidi, mereka mendirikan sebuah perusahaan bernama Safeworld yang bertujuan untuk mengatasi hal ini.
“Tantangan keselamatan yang kita bicarakan adalah kombinasi antara evaluasi probabilistik AI generatif yang sangat maju — bagaimana cara kita menilai risiko dari sistem probabilistik?” kata Zhao. “Bagian kedua yang sulit adalah masalah kepercayaan, dan kita butuh keduanya untuk menerapkan robot.”
Safeworld kini muncul dari tahap stealth dengan putaran pendanaan awal lebih dari $12 juta, yang dipimpin oleh Shine Capital dan a16z Speedrun, disertai investasi tambahan dari Box Group, Dana Abadi Carnegie Mellon University, Innovation Endeavors, dan SV Angel.
“Waktu untuk membangun standar keselamatan industri adalah sekarang, sementara robot sedang dirancang dan diterapkan,” ujar Jonathan Lai, mitra di a16z Speedrun. “Terlambat jika sudah ada robot di rumah yang berinteraksi dengan anak-anak dan menyebabkan insiden keselamatan.”
Khususitas Safeworld adalah menilai sistem kontrol robot dalam simulasi yang dilengkapi dengan model manusia yang realistis. Hal ini mirip dengan tantangan yang dihadapi oleh perusahaan seperti Tesla atau Wayve, yang harus memastikan kendaraan mereka dapat bereaksi dengan benar terhadap berbagai kejadian tak terduga di jalan. Namun, Zhao berpendapat bahwa itu akan lebih sulit untuk robot karena mereka beroperasi di lingkungan yang tidak terstruktur, dan setiap fasilitas yang mereka masuki memiliki standar keselamatan yang berbeda.
“Salah satu area umum adalah jika terdapat sudut buta di pabrik tertentu,” kata Wong. “Apa kecepatan atau jarak berhenti yang diperlukan untuk memastikan robot ini tidak akan bertabrakan dengan manusia? Jika manusia membawa kotak, misalnya, apakah robot akan mendeteksi manusia tersebut?”
Untuk menjawab pertanyaan itu, Safeworld akan membangun versi digital dari sudut tersebut menggunakan model seperti Genesis atau MuJoCo, menempatkan simulasi robot yang sedang dinilai, dioperasikan dengan perangkat lunak aslinya, dan menjalankan ribuan skenario di mana model manusia berinteraksi dengan robot. Ini lebih sulit dari yang terlihat, menurut Zhao, karena perilaku manusia itu tidak terduga.
Kejadian terjatuh, misalnya, menjadi salah satu contoh yang banyak diuji dalam simulasi tersebut, menurut Wong. “Jika tidak, Anda harus berupaya menjatuhkan diri untuk robot, yang tentunya sangat merepotkan.”
Ada kemiripan jelas antara platform yang dibangun Safeworld dan alat yang digunakan secara internal oleh pembangun robot. Namun, para pendiri percaya bahwa lebih dari sekadar keahlian mereka, pembuat robot akan ingin pihak ketiga untuk memvalidasi pekerjaan mereka, sekadar untuk berbagi informasi tentang kasus keselamatan di antara pesaing.
“Banyak orang meremehkan seberapa sulitnya beberapa kasus ekstrem ini untuk diselesaikan,” kata Zhao. “Yang kami khawatirkan bukan robot saat diuji dalam demo, tapi robot yang digunakan dalam skala besar, dengan orang yang mungkin belum pernah mengoperasikan robot sebelumnya.”
Vishal Dugar, CTO dari Gritt Robotics, sedang mengembangkan otak AI untuk robot yang membantu pekerja dalam memasang panel fotovoltaik di ladang solar berskala industri, dan bercita-cita mengambil alih tugas konstruksi yang lebih kompleks. Perusahaannya bermitra dengan Safeworld saat mereka mengembangkan simulasi keselamatan.
“Kesulitan dengan sebagian besar sistem kami adalah sangat sulit untuk membuktikannya secara formal melalui matematika, menulis beberapa persamaan, dan bilang ya, sistem ini terverifikasi aman,” kata Dugar. “Hal itu harus dilakukan secara empiris.”
Robot-robotnya beroperasi berdampingan dengan pekerja manusia, dan memastikan bahwa lengan robot tidak mengenai mereka adalah hal yang sangat penting. Untuk memverifikasi ini dalam praktiknya membutuhkan pertimbangan atas berbagai potensi skenario.
“Manusia memiliki berbagai penampilan,” ujar Dugar. “Tubuh mereka bisa dalam berbagai konfigurasi, bisa berlutut, berdiri, terjatuh, atau berlari. Anda harus dapat merespons semua perilaku ini yang mungkin ditunjukkan manusia di lokasi tersebut, bersama dengan variasi penampilan manusia, seperti pakaian, ukuran, bentuk, tinggi, warna kulit, dan lain-lain.”
Ini masih awal untuk Safeworld dan AI generatif dalam robotika, dan perusahaan masih mencari model terbaik untuk produknya — apakah platform untuk pengguna eksternal, atau pendekatan berbasis layanan. Namun, tim yakin mereka sedang menangani masalah yang tepat.
“Kami mungkin akan menjadi perusahaan pertama yang menguntungkan di bidang ini,” kata Zhao. “Karena jika seseorang ingin menerapkan, mereka perlu membayar kami untuk menangani situasi tersebut.”
