Satya Nadella peringatkan pengguna AI: ‘Jangan berikan terlalu banyak, Anda bisa membayar dua kali untuk intelijen’

CEO Microsoft, Satya Nadella, memberikan peringatan bahwa perusahaan-perusahaan AI besar sedang menggunakan model proprietary mereka untuk mengumpulkan rahasia bisnis milik pelanggan mereka

Rahasia-rahasia ini kemudian digunakan untuk melatih model AI yang lebih maju, yang akan dijual kepada pesaing dari pelanggan tersebut. Namun, Nadella mengatakan bahwa ada cara untuk tetap kompetitif tanpa terjebak pada satu penyedia AI saja.

Dalam sebuah postingan blog, Nadella menjelaskan inti dari masalah ini, yaitu, “Anda sebenarnya membayar untuk kecerdasan dua kali, sekali dengan uang, dan sekali lagi dengan sesuatu yang bahkan lebih berharga: pengetahuan proprietary yang harus Anda ungkapkan agar kecerdasan itu berguna. Semakin baik Anda ingin model tersebut berfungsi, semakin banyak pengetahuan yang harus Anda masukkan!”

Intinya, Nadella menyatakan bahwa perusahaan AI sedang memanen data bisnis yang sensitif dari pelanggan mereka, menggunakannya untuk membuat pelatihan model mereka lebih murah, lalu meluncurkan model-model ini untuk digunakan oleh kompetisi pelanggan mereka.

“Pengetahuan yang tidak mungkin dibeli oleh pesaing”

Nadella menjelaskan bahwa “model belajar dari ‘ekor,’ prompt yang ditulis orang, alat yang digunakan agen, dan terutama koreksi yang dilakukan orang jika modelnya salah. Setiap koreksi tersebut diringkas menjadi pengetahuan institusional.”

Ia juga mengkritik bagaimana perusahaan-perusahaan AI semakin mengeluh tentang modelos mereka yang didistilasi oleh kompetisi mereka sendiri. Contohnya, Anthropic menuduh perusahaan ritel Alibaba telah menggunakan ribuan prompt Claude untuk mendistilasi model mereka sendiri. Dengan memahami bagaimana model proprietary bekerja, tidak perlu menghabiskan banyak modal untuk mendapatkan data pelatihan dan membuat model AI sendiri.

Bagi Nadella, ini adalah sebuah kontradiksi besar dalam cara perusahaan-perusahaan AI bekerja. “Meskipun inovasi hebat yang berasal dari penyedia model memiliki hak penggunaan yang adil untuk melatih model pada data publik sangat diperlukan, saya merasa ironis bahwa status quo adalah kemudian berbalik dan memberlakukan syarat-syarat yang membatasi pada distilasi,” katanya.

Oleh karena itu, adalah hipokrit bagi perusahaan-perusahaan AI untuk menuduh perusahaan lain mendistilasi produk mereka sendiri sementara dalam kontrak penggunaan AI mereka terdapat klausul yang memungkinkan perusahaan-perusahaan AI untuk “menyimpan hak untuk belajar dari penggunaan dan data interaksi pelanggan.”

“Dalam mengkonsumsi kecerdasan, Anda sedang menciptakan kecerdasan. Dan apa yang Anda ciptakan seharusnya menjadi milik Anda,” tambah Nadella.

On-prem Kembali Populer

Solusi yang ditawarkan Nadella untuk masalah yang semakin meningkat ini adalah kembali ke model on-prem. Ia mendorong bisnis untuk “mempertahankan kepemilikan” atas data yang mereka masukkan ke dalam model AI dengan beralih ke penggunaan “lingkungan pembelajaran proprietary” yang dibangun di atas cloud.

Keuntungan tambahan dari beralih ke lingkungan ini adalah memungkinkan bisnis untuk beralih antara berbagai model AI yang disediakan oleh berbagai perusahaan menggunakan “layer orkestrasi” dan gerbang AI.

Kini ada juga tren yang semakin berkembang di mana bisnis beralih ke penggunaan teknologi open source, yang beriringan dengan bisnis yang beroperasi di cloud. Bisnis dapat melatih model AI open source menggunakan data mereka yang sudah tersedia di cloud untuk melakukan banyak hal yang dilakukan oleh model proprietary, dengan biaya yang jauh lebih murah—dan tanpa menyerahkan data sensitif yang sama untuk digunakan oleh perusahaan AI dalam melatih model mereka sendiri.

Solusi on-prem juga memiliki manfaat tambahan. Model AI yang dioperasikan secara lokal di pabrik-pabrik, toko-toko, dan lokasi lainnya jauh lebih murah dan membutuhkan perangkat keras yang kurang spesialis. Bisnis yang beroperasi dengan model cloud terpusat semakin menghadapi masalah biaya pengeluaran data, pembengkakan penyimpanan, dan perangkat keras khusus yang tidak terpakai.

Google Cloud baru-baru ini merilis laporan tentang masalah ini dan juga mendorong bisnis untuk beralih ke penggunaan gerbang AI dan model on-prem untuk mengurangi latensi, meningkatkan ketahanan, dan memotong biaya per-token dengan beralih ke model lokal yang sangat teroptimasi.