Vercel, dikenal dengan infrastruktur cloud yang memudahkan pengembang untuk menyebarkan agen tanpa harus mengelola server, secara diam-diam telah menjelma menjadi salah satu perusahaan paling sentral dalam perangkat lunak AI. Saat ini, perusahaan ini mengalami 6 juta penyebaran per hari, setengah di antaranya berasal dari agen pengkodean, dan lebih dari 1 triliun token mengalir melalui gerbang AI perusahaan ini setiap harinya.
Setelah konferensi ShipNYC minggu lalu, kami berbincang dengan CEO Vercel, Guillermo Rauch, untuk mendengar pandangannya tentang momen dalam dunia AI ini, serta bagaimana perusahaan platform seperti Vercel bersaing dengan laboratorium besar. Berikut adalah transkrip yang telah sedikit disunting.
Tahun ini terasa ada energi yang berbeda di komunitas, lebih sedikit program percobaan dan fokus lebih pada bagaimana semua ini dapat berjalan dengan baik dalam praktiknya. Saya yakin Anda sudah banyak melihat ini dengan klien, namun saya penasaran perjalanannya seperti apa di dalam Vercel.
Tahun lalu adalah tentang prototyping. Langit adalah batasnya, lepaskan agen, semua orang bisa membangun, dan seterusnya. Kami melakukan itu, dan banyak yang kami pelajari karena kami memiliki ratusan agen yang dikembangkan secara organik dan disebarkan dalam perusahaan. Namun kemudian, mulai muncul tantangan ketika menjalankan agen dalam produksi.
Bagi saya, pelajaran terbesar adalah mengidentifikasi penggunaan utama agen. Satu adalah agen pengkodean, tentu saja, yang banyak mendorong pemanfaatan token di dunia. Tapi saat Anda banyak memproduksi perangkat lunak, Anda perlu tempat untuk menaruhnya. Penggunaan utama lainnya dari agen adalah agen internal yang membantu Anda menjalankan perusahaan. Tantangannya adalah, bagaimana Anda mengakses data dengan aman? Bagaimana Anda mengaudit apa yang dilakukan agen tersebut? Bagaimana Anda mendapatkan jejak semua panggilan alat dan kontrol akses yang harus dilakukan agen untuk menyelesaikan pekerjaan?
Untuk menyelesaikan masalah itu, kami merancang kerangka kerja yang disebut Eve, di mana Anda dapat menetapkan instruksi dan kemampuan agen dalam bahasa alami. Alat lainnya adalah Vercel Sandbox, tempat Anda menempatkan agen dalam ‘kandang’. Ini memberi kebebasan bagi agen untuk mengekspresikan kecerdasannya, namun Anda dapat menerapkan kebijakan tentang data yang bisa diakses dan data yang bisa keluar dari sandbox.
Apa saja masalah yang dapat dihindari dengan cara ini?
Bagi sandbox, keuntungan terbesar adalah kontrol data. Risiko nyata dari AI yang selalu saya pikirkan adalah ketika Anda memiliki IDE pengkodean seperti Devin atau Cursor, jika Anda berada di pengaturan yang salah, mereka mungkin melatih seluruh basis kode Anda. Saya ingat berbicara dengan presiden Airbus tentang ini. Mereka memiliki kekayaan kode C++ yang sangat spesifik untuk rekayasa dirgantara selama beberapa dekade. Seseorang datang dan menginstal alat pengembang yang salah dan boom, seluruh kode itu keluar ke cloud untuk dilatih.
Saya penasaran untuk mendengar lebih banyak tentang penggunaan utama kedua ini. Kita semua tahu tentang agen pengkodean, tapi seperti apa bentuk agen internal di perusahaan dalam praktiknya?
Misalnya, ada seorang wakil penjualan di kantor Vercel yang bekerja dengan basis pelanggan yang ada. Tugasnya adalah memberdayakan akun yang sudah ada. Botol leher untuk orang-orang seperti dia bukan pada kreativitas, kecerdasan, atau kemampuannya membangun hubungan, tetapi pada data. “Saya tidak mengerti akun mana yang tumbuh lebih cepat. Berikan saya lima akun yang telah menambah kursi terbanyak dalam dua minggu terakhir, agar saya bisa memprioritaskan pekerjaan saya.†Dia tidak bisa mengajukan pertanyaan itu sebelumnya dan harus menunggu hingga proyek kuartal pertama untuk dashboard penjualan selesai.
Kami mengalami kendala itu selama bertahun-tahun di Vercel, dan itu sangat frustrasi karena di sisi R&D, kami adalah perusahaan yang bergerak paling cepat di dunia. Namun di sisi mesin penjualan, saya sangat tidak kompeten. Saya bahkan belum pernah membuka Salesforce sepanjang hidup saya saat mulai bekerja di sini.
Sekarang, saya merasa bisa memberi dampak ke seluruh perusahaan karena Eve dapat digunakan untuk agen yang berhubungan dengan pelanggan dan juga meningkatkan produktivitas. Teknologi yang sama, hanya API. Agen memaksa perusahaan untuk terbuka, dan ini akan berdampak besar dalam jangka panjang. Banyak raksasa SaaS membangun kekuatan mereka dengan menjebak data Anda, dan itu tidak kompatibel dengan agen.
Bagaimana Anda melihat perubahan hubungan klien dengan laboratorium AI besar?
Tahun lalu, banyak orang memilih satu mitra laboratorium — menyatakan bahwa mereka akan membangun semuanya di atas OpenAI atau Anthropic. Sekarang mereka mengatakan, saya mengerti bagaimana semua ini bekerja — model, harness, platform data, sandbox, gerbang — setiap bagian dapat dipasang dan dimainkan. Anda bisa menggunakan OpenAI, Anthropic, atau Gemini. Kami melihat banyak pertumbuhan Gemini, meskipun tidak terlalu banyak diberitakan, karena orang-orang sekarang mengoptimalkan untuk produksi. Kenyataannya, saat Anda mengoptimalkan untuk produksi, Anda mulai memperhatikan harga/kinerja, dan model Gemini memiliki karakteristik harga/kinerja yang menarik. Anda juga membawa model-model terbuka, jadi DeepSeek dan GLM-5.2 mulai banyak digunakan. Data tidak berbohong.
Di tempat-tempat tertentu, Anda juga bersaing langsung dengan laboratorium, bukan? Baru-baru ini, OpenAI merilis sekumpulan alat baru yang mempublikasikan langsung ke web tanpa harus keluar dari lingkungan OpenAI.
Ini adalah langkah alami bagi mereka untuk menghosting website kecil. Dan ini adalah kesempatan besar bagi kami, karena sekarang orang-orang akan memikirkan ChatGPT sebagai alat untuk membuat website. Jika mereka terus bertanya kepada model tentang hosting web, model tersebut merekomendasikan kami. Tapi Anda benar, seiring model atau platform menambah lebih banyak kemampuan, mereka menjadi pesaing langsung dengan platform infrastruktur yang sudah ada.
Saya benar-benar berpikir kita sekarang sedang memutuskan apakah model dan agen akan saling terkait. Apakah Anda mendapatkan semua kecerdasan Anda dari satu tempat? Atau apakah Anda mendapatkan modul, perpustakaan, atau blok bangunan dari satu penyedia, dan kemudian Anda membangunnya di atasnya? Itu lebih mirip dengan cara rekayasa perangkat lunak selama ini, dan itulah yang sebenarnya kami tawarkan ke pasar. Kami akan menjadi AWS generasi ini, jadi jelas kami bertarung untuk dunia dengan protokol terbuka.
