Perusahaan infrastruktur AI, Infinity, baru saja mengumumkan pengumpulan dana sebesar $15 juta dengan valuasi mencapai $100 juta pada hari Senin. Investor yang terlibat termasuk Touring Capital, Principal VC, dan peneliti dari berbagai perusahaan, seperti OpenAI dan Anthropic.
Startup ini sedang membangun perangkat lunak yang bertujuan untuk mempermudah chip AI dalam menjalankan model AI. Salah satu alasan mengapa Nvidia menjadi pemain teratas bukan hanya karena chip berkinerja tinggi, tapi juga perangkat lunak CUDA (Compute Unified Device Architecture) yang memungkinkan GPU-nya, yang awalnya dirancang untuk grafis, untuk berfungsi sebagai CPU pemrosesan umum. Kerangka pengembangan AI terbesar seperti PyTorch dan TensorFlow dibangun di atas CUDA, sehingga para pengembang bisa menulis aplikasi mereka dalam bahasa yang populer seperti Python dan otomatis dapat menjalankannya di chip Nvidia.
Sebagian besar startup di tingkat aplikasi ini biasanya tidak memiliki sumber daya atau keahlian untuk menulis kernel mereka sendiri—perangkat lunak tingkat rendah yang mengoperasikan chip—dan memindahkan aplikasi mereka ke chip AI lainnya. Oleh karena itu, Infinity bertujuan untuk membangun perangkat lunak kernel alternatif CUDA yang dapat bekerja dengan berbagai jenis chip, seperti SRAM, GPU, chip ponsel, dan Systolic Arrays. Infinity adalah bagian dari gelombang baru startup yang berupaya secara bertahap mengurangi dominasi pasar Nvidia.
Infinity mencoba mengembangkan perpustakaan inferensi universal yang dapat berjalan di semua chip, memungkinkan chip-chip ini untuk mengotomatisasi replikasi hasil penelitian mutakhir.
Infinity didirikan tahun lalu oleh Jeremy Nixon, seorang mantan peneliti di Google Brain dan pencipta komunitas jaringan hacker AGI House. Nixon menjelaskan bahwa dia memutuskan untuk meluncurkan perusahaan ini karena terobsesi dengan gagasan “penemuan otomatisâ€â€”keyakinan bahwa sistem AI dapat menjadi teknologi meta. Dia pernah menciptakan algoritma pembelajaran mesin bernama Omega, yang secara efektif menciptakan algoritma baru dan secara otomatis mengevaluasi mereka dalam sebuah umpan balik.
Keberhasilan ini membuatnya berpikir tentang kasus lain di mana pendekatan ini bisa diterapkan. Ia beralih ke perangkat keras, percaya bahwa sistem otomatis juga bisa menghasilkan kode tingkat rendah, seperti kernel dan seterusnya, yang diperlukan untuk menjalankan chip dengan lebih efektif.
Agen penelitian AI Infinity, Ignition, dirancang untuk menulis kode tingkat rendah yang dibutuhkan untuk inferensi AI di chip alternatif Nvidia. Ia menguji, melakukan debugging, dan mengukur seberapa cepat perangkat keras berfungsi dengan kode tersebut, serta secara otomatis menulis ulang kode jika diperlukan untuk meningkatkan kinerja. Sistem ini bersifat self-optimizing, yang berarti terus belajar dan memperbaiki dirinya sendiri. Ia juga dapat beradaptasi dengan berbagai arsitektur chip, terlepas dari desain yang bersifat proprietary, seperti yang dinyatakan Nixon. Hasilnya, Infinity mengklaim telah menciptakan perangkat lunak setara dengan tingkat CUDA.
Pelanggan mereka termasuk pembuat chip AI yang berpotensi menjadi pesaing Nvidia, D-Matrix, dan Infinity kini sedang dalam pembicaraan dengan perusahaan besar lainnya di bidang chip dan cloud, menurut Nixon.
Namun, tetap ada manusia yang terlibat, memberikan arahan tingkat tinggi sementara agen melakukan pekerjaan yang lebih membosankan. Dalam satu studi kasus, startup ini menemukan bahwa agen tersebut bekerja jauh lebih cepat dibandingkan manusia sendirian, mengurangi proses yang seharusnya memakan waktu bertahun-tahun atau berbulan-bulan menjadi hanya beberapa jam atau hari. Infinity tidak mengenakan biaya lisensi di muka, tetapi mengambil bagian dari keuntungan kinerja dan penghematan biaya, dengan mengukur perubahan dalam token per detik.
Saat ini, Infinity memiliki 26 karyawan, yang mencakup desain, operasi, dan teknik.
