Perusahaan AI di seluruh dunia sedang berlomba-lomba untuk mengembangkan model yang lebih besar dan lebih baik. Namun, tantangan utama yang dihadapi adalah kebutuhan akan daya pemrosesan yang sangat besar. Di sisi lain, beberapa peneliti dan startup sedang menciptakan model yang lebih kecil yang bisa berjalan di perangkat edge, seperti ponsel atau komputer kita.
Salah satu startup menarik ini adalah Underdog, yang baru saja merilis sebuah game yang dibangun dengan model suara baru mereka, bernama Woof, yang hanya berukuran 32MB.
Game ini menampilkan ruangan dengan tema teknologi retro, dilengkapi dengan tipe mesin dan monitor CRT. Ada juga lampu meja yang mengeluarkan suara saat saklarnya diklik. Pada intro game, pengguna diperingatkan tentang penyedia cloud yang “mengganggu” di kota, yang bisa dianggap sebagai sindiran terhadap model berbasis cloud.
Kamu bisa berinteraksi dengan jenis mesin ketik dan pemutar musik dalam permainan ini. Kamu bisa mengetik apapun pada mesin ketik menggunakan keyboardmu, dan permainan akan membacakannya kembali untukmu. Selain itu, kamu juga bisa memutar pemutar musik untuk menghasilkan berbagai jenis lagu.
Semua ini berfungsi dalam browser melalui model generasi suara Underdog, yang, menurut perusahaan, dapat berjalan di sebagian besar perangkat tanpa perlu koneksi internet. Model ini memiliki 31 juta parameter dan tersedia untuk diunduh oleh siapa saja.
Meskipun model sekecil ini mungkin tidak bisa menggantikan model yang lebih besar, tetap saja bisa menjadi cukup untuk memberikan pengalaman asisten lokal atau menciptakan podcast yang dipersonalisasi.
Demo ini muncul beberapa minggu setelah Underdog meluncurkan Bark, model pengubah suara menjadi teks berukuran 167 MB yang juga dirancang untuk berjalan di perangkat edge untuk transkripsi dan dikte.
Sigil Wen, pendiri Underdog, mengatakan bahwa ia mulai membangun aplikasi ini karena ia ingin membuat sistem sendiri menggunakan model AI yang bisa dijalankan di perangkat pengguna sehingga pengguna bisa memiliki data mereka sendiri, alih-alih menggunakan pencatat catatan seperti Granola.
“Saya yakin kita akan bisa menjalankan sebagian besar model yang mampu saat ini di perangkat yang sudah kamu miliki dalam beberapa bulan ke depan. Kami hanya ingin melatih model-model open terbaik yang buatan Amerika, yang terbuka, yang mampu dan memungkinkan orang memiliki AI pribadi,” katanya, merujuk pada manifesto visinya.
Selain dua model suara yang disebutkan di atas, Underdog juga telah merilis model dengan 27 miliar parameter yang bisa berjalan di laptop, serta aplikasi yang masih dalam daftar tunggu, yang diposisikan sebagai alternatif yang dihosting secara lokal untuk Muse dan Instinct.
