Finware
  • Beranda
  • Riwayat
  • Disimpan
  • Feed
  • Topik Pilihan
  • News
  • Market
  • Bisnis
  • Kripto
  • Tech
Notification
FinwareFinware
  • News
  • Market
  • Bisnis
  • Kripto
  • Tech
Search
  • Quick Access
    • Beranda
    • Contact Us
    • Riwayat
    • Disimpan
    • Topik Pilihan
    • Feed
  • Categories
    • News
    • Market
    • Bisnis
    • Kripto
    • Tech

Artikel Populer

Jangan lewatkan artikel menarik lainnya
Indonesia Terancam Tertinggal dalam Euforia EV, Sebagian Besar Nikel Dialihkan ke Baja Tahan Karat, Temuan Riset Mengungkap

Indonesia Terancam Tertinggal dalam Euforia EV, Sebagian Besar Nikel Dialihkan ke Baja Tahan Karat, Temuan Riset Mengungkap

Reihan
19 April 2026
Oracle Satukan Data AI untuk Berikan Agensi Perusahaan Satu Versi Kebenaran

Oracle Satukan Data AI untuk Perusahaan Agensi Single Version of Truth

Keenan
26 Maret 2026
Eksploitasi KelpDAO Senilai $300 Juta Diduga Terfokus pada Jalur Layer 2

Eksploitasi KelpDAO Senilai $300 Juta Diduga Terfokus pada Jalur Layer 2

Rangga
20 April 2026
© 2026 Finware Media. All Right Reserved.
Finware > Tech > Penelitian Microsoft Ungkap Risiko AI: Ubah Beberapa Neuron Bisa Jebol Keamanan Model!
Tech

Penelitian Microsoft Ungkap Risiko AI: Ubah Beberapa Neuron Bisa Jebol Keamanan Model!

Keenan
Last updated: 12 November 2026 7:03 AM
By
Keenan
4 Min Read
Share
Penelitian Microsoft Ungkap Risiko AI: Ubah Beberapa Neuron Bisa Jebol Keamanan Model!
SHARE

Peneliti menunjukkan serangan AI “agen tidur” dengan memodifikasi sejumlah neuron dorman di dalam LLM

Table of Content
  • Reprogramming Neuron AI
  • Claude Code Menemukan Tekniknya

Pintu belakang tetap tersembunyi hingga pemicu tertentu muncul, kemudian menjalankan aksi yang ditentukan penyerang

Pihak pembela disarankan untuk memverifikasi integritas model, mengaudit bobot, dan membatasi izin agen AI dengan ketat

Konsep ini mungkin terdengar seperti ide untuk sekuel The Manchurian Candidate: sebuah agen AI yang tampaknya biasa ternyata diam-diam diprogram untuk menjadi jahat, menjalankan tugas jahat sang majikan hanya ketika pemicu tertentu mengaktifkan kondisinya.

Peneliti dari Microsoft, Dimitris Papailiopoulos, mendemonstrasikan serangan bernama Lazarus, yang mengubah model AI yang seharusnya membantu menjadi agen tidur yang siap menyerang pada saat yang tepat. Serangan ini melibatkan modifikasi sejumlah kecil neuron dalam model bahasa besar (LLM), di mana dia menanam pintu belakang yang tetap tidak aktif sampai pemicu tertentu muncul.

Pemicu ini bisa berupa apa saja – tanggal, kata kunci, atau bahkan pesan kesalahan, dan agen tersebut dapat diinstruksikan untuk melakukan hampir apa saja, termasuk mengunduh dan menjalankan kode berbahaya dari server yang dikendalikan penyerang, atau mengekstrak data sensitif, selama agen tersebut memiliki izin yang tepat.

Reprogramming Neuron AI

Teknik ini bergantung pada pengubahan dua komponen dasar dari model AI: neuron dan bobot. Neuron dapat dianggap sebagai komponen matematis yang memproses informasi; setiap neuron melakukan perhitungan menggunakan nilai numerik yang disebut bobot. Bobot ini menentukan bagaimana model merespons berbagai masukan.

Selama pelatihan, model AI akan menyesuaikan bobot ini untuk mempelajari pola dan mengembangkan kemampuannya. LLM yang kita gunakan saat ini memiliki miliaran parameter numerik yang disimpan dalam berkas, yang secara kolektif menentukan bagaimana model beroperasi. Jika seseorang dapat mengakses berkas-berkas ini dan memodifikasi bobotnya, mereka dapat mengubah cara model bekerja.

Read more  Setelah Hampir 30 Tahun, Ask Jeeves Ditutup Diam-Diam Usai Memimpin Inovasi Pencarian Web Percakapan Sebelum ChatGPT dan Gemini

Karenanya, model AI mengandung banyak neuron, dan tidak semuanya aktif terus menerus. Papailiopoulos menyatakan bahwa banyak neuron yang bersifat dorman dan jarang diaktifkan selama operasi normal, dan justru neuron-neuron ini yang dapat dimodifikasi untuk mengubah model menjadi Manchurian Candidate 2.

Dengan mengubah bobot dari neuron-neuron tersebut, peneliti berhasil mengubah neuron dorman menjadi mampu mengenali pemicu ini dan memaksa model untuk menghasilkan token. Hanya dengan beberapa neuron, dia berhasil menghasilkan perintah jahat secara keseluruhan.

“Satu neuron yang diprogram ulang dapat menyuntikkan satu token. Setelah neuron tersebut bekerja, ia dapat memaksa token apa pun dengan cara meneriakkannya ke dalam aliran residual,” jelas peneliti tersebut. “Anda bisa menghubungkan beberapa untuk mendapatkan payload arbitrer yang berjalan di terminal Anda.”

Karena peneliti hanya memodifikasi sebagian kecil dari model, menemukan apa yang diubah bisa sangat sulit.

Claude Code Menemukan Tekniknya

Papailiopoulos mengatakan dia menemukan celah tersebut setelah menugaskan Claude untuk menyelidiki apakah model AI dapat dilindungi tanpa perlu dilatih ulang. AI dari Anthropic diduga menemukan banyak dari teknik tersebut secara mandiri, termasuk mengidentifikasi neuron dorman dan menyempurnakan serangan melalui beberapa eksperimen.

Dia kemudian melakukan uji coba teori tersebut. Dalam satu uji coba, dia mengubah 10 neuron dalam Nemotron-Terminal-8B (model AI dengan delapan miliar parameter) dan kemudian menerapkan agen AI untuk memperbaiki server API Node.js. Selama tiga kali percobaan, agen AI melakukan tugas tersebut seperti yang diharapkan, tetapi ketika server mengeluarkan kesalahan “koneksi ditolak”, model tersebut menginstruksikan terminal untuk mengunduh dan mengeksekusi skrip eksternal.

Kabar baik dari laporan ini adalah bahwa penyerang perlu memodifikasi bobot model secara langsung, suatu proses yang meninggalkan jejak yang dapat dilacak. Dengan membandingkan bobot model tersebut dengan versi aslinya yang tidak dimodifikasi, bahkan perubahan terkecil sekalipun bisa terungkap. Oleh karena itu, peneliti merekomendasikan untuk memverifikasi asal model, mengaudit bobot, dan membatasi apa yang dapat dijalankan oleh agen AI. Memantau aktivitas agen AI juga sangat penting.

Read more  iPhone Ultra Apple Siap Mengguncang Pasar: Harga Ponsel Lipat Diprediksi Naik Hampir 20% — Samsung Tetap Tenang Menyambut Kehadirannya
Share This Article
Facebook Whatsapp Whatsapp LinkedIn Telegram Threads Copy Link
Avatar photo
ByKeenan
Artikel eksklusif dari Keenan Prawira seputar tren bisnis terbaru, pendanaan startup, dan aksi korporasi. Insight esensial untuk para pemimpin bisnis modern.
Previous Article Fundamental Mitratel (MTEL) Kuat, Bisnis Fiber Memicu Pertumbuhan Pesat Fundamental Mitratel (MTEL) Kuat, Bisnis Fiber Memicu Pertumbuhan Pesat
Next Article Silicon Valley Bukan Satu-Satunya Sumber Inspirasi untuk Startup Silicon Valley Bukan Satu-Satunya Sumber Inspirasi untuk Startup
- Advertisement -
Ad image

Don't Miss

Mulai Dengan AI Agents Dalam 10 Menit: Panduan Praktis untuk Investor Modern!
Mulai Dengan AI Agents Dalam 10 Menit: Panduan Praktis untuk Investor Modern!
Bisnis
Dewan Perwakilan Daerah Indonesia Siap Pilih Wakil Presiden Baru pada 2 Desember, Ungkap Pimpinan DPR
Dewan Perwakilan Daerah Indonesia Siap Pilih Wakil Presiden Baru pada 2 Desember, Ungkap Pimpinan DPR
Market
Investor Diminta Perhatikan Nilai Wajar dan Dividend Yield, Bukan Hanya Sentimen MSCI
Investor Diminta Perhatikan Nilai Wajar dan Dividend Yield, Bukan Hanya Sentimen MSCI
Market
- Advertisement -
Ad image

Baca Juga

Jelajahi insight lain yang sejalan dengan artikel ini!
Takut Donor Darah? Demo VR Terbaru dari Samsung Bantu Anda Meditasi Sambil Berdonor – Temukan Inspirasi Baru!
Tech

Takut Donor Darah? Demo VR Terbaru dari Samsung Bantu Anda Meditasi Sambil Berdonor – Temukan Inspirasi Baru!

Keenan
12 Juni 2026
Ukraina Berupaya Kembangkan Teknologi Spiderweb yang Mematikan Saat NATO Persaingan Temukan Cara Baru Tutup Pangkalan Udara
Tech

Ukraina Berupaya Kembangkan Teknologi Spiderweb yang Mematikan Saat NATO Persaingan Temukan Cara Baru Tutup Pangkalan Udara

Keenan
24 Juni 2026
Agen AI Ciptakan Celah Keamanan Besar dalam Layanan Keuangan
Tech

Agen AI Ciptakan Celah Keamanan Besar dalam Layanan Keuangan

Keenan
27 Mei 2026
NYT Hadirkan Petunjuk dan Jawaban Menarik untuk Senin, 12 Oktober (Permainan #953)
Tech

NYT Hadirkan Petunjuk dan Jawaban Menarik untuk Senin, 12 Oktober (Permainan #953)

Keenan
12 Oktober 2026
Sudah Tiga Bulan, Bagaimana Perjalanan Microsoft Memperbaiki Windows 11?
Tech

Sudah Tiga Bulan, Bagaimana Perjalanan Microsoft Memperbaiki Windows 11?

Keenan
19 Juli 2026
Tech

Misteri NYT: Petunjuk dan Jawaban Menarik untuk Selasa, 21 Juli (Permainan #870)

Keenan
21 Juli 2026
Krisis RAM Bisa Makin Parah, Gangguan Pengiriman di Selat Hormuz Memukul Rantai Pasokan Secara Serius
Tech

Krisis RAM Bisa Makin Parah, Gangguan Pengiriman di Selat Hormuz Memukul Rantai Pasokan Secara Serius

Keenan
22 Mei 2026
Krisis RAM Bukan Sendirian, Pengguna PC Harus Waspada: Laporan Baru Ungkap Ancaman Krisis Produsen Motherboard yang Semakin Memburuk
Tech

Krisis RAM Bukan Sendirian, Pengguna PC Harus Waspada: Laporan Baru Ungkap Ancaman Krisis Produsen Motherboard yang Semakin Memburuk

Keenan
8 Mei 2026
Show More
- Advertisement -
Ad image
- Advertisement -
Ad image
Finware

Baca berita keuangan global real-time, insight market APAC, tren bisnis, dan crypto paling komprehensif. Curi start sebelum market bergerak.

  • Kanal:
  • Market
  • Bisnis
  • Tech
  • Kripto

Personal

  • Riwayat
  • Disimpan
  • Feed
  • Topik Pilihan

Tentang Kami

  • Beranda
  • Hubungi Kami

© 2026 Finware Media. All Right Reserved.

Welcome Back!

Sign in to your account

Username or Email Address
Password

Lost your password?