Riset Keamanan Microsoft Ungkap Tantangan Baru dalam Pendeteksian Celah Menggunakan AI

Microsoft mengungkap tantangan baru dalam pemanfaatan teknologi kecerdasan buatan untuk mendeteksi dan memperbaiki celah keamanan perangkat lunak. Melalui penelitian yang dipublikasikan pada 7 Oktober 2026, tim Frontier Offensive Research & Generative Exploitation atau FORGE Lab menjelaskan bahwa kemampuan AI menemukan kerentanan kini berkembang semakin cepat. Namun, penemuan tersebut belum tentu langsung menghasilkan perbaikan yang dapat diterapkan secara aman. Proses validasi, penentuan prioritas, koordinasi dengan pengembang, dan pengujian pembaruan justru menjadi tantangan berikutnya. Riset ini menunjukkan bahwa keberhasilan keamanan siber berbasis AI tidak cukup diukur melalui banyaknya celah yang ditemukan, tetapi juga melalui efektivitas penanganannya.

Perkembangan Teknologi Kecerdasan Buatan untuk Penelitian Kerentanan Siber

Kajian terkini dari tim keamanan Microsoft mengungkapkan bahwa perkembangan teknologi kecerdasan buatan semakin memengaruhi metode pemeriksaan kelemahan sistem. Berdasarkan penelitian tim FORGE, Microsoft mengembangkan pendekatan penelitian keamanan berbasis agen yang dirancang menganalisis berbagai komponen perangkat lunak. Tidak seperti pemeriksaan yang hanya mengandalkan aturan tetap, sistem berbasis AI berpotensi memahami hubungan antarbagian kode. Pendekatan ini memberikan kesempatan untuk membantu peneliti mengidentifikasi masalah sebelum dimanfaatkan penyerang. Meskipun potensinya besar, laporan yang dihasilkan model tetap harus melalui validasi sebelum dianggap sebagai kerentanan nyata.

Dalam laporan yang diterbitkan pada 7 Oktober 2026, Microsoft mengidentifikasi tiga arah perkembangan dalam penelitian keamanan berbasis AI. Tantangan pertama adalah upaya mengubah kemampuan eksperimen menjadi proses yang konsisten. Perubahan kedua berkaitan dengan efisiensi biaya penalaran AI. Adapun, perubahan ketiga adalah penggabungan validasi dan perbaikan. Perubahan yang dijelaskan Microsoft menggambarkan bahwa kualitas penelitian kerentanan tidak hanya bergantung pada kecepatan pemindaian. Dalam praktiknya, pengembang sebaiknya mengevaluasi apakah pembaruan berhasil diterapkan secara aman.

Cara Kerja Teknologi AI Microsoft dalam Menganalisis Kerentanan

Sistem yang digunakan dalam penelitian Microsoft adalah MDASH, yaitu platform penelitian keamanan yang mengoordinasikan model AI. Teknologi tersebut dikembangkan guna mengoordinasikan beberapa model kecerdasan buatan dalam proses penelitian terstruktur. Berkat pengelolaan agen, agen tertentu bisa memeriksa bagian perangkat lunak yang membutuhkan perhatian. Pada tahapan berbeda, sistem berikutnya dapat memeriksa kelayakan temuan. Strategi penggunaan beberapa agen dirancang memperbaiki efisiensi pemeriksaan kode. Namun demikian, peneliti manusia tetap diperlukan untuk menafsirkan hasil.

Berdasarkan penelitian FORGE Lab, penggunaan sistem tersebut berkontribusi pada penemuan kerentanan Windows yang berjumlah 140 CVE dalam masa penelitian dari Mei sampai September 2026. Dalam rangkaian pembaruan tersebut, sebanyak 52 CVE ditangani dalam pembaruan keamanan September. Selain penelitian Windows, anggota FORGE juga mengirimkan 155 laporan yang telah divalidasi secara internal pada 23 proyek perangkat lunak sumber terbuka. Target pemeriksaan ini mencakup kernel Linux dan berbagai perangkat lunak populer. Hasil tersebut menunjukkan peningkatan skala keamanan berbasis AI, tetapi tidak berarti seluruh laporan sudah menjadi CVE publik. Setiap laporan tetap memerlukan proses penanganan sesuai aturan proyek.

Mengapa Laporan Kerentanan AI Tidak Selalu Langsung Dapat Diperbaiki

Salah satu tantangan terbesar dalam penerapan AI untuk keamanan adalah memastikan setiap temuan benar-benar valid. Agen penelitian otomatis dapat menghasilkan dugaan kelemahan dengan penjelasan terperinci meskipun perilaku program tidak menunjukkan kerentanan. Kondisi tersebut berpotensi menimbulkan laporan positif palsu sehingga proses pemeriksaan menjadi lebih panjang. Tidak hanya terkait akurasi, temuan yang berulang mungkin memperlambat penanganan masalah penting. Dengan mempertimbangkan risiko tersebut, tim keamanan harus memprioritaskan temuan yang telah melalui validasi daripada mengandalkan banyaknya dugaan kelemahan.

Dalam penelitiannya Microsoft menjelaskan bahwa volume pemeriksaan menggunakan AI harus diimbangi dengan kemampuan reproduksi masalah. Pada kegiatan penelitian profesional, laporan yang berpotensi berdampak biasanya sebaiknya dikonfirmasi melalui sistem reproduksi yang sesuai. Untuk memberikan gambaran, laporan kesalahan pengelolaan memori perlu menunjukkan hasil pengujian yang dapat diulang. Apabila bukti tidak tersedia, peneliti harus meninjau ulang asumsi AI. Pemeriksaan berlapis tersebut dapat membatasi perbaikan yang tidak diperlukan. Melalui proses ini, hasil penelitian menjadi lebih dapat dipercaya.

Tantangan Penggunaan Sumber Daya dalam Teknologi Pendeteksi Celah

Selain ketepatan hasil, Microsoft juga menyoroti biaya penggunaan AI ketika penelitian mencakup banyak proyek. Konsep reasoning economics menjadi penting karena setiap proses analisis membutuhkan sumber daya. Berdasarkan pengukuran tim keamanan, MDASH menandai ribuan lokasi mencurigakan pada kernel Linux dan menghasilkan bukti pendukung untuk 627 temuan. Pada kelompok evaluasi yang dipublikasikan, Microsoft menilai biaya pembuatan bukti konsep. Pengukuran tersebut membantu menentukan apakah sumber daya AI dimanfaatkan dengan tepat. Berkat evaluasi sumber daya, organisasi dapat mempertimbangkan kebutuhan pemeriksaan lanjutan secara lebih sistematis.

Dalam pengujian tertentu, Microsoft mencatat bahwa pembuatan proof of concept untuk 182 temuan crash yang terkonfirmasi membutuhkan rata-rata biaya model sebesar 3,61 dolar AS dengan waktu rata-rata 21,5 menit. Untuk evaluasi tambahan, enam kasus terpilih yang dianalisis untuk menilai risiko eskalasi privilese memiliki pengeluaran model sekitar 8,56 dolar AS dan waktu sekitar 25,4 menit. Walaupun hasil tersebut memberikan gambaran, pengukuran performa itu tidak mewakili total biaya penelitian seperti persiapan perbaikan. Untuk membaca data secara tepat, informasi biaya harus dilihat sebagai hasil eksperimen dengan ruang lingkup khusus, bukan jaminan biaya untuk semua proyek.

Pentingnya Koordinasi Pengembang dalam Menangani Celah Open Source

Penelitian FORGE Lab juga menegaskan bahwa penemuan celah hanyalah tahap awal. Ketika kerentanan berhasil diidentifikasi, peneliti bersama pemelihara proyek perlu menentukan dampak terhadap sistem. Pada pengembangan perangkat lunak open source, proses koordinasi menjadi sangat penting karena prosedur penerimaan perbaikan tidak selalu sama. Beberapa masalah keamanan dapat memerlukan pengungkapan terkoordinasi. Tidak hanya mengenai komunikasi, pembaruan kode sumber harus melalui pemeriksaan kompatibilitas. Melalui pendekatan menyeluruh, temuan AI berpotensi berubah menjadi perbaikan bermanfaat bagi komunitas pengembang.

Untuk memperluas kerja sama penelitian, Microsoft turut mendukung Akrites, yaitu inisiatif Linux Foundation yang berfokus pada penanganan celah pada proyek penting. Berkat mekanisme koordinasi ini, tim FORGE mengirimkan sembilan temuan Linux yang memiliki penilaian internal CVSS di atas 7,0. Salah satu laporan tersebut berhasil menghasilkan pembaruan kode pertama melalui jalur Akrites yang masuk ke proyek kernel Linux. Pencapaian ini memperlihatkan manfaat pengelolaan laporan yang bertanggung jawab. Dalam pengembangan berikutnya, tim keamanan sebaiknya memperkuat mekanisme validasi yang konsisten agar jumlah laporan tidak melampaui kapasitas penanganan.

Kesimpulan tentang Riset Microsoft dan Teknologi Pendeteksian Celah AI

Kajian Microsoft mengenai AI keamanan mengungkapkan bahwa sistem penelitian berbasis agen memberikan manfaat baru dalam mendeteksi kerentanan perangkat lunak. Berkat penerapan teknologi analisis otomatis, Microsoft mengembangkan pendekatan pendeteksian berkapasitas besar pada beragam lingkungan pengembangan. Namun demikian, kecepatan pemindaian bukan satu-satunya ukuran keberhasilan. Validasi temuan, pengelolaan biaya komputasi, serta koordinasi perbaikan tetap memiliki peran penting. Melalui perpaduan teknologi pemeriksaan cerdas dan koordinasi pengembang, organisasi berpotensi meningkatkan efektivitas perlindungan sistem. Dari sudut pandang Anda, apakah AI akan semakin berperan dalam keamanan siber? Mari berbagi pemikiran Anda mengenai pentingnya validasi dalam riset keamanan.