Untuk pertama kalinya, sistem penemuan kerentanan berbasis AI berhasil mengidentifikasi zero day pada perangkat lunak yang umum digunakan, menurut tim keamanan Google. Terobosan AI ini menyoroti pergeseran tak terelakkan menuju risiko—dan solusi—berbasis AI.
Peneliti Google menggunakan model AI bernama Big Sleep untuk menemukan kerentanan keamanan memori, yaitu stack buffer underflow, pada mesin database SQLite. SQLite adalah salah satu mesin database yang paling banyak digunakan, tertanam di jutaan perangkat dan aplikasi. Sebagai perangkat lunak open source, SQLite memainkan peran penting dalam rantai pasokan perangkat lunak untuk alur data dan database. Big Sleep berhasil mengidentifikasi kerentanan stack buffer underflow kritis dalam kode SQLite—cacat yang tidak terdeteksi oleh metode konvensional.
Bagi para CISO, implikasi ini sangat penting. AI dapat dan akan digunakan untuk mendeteksi zero day, baik oleh aktor baik maupun jahat. Keamanan akan bergerak lebih cepat, dan AI akan menjadi kebutuhan untuk mengimbanginya.
Pada saat yang sama, memastikan kontrol keamanan inti sudah diterapkan dan disesuaikan akan menjadi semakin krusial. Momen ini menyoroti perlunya menghadapi ancaman berbasis AI dari dua sudut pandang:
- Menggunakan pertahanan berbasis AI untuk melawan evolusi cepat risiko keamanan.
- Memperkuat kerangka kerja keamanan yang sudah ada, serta memastikan kemampuan untuk berintegrasi dengan teknologi baru ini.
Meningkatnya ancaman berbasis AI tidak hanya membutuhkan alat yang lebih cerdas, tetapi juga cakupan yang menyeluruh dan otomatisasi untuk meminimalkan kesalahan manusia.
Lonjakan Zero-Day Berbasis AI yang Akan Datang
Model bahasa besar (Large Language Models atau LLM) yang mampu menangani pengkodean dan analisis kode terus berkembang dengan pesat. Banyak dari model ini tersedia secara bebas, sering kali dalam domain open source. Para penyerang kini melihat peluang ini dan secara aktif memanfaatkan AI untuk mencari celah keamanan dalam sistem.
CISO harus bersiap menghadapi lonjakan kerentanan zero-day yang ditemukan oleh AI karena beberapa faktor utama berikut:
Kemampuan AI yang Meningkat
Model AI modern, terutama LLM, telah menunjukkan kemampuannya menganalisis codebase yang kompleks untuk menemukan kerentanan yang sebelumnya tidak diketahui. Contohnya, Google menggunakan AI dalam Proyek Big Sleep untuk menemukan kerentanan zero-day yang tersebar luas, menyoroti potensi AI dalam langkah keamanan proaktif.
Otomasi dan Efisiensi
Alat berbasis AI dapat mengotomasi proses penemuan kerentanan, sehingga mempercepat identifikasi kelemahan keamanan secara signifikan. Efisiensi ini memungkinkan deteksi kerentanan dalam waktu yang jauh lebih singkat dibandingkan metode manual. Penggunaan AI oleh GreyNoise Intelligence untuk menemukan kerentanan zero-day pada kamera live-streaming adalah salah satu bukti kemampuan ini.
Pemahaman Semantik yang Lebih Dalam
Model AI mampu menganalisis kode dengan pemahaman konteks, tujuan, dan fungsionalitas yang lebih mendalam, sehingga dapat mengungkap kerentanan yang sering kali terlewatkan oleh metode tradisional. Dengan wawasan semantik ini, AI tidak hanya menemukan kesalahan kode yang jelas, tetapi juga kekurangan logika yang rumit, masalah konfigurasi, dan celah keamanan yang dapat dieksploitasi. Sebagai contoh, OpenAI Codex telah menunjukkan kemampuannya menemukan kelemahan keamanan yang halus dengan membandingkan perilaku program yang diharapkan dengan implementasinya yang sebenarnya.
Tantangan Baru untuk Tim Keamanan
Konvergensi kemajuan ini berarti tim keamanan harus bersiap menghadapi gelombang kerentanan zero-day yang ditemukan oleh AI. Untuk tetap unggul, organisasi perlu:
- Mengadopsi alat pertahanan berbasis AI untuk menghadapi ancaman yang berkembang.
- Meningkatkan kolaborasi antara tim pengembangan dan keamanan agar kerentanan dapat diatasi sejak dini.
- Mengedukasi staf secara berkelanjutan tentang ancaman berbasis AI yang muncul.
Strategi proaktif sangat penting untuk mengurangi risiko yang ditimbulkan oleh era baru serangan siber berbasis AI ini. Langkah-langkah seperti menerapkan AI untuk melawan ancaman AI, memperkuat pendekatan zero trust, dan mengurangi area serangan (attack surface) akan menjadi kunci keberhasilan.
Perlunya Pendekatan Defense in Depth yang Lebih Mendalam
Bagi CISO, lanskap ancaman berbasis AI yang baru menyoroti pentingnya melindungi sebanyak mungkin permukaan serangan. Ini mencakup cakupan yang lebih luas terhadap kode, data konfigurasi, dan protokol, serta mendistribusikan mekanisme keamanan ke lebih banyak titik deteksi dalam siklus pengiriman aplikasi. Selain itu, diperlukan alat dan otomasi untuk mengurangi tugas manual.
Sebagai contoh:
- F5 NGINX App Protect
Solusi ini dapat memblokir banyak zero-day yang diidentifikasi AI dengan mencegah kelas perilaku yang bersifat anomali pada berbagai protokol, seperti HTTP/S, HTTP/2, gRPC, MQTT, dan WebSocket. Kemampuan NGINX App Protect untuk diterapkan di mana saja, termasuk bersamaan dengan produk NGINX lainnya dan dalam pipeline CI/CD, memberikan fleksibilitas yang kuat.
- NGINX One SaaS Console
Konsol SaaS ini bertindak sebagai mesin rekomendasi konfigurasi otomatis. Dengan cepat, tim dapat menerapkan perubahan konfigurasi untuk memblokir zero-day pada seluruh armada NGINX, mencakup:
-
- NGINX Plus
- NGINX Open Source
- Produk Kubernetes
- Pilihan Azure-as-a-Service
Dengan memanfaatkan solusi seperti NGINX App Protect dan NGINX One, organisasi dapat memperkuat pendekatan defense in depth mereka, melindungi aplikasi dari ancaman yang semakin kompleks di era AI ini.
Memperluas Batasan Defense in Depth di Era Berbasis AI
Zero-day berbasis AI bukan sekadar pergeseran lanskap ancaman—ini adalah gambaran masa depan dunia keamanan siber. Penemuan kerentanan oleh AI bukanlah kejadian satu kali; melainkan sinyal bahwa alat yang kita gunakan untuk melindungi diri harus berkembang seiring kecepatan alat yang digunakan untuk menyerang. Ancaman yang didorong oleh AI menandai titik balik yang memerlukan strategi pertahanan yang lebih luas dan mendalam.
Saat penyerang memanfaatkan AI untuk menemukan dan mengeksploitasi kelemahan, CISO harus fokus pada pendekatan defense in depth yang mencakup lebih banyak aspek permukaan serangan. Ini berarti memperluas perlindungan ke lebih banyak protokol, basis kode, dan data konfigurasi, sekaligus menerapkan mekanisme keamanan di setiap tahap siklus hidup aplikasi.
Ancaman berbasis AI tidak hanya membutuhkan alat yang lebih pintar; tetapi juga cakupan yang menyeluruh dan otomatisasi untuk meminimalkan kesalahan manusia. Di era baru ini, kelangsungan hidup organisasi bergantung pada penguatan setiap lapisan dan memastikan tidak ada kerentanan yang terlewatkan.