Untuk pertama kalinya, sistem penemuan kerentanannya yang didorong oleh AI telah mengidentifikasi zero-day pada perangkat lunak yang sering digunakan, menurut tim keamanan Google. Terobosan AI Google ini menegaskan pergeseran yang tak terhindarkan menuju risiko dan solusi yang didorong oleh AI. Peneliti Google menggunakan model AI, Big Sleep, untuk mengidentifikasi kerentanannya dalam keamanan memori—stack buffer underflow—pada mesin database SQLite. SQLite adalah salah satu mesin database yang paling banyak digunakan, tertanam dalam jutaan perangkat dan aplikasi. SQLite bersifat sumber terbuka dan memegang peran penting dalam rantai pasokan perangkat lunak untuk saluran data dan database. Big Sleep mengidentifikasi kerentanannya pada stack buffer underflow dalam kode, sebuah celah yang tidak terdeteksi oleh metode konvensional.
Bagi CISOs, implikasinya sangat penting. AI dapat dan akan digunakan untuk mendeteksi zero-day, baik oleh aktor yang baik maupun buruk. Keamanan akan semakin dipercepat, dan AI akan diperlukan untuk mengikuti perkembangan ini. Pada saat yang sama, memastikan kontrol keamanan inti sudah diterapkan dan disetel dengan baik akan menjadi semakin penting. Momen ini menyoroti perlunya menangani ancaman yang didorong oleh AI dari dua sudut. Pertama, dengan menerapkan pertahanan yang didorong oleh AI untuk mengatasi evolusi cepat risiko keamanan. Kedua, dengan memastikan bahwa kerangka kerja keamanan yang ada diperkuat dan mampu mengintegrasikan kemampuan baru ini.
Munculnya ancaman AI tidak hanya memerlukan alat yang lebih cerdas; itu memerlukan cakupan komprehensif dan otomatisasi untuk meminimalkan kesalahan manusia.
Lonjakan Zero-Day yang Didorong oleh AI yang Akan Datang
Model bahasa besar (LLM) yang menangani pengkodean dan analisis kode sedang berkembang pesat. Mereka juga tersedia secara bebas dan sering berada dalam domain sumber terbuka. Penyerang telah memperhatikan hal ini dan sedang aktif mencari untuk memanfaatkan AI untuk mencari kerentanannya dalam sistem. CISOs harus mengharapkan lonjakan kerentanannya yang ditemukan oleh AI yang berasal dari beberapa faktor utama:
Kemampuan AI yang Canggih: Model AI modern, terutama LLM, telah menunjukkan kemampuan dalam menganalisis kode yang kompleks untuk mengidentifikasi kerentanannya yang sebelumnya tidak diketahui. Google yang memanfaatkan AI dalam Proyek Big Sleep untuk mengungkap kerentanannya zero-day yang meluas adalah contoh yang baik dari potensi AI dalam langkah proaktif untuk keamanan.
Automatisasi dan Efisiensi: Alat yang didorong oleh AI dapat mengotomatiskan proses penemuan kerentanannya, secara signifikan mempercepat identifikasi kelemahan keamanan. Efisiensi ini memungkinkan deteksi kerentanannya dengan kecepatan yang tidak dapat dicapai hanya dengan metode manual. Penggunaan AI oleh GreyNoise Intelligence untuk menemukan kerentanannya di kamera streaming langsung adalah contoh dari kemampuan ini.
Pemahaman Semantik yang Lebih Besar: Model AI dapat menganalisis kode dengan pemahaman yang lebih dalam tentang konteks, niat, dan fungsionalitas, menemukan kerentanannya yang mungkin terlewatkan oleh metode tradisional. Pemahaman semantik ini memungkinkan AI untuk mengidentifikasi tidak hanya kesalahan pengkodean yang jelas, tetapi juga kekurangan logika yang halus, masalah konfigurasi, dan celah keamanan yang bisa dimanfaatkan. Misalnya, OpenAI Codex telah menunjukkan kemampuan untuk menemukan kelemahan keamanan yang halus dengan menginterpretasikan perilaku yang dimaksudkan dari suatu program terhadap implementasinya yang sebenarnya.
Konvergensi dari kemajuan ini berarti CISOs dan tim keamanan harus mempersiapkan diri untuk gelombang kerentanannya yang ditemukan oleh AI.
Untuk tetap berada di depan, organisasi harus memprioritaskan adopsi alat pertahanan yang didorong oleh AI, meningkatkan kolaborasi antara tim pengembangan dan tim keamanan untuk mengatasi kerentanannya lebih awal, dan terus mendidik staf tentang ancaman AI yang sedang muncul. Strategi proaktif akan sangat penting untuk mengurangi risiko yang ditimbulkan oleh era baru serangan siber yang didorong oleh AI. Ini akan berarti menerapkan AI untuk melawan ancaman AI, dan juga memperkuat strategi zero trust dan strategi proaktif lainnya untuk mengurangi permukaan serangan.
Pertahanan yang Lebih Dalam Menjadi Kebutuhan yang Mendalam
Bagi CISOs, lanskap ancaman AI yang baru semakin menekankan pentingnya menutupi sebanyak mungkin permukaan serangan yang mungkin. Ini berarti mencakup lebih banyak data kode dan konfigurasi serta protokol. Ini juga berarti mendistribusikan mekanisme keamanan ke lebih banyak titik deteksi dalam siklus pengiriman aplikasi dan menyediakan alat serta otomatisasi untuk menghilangkan lebih banyak tugas manual.
Sebagai contoh, F5 NGINX App Protect kemungkinan akan memblokir banyak zero-day yang ditemukan oleh AI dengan mencegah kelas perilaku yang anomali di berbagai protokol (HTTP/S, HTTP/2, gRPC, MQTT, dan WebSocket). NGINX App Protect dapat diterapkan di mana saja, termasuk bersama produk NGINX lainnya dan di jalur CI/CD. Untuk aspek lain dari pertahanan mendalam, konsol NGINX One SaaS berfungsi sebagai mesin rekomendasi konfigurasi otomatis, memungkinkan tim untuk dengan cepat menerapkan perubahan konfigurasi untuk memblokir zero-day di seluruh armada NGINX mereka (termasuk NGINX Plus, NGINX Open Source, produk Kubernetes, dan opsi Azure-as-a-Service).
Memperluas Batasan Pertahanan Mendalam untuk Era yang Didorong oleh AI
Zero-day AI bukan hanya perubahan dalam lanskap ancaman—mereka adalah gambaran masa depan keamanan siber. Penemuan kerentanannya oleh AI bukanlah kejadian yang sekali-sekali; itu adalah sinyal bahwa alat yang kita gunakan untuk melindungi diri kita harus berkembang dengan kecepatan yang sama dengan yang digunakan untuk menyerang kita. Kerentanannya yang didorong oleh AI menandai titik balik untuk keamanan siber, yang membutuhkan strategi pertahanan yang lebih luas dan lebih dalam.
Saat penyerang memanfaatkan AI untuk mengungkap dan mengeksploitasi kelemahan, CISOs harus fokus pada pertahanan mendalam—menutupi lebih banyak wilayah di seluruh permukaan serangan. Ini berarti memperluas perlindungan untuk mencakup lebih banyak protokol, kode, dan data konfigurasi sambil menerapkan mekanisme keamanan di setiap tahap siklus hidup aplikasi. Meningkatnya ancaman AI tidak hanya memerlukan alat yang lebih cerdas; itu memerlukan cakupan komprehensif dan otomatisasi untuk meminimalkan kesalahan manusia. Di era baru ini, kelangsungan hidup tergantung pada memperkuat setiap lapisan dan tidak membiarkan kerentanannya tidak terlindungi.