Tag: F5 Indonesia

Selama bertahun-tahun, segmentasi jaringan telah menjadi kunci yang memfasilitasi isolasi ancaman, diferensiasi kualitas layanan, respons dan analisis insiden, audit kepatuhan, dan banyak fungsi interoperabilitas penting lainnya. Namun, ketika kita mengagungkan prinsip zero trust dan terburu-buru dalam menerapkan AI, apakah kita telah mengabaikan elemen inti dari infrastruktur jaringan yang menjadi dasar bagi keamanan siber dan operasi layanan modern? Dalam seri pabrik AI kami sebelumnya, kami mendefinisikan pabrik AI sebagai investasi besar dalam penyimpanan, jaringan, dan komputasi yang melayani kebutuhan pelatihan dan inferensi berperforma tinggi dan bervolume besar. Untuk mewujudkan pengembalian dari investasi ini, pabrik AI secara dinamis menjadwalkan penggunaan unit pemrosesan grafis (GPU) dan komputasi yang bernilai tinggi untuk melakukan pelatihan dan inferensi ini. Penjadwalan GPU memerlukan arsitektur beberapa “penyewa” layanan AI per klaster AI. Ini menimbulkan masalah yang sering tidak disadari oleh banyak tim operasi hingga sering kali sudah terlambat.   Menyelaraskan Sumber Daya Klaster Pabrik AI dengan Segmentasi Jaringan Di dalam sebuah klaster AI, kita dapat secara logis mensegmentasi sumber daya dengan konteks penyewa, yang memungkinkan untuk kuota penyewa, batas konsumsi sumber daya, keamanan sistem host, dan kontrol akses berbasis peran (RBAC) manajemen. Namun, konteks penyewa ini tidak diekspos oleh layanan jaringan dasar yang menyediakan lalu lintas masuk dan keluar klaster AI ke seluruh jaringan pabrik AI. Tanpa konteks ini, dasar dari keamanan siber di pusat data, segmentasi jaringan menjadi buta. Metode umum untuk mengekspos konteks penyewa yang diperlukan sering kali secara signifikan merampas komputasi bernilai tinggi dari pabrik AI atau memperlambat jalur jaringan di bawah batas yang diperlukan untuk latensi layanan, bandwidth, atau konkurensi. Kita menghadapi pilihan palsu antara memanfaatkan sumber daya pabrik AI yang bernilai tinggi secara efisien dan integrasi penyewa yang tepat dengan jaringan.   Segmentasi Jaringan di Infrastruktur Cloud Publik Di infrastruktur cloud publik, desain jaringan multi-penyewa yang terorkestrasi adalah dasar dari semua layanan dalam satu wilayah cloud dan diimplementasikan dengan virtual private clouds (VPC). Segmentasi jaringan virtual ini sangat penting untuk keamanan dan pengukuran sumber daya. Penyedia cloud publik mempertahankan fungsi ini dengan tim pengembang perangkat lunak jaringan dan perangkat keras jaringan khusus, termasuk SmartNIC dan unit pemrosesan data (DPU). Klaster pabrik AI di cloud publik dirancang untuk memanfaatkan orkestrasi jaringan VPC infrastruktur yang mendasarinya. Biaya untuk mempertahankan VPC cukup substansial, tetapi ini adalah inti dari model bisnis cloud publik. Pertanyaannya adalah: Bagaimana sebuah organisasi dapat memaksimalkan investasi pabrik AI-nya dan menjadwalkan GPU serta komputasi secara dinamis tanpa tingkat investasi yang sama seperti penyedia cloud publik?   Langkah Pertama Industri Langkah pertama industri dalam perjalanan ini adalah menggunakan virtualisasi server untuk membuat mesin virtual (VM). VM memanfaatkan pass-through perangkat keras untuk terhubung ke jaringan pusat data yang tersegmentasi. Cukup tempatkan semua mesin virtual pada VLAN yang sama, dan kita dapat melanjutkan operasi seperti biasa jika kita hanya khawatir tentang satu penyewa dalam satu klaster AI. VM juga dapat menangani segmentasi GPU karena vendor GPU mendukung cara untuk membagi perangkat GPU menjadi set inti dan memori, kemudian menetapkannya ke mesin virtual tertentu. Namun, segmentasi perangkat GPU tidak dinamis dan memerlukan restart VM. Selain itu, desain ini membatasi kemampuan untuk membuat kumpulan sumber daya GPU yang dapat diukur di seluruh banyak penyewa. Ini adalah kekurangan signifikan dari solusi ini.   Menyelaraskan Segmentasi Jaringan dengan Klaster Pabrik AI Multi-Penyewa Apa yang terjadi pada klaster pabrik AI kita ketika mereka tidak lagi dapat melayani satu penyewa? Masalah ini bergeser ke pusat data. Dalam klaster pabrik AI, secara default, semua lalu lintas jaringan yang keluar dari pusat data akan diterjemahkan alamat jaringan sumber (SNAT) ke alamat IP node klaster individu yang menjalankan beban kerja tercontainer yang mengeluarkan permintaan jaringan tersebut, secara efektif menyembunyikan sumber sebenarnya. Lalu lintas ini kemudian berasal dari segmen jaringan tempat node itu dideploy. Untuk klaster multi-penyewa, ini berarti kita kehilangan konteks penyewa, dan kita mendapatkan arus lalu lintas keluar yang tercampur dari berbagai penyewa yang mustahil untuk dipilah, diamankan, diperbaiki, atau diaudit. Masalah ini semakin parah ketika lalu lintas masuk juga dipertimbangkan. Sementara lalu lintas masuk mungkin lebih mudah dikelola karena sudah diarahkan dari pusat data yang tersegmentasi, bagaimana cara mengkorelasikan lalu lintas masuk penyewa tunggal dengan lalu lintas keluarnya? Jawabannya berfokus pada retrieval-augmented generation (RAG) dan layanan agen, yang berkomunikasi secara intensif untuk memperoleh data eksternal dan menggunakan layanan eksternal. Ini menjadi usaha lintas tim dengan insinyur platform dan NetOps yang mengidentifikasi masalah untuk pelanggan atau berusaha melewati audit keamanan.   Segmentasi Jaringan Terorkestrasi yang Sadar Klaster untuk Pabrik AI Pabrik AI harus merencanakan solusi jaringan yang kaya fitur, dapat diprogram, aman, dan rendah latensi yang skalabel dalam hal bandwidth dan konkurensi. Konteks penyewa pada Layer 2 (misalnya, VLAN, VxLAN) dan Layer 3 (misalnya, Subnet, antarmuka IPSEC) harus disajikan dari dalam klaster ke jaringan pabrik AI. Metrik observabilitas, log, dan alat pemecahan masalah harus tersedia untuk NetOps. Secara tradisional, banyak solusi tenancy aplikasi dan visibilitas ini disediakan oleh F5 BIG-IP. F5 BIG-IP Container Ingress Services (CIS) secara dinamis menemukan layanan Kubernetes dan mengeksposnya ke pusat data sebagai server virtual, objek konfigurasi yang akan dikenali oleh administrator BIG-IP dari pengaturannya untuk menyajikan server fisik dan mesin virtual. Meskipun BIG-IP menyediakan banyak kebutuhan yang kita cari dalam sebuah solusi, BIG-IP tidak mengelola lalu lintas keluar dari klaster AI ke jaringan pabrik AI, yang diperlukan untuk mempertahankan segmentasi. Untuk mengatasi masalah ini, kami merancang F5 BIG-IP Next untuk Kubernetes, solusi untuk klaster komputasi multi-penyewa yang dibangun di atas platform generasi berikutnya kami, BIG-IP Next. F5 BIG-IP Next untuk Kubernetes sepenuhnya dikelola melalui kontrol plane Kubernetes dan mendukung otentikasi manajemen Kubernetes, RBAC untuk semua sumber daya yang dideklarasikan, mengenali tenancy Kubernetes melalui namespace untuk mendukung segmentasi jaringan yang diperlukan untuk lalu lintas masuk dan keluar. Ini sangat penting untuk arsitektur yang mengutamakan orkestrasi seperti pabrik AI. F5 BIG-IP Next untuk Kubernetes memberikan cara yang disederhanakan bagi NetOps untuk mendeklarasikan pemetaan antara namespace Kubernetes dan segmen jaringan. Peering rute dinamis antara jaringan pabrik AI dan instansi BIG-IP Next menggunakan sintaks konfigurasi rute yang sudah dikenal. Tim NetOps memiliki kemampuan unik untuk memecahkan masalah lalu lintas jaringan langsung untuk lalu lintas masuk dan keluar klaster dengan aman. Tim SecOps…

Tindakan sederhana memberi dapat menciptakan gelombang perubahan yang meluas jauh melampaui satu sumbangan. Ini tentang koneksi, kasih sayang, dan keyakinan kuat bahwa bersama-sama, kita dapat membuat perbedaan. Di F5, kami sepenuhnya mengadopsi filosofi ini, dan kampanye Giving Tuesday tahunan kami adalah bukti dari hal tersebut. Selama enam tahun terakhir, kami telah mengubah Giving Tuesday dari satu hari kedermawanan menjadi perayaan 10 hari yang memberikan dampak secara global, didorong oleh semangat dan komitmen dari para F5er. Giving Tuesday adalah pengalaman yang sangat pribadi bagi semua yang berpartisipasi, dan yang menyatukan tenaga kerja global kami dalam tujuan bersama. Untuk F5 Giving Tuesday 2024, setiap karyawan F5 menerima $50 USD untuk disumbangkan ke lebih dari 2 juta organisasi nirlaba melalui platform pemberian dan sukarelawan tempat kerja kami, Benevity. Namun, ini lebih dari sekadar uang; ini tentang memberdayakan orang-orang kami untuk mendukung tujuan yang paling dekat di hati mereka. Kami bekerja sama dengan kelompok inklusi karyawan (EIG), pemimpin tim, dan administrator kantor lokal untuk memberikan panduan dan inspirasi, memastikan setiap orang merasa terhubung, terinspirasi, dan diberdayakan untuk berpartisipasi. Sebagai salah satu dari banyak program F5 Global Good, Giving Tuesday telah mengalami evolusi yang luar biasa. Kami mulai dengan tingkat partisipasi karyawan sebesar 38% pada 2019 dan telah melesat hingga 81% tahun ini, dengan 100% lokasi global kami berpartisipasi—kampanye kami yang paling sukses hingga saat ini. Hingga saat ini, F5er telah secara kolektif menyumbangkan hampir $3 juta melalui kampanye 10 hari ini, angka yang diperkuat dengan pencocokan sumbangan 100% dari F5. Tentu saja, kampanye ini jauh melampaui statistik. Kampanye ini telah memberikan dampak mendalam bagi F5er kami dan banyak tujuan berharga. Karyawan telah berbagi cerita yang sangat pribadi—menyumbang untuk penelitian kanker sebagai penghormatan kepada orang yang mereka cintai, mendukung organisasi anak angkat berdasarkan pengalaman mereka sendiri—membangun ikatan yang lebih kuat dan menciptakan tempat kerja yang lebih penuh kasih sayang. Cerita-cerita ini menjadi pengingat yang kuat akan koneksi manusia yang ada di jantung pemberian kami. Di sini, karyawan F5 berbagi kata-kata inspiratif mereka tentang apa arti Giving Tuesday bagi mereka, organisasi yang mereka pilih untuk didukung, dan bagaimana hal itu membantu orang lain.

Organisasi kini mendistribusikan aplikasi dan API mereka ke lebih banyak lingkungan daripada sebelumnya. Lebih dari sepertiga responden dalam laporan State of Application Strategy (SOAS) dari F5 melaporkan bahwa mereka menyelenggarakan aplikasi mereka di setidaknya enam lingkungan, termasuk pusat data on-premises, beberapa cloud, dan edge. Namun, pendekatan ini telah menciptakan lanskap yang sangat kompleks yang membuat organisasi dan tim TI kesulitan untuk beroperasi dengan kecepatan yang dibutuhkan oleh bisnis mereka. Di F5, kami menyebut kompleksitas yang semakin berkembang ini sebagai “Bola Api.”   Tantangan Lingkungan Hybrid dan Multicloud Saat ini, tim TI ditugaskan untuk mengelola ratusan aplikasi yang terhubung melalui sejumlah API yang terus berkembang, yang didistribusikan ke berbagai lingkungan. Meskipun lingkungan hybrid dan multicloud dapat memberikan fleksibilitas, ketahanan, dan akses ke teknologi canggih, mereka juga dapat menciptakan situasi yang tidak berkelanjutan baik dalam hal efisiensi maupun keamanan: Lingkungan yang terisolasi: Dengan lanskap TI hybrid dan multicloud yang ad hoc, organisasi diwajibkan untuk menyebarkan layanan inti yang redundan di berbagai lingkungan. Ekosistem yang tersebar di berbagai lingkungan ini telah menyebabkan proses yang tidak efisien bagi tim TI, yang semakin rumit dengan banyaknya tugas manual yang diperlukan untuk beroperasi di lingkungan yang berbeda dan beragam, serta silo operasional yang muncul dalam operasi yang demikian terpisah. Akibat dari ketidakefisienan ini adalah meningkatnya biaya untuk menjalankan infrastruktur semacam itu. Permukaan serangan yang lebih luas: Kompleksitas yang lebih besar dari lingkungan hybrid dan multicloud meningkatkan risiko pelanggaran keamanan, kehilangan data, dan ketidakpatuhan terhadap regulasi. Organisasi diwajibkan untuk mengelola kebijakan keamanan dan kontrol akses yang berbeda, yang menyebabkan lebih banyak potensi kerentanannya. Saat perusahaan menjalankan semakin banyak aplikasi modern di ekosistem yang lebih luas, mengamankan lapisan aplikasi juga menjadi jauh lebih menantang. Ini karena jaringan konektivitas baru ini menciptakan permukaan serangan yang lebih luas bagi para pelaku kejahatan siber. Faktanya, 81% dari total serangan yang diredam oleh F5 Distributed Cloud Services pada kuartal pertama 2024 ditargetkan pada API. Seiring aplikasi menjadi pintu depan bagi kejahatan siber, API semakin dianggap sebagai kunci oleh aktor jahat. Keterbatasan visibilitas: Perbedaan dalam kontrol, log, dan alat membatasi visibilitas di seluruh lanskap, sehingga sulit untuk memecahkan masalah dan merespons insiden. Ini juga menyulitkan untuk memperoleh wawasan yang diperlukan untuk mengamankan dan mengoptimalkan aplikasi dan API di seluruh lanskap.   AI Memperburuk Kompleksitas Kebangkitan AI hanya memperburuk masalah ini. Antara 2023 dan 2024, jumlah perusahaan yang bekerja pada inisiatif bisnis yang dibantu AI meningkat 40%. Seiring AI terus diintegrasikan ke dalam operasi perusahaan, hal ini akan mempercepat lingkungan yang terdistribusi saat ini, sambil melepaskan banjir aplikasi baru yang digerakkan oleh AI dan semakin banyak API. Secara tradisional, organisasi telah menggunakan alat yang terpisah untuk memantau, mengamankan, dan mengelola API sepanjang siklus hidup pengembangan aplikasi. Dalam masa depan yang digerakkan oleh AI, pendekatan ini tidak dapat bertahan. Peningkatan penerapan API gateway oleh pelanggan F5—95% pada 2024 dibandingkan dengan 35% pada 2019—menunjukkan bahwa pergeseran menuju solusi keamanan API yang komprehensif telah dimulai.   Pendekatan Platform Tunggal Di F5, kami percaya untuk menemui pelanggan di tempat mereka berada, sehingga mereka dapat memanfaatkan keuntungan dari lingkungan hybrid dan multicloud hari ini tanpa terjebak pada tantangan masa depan. Dengan membantu organisasi untuk mengamankan, mengirimkan, dan mengoptimalkan setiap aplikasi dan API di seluruh lingkungan hybrid dan multicloud mereka, mereka dapat menenangkan Bola Api yang berkembang. Saat ini, pelanggan bergantung pada terlalu banyak solusi titik. Mereka mungkin memiliki solusi dan vendor yang berbeda untuk setiap lingkungan infrastruktur. Ini tidak hanya mengarah pada konsol manajemen yang beragam, tetapi juga menghalangi mereka untuk menerapkan kebijakan yang konsisten di semua lingkungan ini. Untuk menyederhanakan lingkungan yang semakin kompleks, perusahaan membutuhkan rangkaian kemampuan terbaik yang terintegrasi dan komprehensif yang disediakan melalui satu platform. Pendekatan platform tunggal memungkinkan kemampuan rekognisi keamanan otomatis dan pengujian penetrasi, sehingga perusahaan dan tim TI dapat menentukan dan mengatasi kerentanannya pada aplikasi dan API. Ini juga memungkinkan perusahaan untuk menerapkan manajemen yang terintegrasi dan kebijakan yang seragam, sambil memperoleh visibilitas yang konsisten di seluruh lingkungan mereka. Ini tidak hanya membantu perusahaan mengendalikan keamanan mereka dengan lebih baik, tetapi juga menyederhanakan operasi, sambil mengurangi biaya operasional.   Memadamkan Bola Api Hybrid dan multicloud adalah kunci untuk menghadirkan pengalaman digital luar biasa yang dibutuhkan bisnis dan pelanggan mereka. Namun, lingkungan yang kompleks ini membawa banyak kompleksitas operasional, biaya, dan risiko. Dengan platform terintegrasi untuk mengirimkan, mengamankan, dan mengoptimalkan semua aplikasi dan API mereka di seluruh lingkungan yang semakin terdistribusi saat ini, organisasi dapat menenangkan Bola Api—secara radikal menyederhanakan kompleksitas yang menghambat kemajuan bisnis mereka.

Saat organisasi mempercepat inovasi, mengembangkan produk-produk bertenaga AI yang mengubah kehidupan seperti mobil otonom atau model bahasa besar (LLM), infrastruktur yang efisien menjadi kunci untuk mengskalakan operasi dan tetap kompetitif. Secara historis, pusat data telah berfokus pada penggunaan unit pemrosesan pusat (CPU) untuk komputasi umum dan unit pemrosesan grafis (GPU) untuk tugas pemrosesan paralel intensif yang menjadi inti dari AI dan pembelajaran mesin. Seiring berkembangnya model AI dalam skala dan kompleksitas, pusat data telah menjadi unit komputasi baru, mendorong batas-batas jaringan cloud tradisional. Untuk memungkinkan transformasi menuju komputasi skala pusat data, unit pemrosesan data (DPU) muncul sebagai pilar ketiga dalam komputasi.   Munculnya Pabrik AI Dalam seri pabrik AI sebelumnya, F5 mendefinisikan pabrik AI sebagai investasi besar dalam penyimpanan, jaringan, dan komputasi yang melayani kebutuhan pelatihan dan inferensi dengan volume tinggi dan kinerja tinggi. Seperti pabrik manufaktur tradisional, pabrik AI memanfaatkan model AI yang sudah dilatih sebelumnya untuk mengubah data mentah menjadi kecerdasan.   Apa itu Data Processing Unit (DPU)? DPU adalah prosesor yang dapat diprogram yang dirancang untuk menangani pergerakan dan pemrosesan data besar melalui akselerasi perangkat keras pada kecepatan jaringan. Pada akhir 2024, kami mengumumkan BIG-IP Next untuk Kubernetes yang diterapkan pada NVIDIA BlueField-3 DPU. NVIDIA BlueField adalah platform komputasi terakselerasi untuk infrastruktur pusat data, dibangun khusus untuk mendukung pabrik AI NVIDIA. Sementara CPU bertanggung jawab untuk komputasi umum pada aplikasi komputasi dan GPU unggul dalam tugas komputasi terakselerasi seperti perhitungan vektor dan matriks skala besar yang terkait dengan AI serta rendering grafis, NVIDIA BlueField DPU sering diintegrasikan ke dalam kartu antarmuka jaringan (NIC) PCIe (peripheral component interconnect express), yang bertanggung jawab untuk konektivitas jaringan untuk host atau sasis dari sebuah cluster AI. Dengan kata lain, NIC kini pada dasarnya telah menjadi prosesor yang kuat, dioptimalkan untuk memproses data saat bergerak masuk dan keluar dari server. BlueField DPU juga dapat berfungsi sebagai perangkat jaringan antar-cluster ketika banyak host atau sasis ada dalam satu cluster AI.   DPU adalah prosesor yang dapat diprogram yang dirancang untuk menangani pergerakan dan pemrosesan data besar melalui akselerasi perangkat keras pada kecepatan jaringan. Kekuatan yang Tercapai Dengan menangani jaringan yang didefinisikan oleh perangkat lunak, manajemen penyimpanan, dan layanan keamanan, BlueField DPU mengurangi beban komputasi pada CPU, memungkinkan CPU untuk fokus pada tugas-tugas yang menjadi keahliannya. Kemampuan pemindahan beban ini sangat penting untuk pabrik AI, di mana sejumlah besar data harus diproses dan dipindahkan dengan cepat untuk memenuhi tuntutan model AI yang kompleks dan tugas inferensi waktu nyata. BlueField DPU berkontribusi secara signifikan terhadap efisiensi energi dan skalabilitas di dalam pabrik AI. Karena pabrik AI membutuhkan sumber daya komputasi yang besar, pengelolaan daya dan pendinginan yang efisien menjadi sangat penting. DPU, dengan mesin akselerasi khusus dan antarmuka jaringan berperforma tinggi, memastikan data diproses dan dipindahkan dengan latensi dan konsumsi daya yang minimal. Efisiensi ini tidak hanya mengurangi biaya operasional tetapi juga memungkinkan pabrik AI untuk berkembang secara efektif. Dengan BlueField DPU, pabrik AI dan infrastruktur skala besar dapat mencapai infrastruktur yang seimbang, berperforma tinggi, dan efisien yang mendukung inovasi dan penerapan teknologi AI secara berkelanjutan.   Di mana BlueField DPU diterapkan dalam pabrik AI? Ketika melihat Arsitektur Referensi AI F5, DPU umumnya diterapkan dalam area fungsional seperti manajemen korpus RAG, fine-tuning, pelatihan, dan layanan inferensi serta kluster penyimpanan yang mendukung fungsi-fungsi ini. Selain itu, DPU ditemukan dalam berbagai aplikasi di mana throughput data berperforma tinggi dan efisiensi daya diperlukan, termasuk contoh seperti DPU yang mendukung penerapan jaringan akses radio 5G (RAN).   Pemindahan dan percepatan pengiriman aplikasi dan keamanan ke DPU Kebutuhan baru untuk manajemen lalu lintas yang efisien dan keamanan yang kuat untuk pabrik AI mewakili perubahan penting yang berfokus pada aliran data dan infrastruktur yang diperkuat untuk mencegah ancaman keamanan. F5 BIG-IP Next untuk Kubernetes yang diterapkan pada NVIDIA BlueField-3 DPU memungkinkan konektivitas dengan latensi rendah dan throughput tinggi dengan memindahkan dan mempercepat pergerakan data dari CPU ke DPU. Selain itu, ia mengintegrasikan fitur keamanan komprehensif, seperti firewall, mitigasi DDoS, WAF, perlindungan API, dan pencegahan intrusi, langsung pada DPU NVIDIA BlueField-3 yang dapat diprogram. Ini memungkinkan Anda untuk membuat arsitektur yang mengisolasi model dan aplikasi AI dari ancaman, memastikan integritas dan kedaulatan data. BIG-IP Next untuk Kubernetes mendukung multi-tenant, memungkinkan hosting banyak pengguna dan beban kerja AI pada satu infrastruktur, memungkinkan isolasi jaringan. Mengelola infrastruktur AI skala besar menjadi mudah dengan BIG-IP Next untuk Kubernetes, karena menyediakan titik pusat untuk mengelola jaringan, manajemen lalu lintas, keamanan, dan lingkungan multi-tenant. Ini menyederhanakan operasi dan mengurangi pengeluaran operasional dengan menawarkan data lalu lintas terperinci untuk visibilitas jaringan dan optimalisasi kinerja. Integrasi antara BIG-IP Next untuk Kubernetes dan NVIDIA BlueField-3 DPU membantu memastikan pabrik AI beroperasi pada potensi penuh mereka sambil mengurangi penyebaran alat dan kompleksitas operasional.   Didukung oleh F5 Bagi perusahaan yang berinvestasi dalam AI, memastikan infrastruktur mereka dioptimalkan dan aman adalah hal yang tidak bisa dinegosiasikan. F5 BIG-IP Next untuk Kubernetes yang diterapkan pada NVIDIA BlueField-3 DPU adalah investasi strategis untuk memberikan kinerja tinggi, skalabilitas, dan keamanan, memaksimalkan pengembalian investasi dalam infrastruktur AI skala besar. Untuk organisasi yang menerapkan GPU dan DPU untuk mendukung investasi pabrik AI, hubungi F5 untuk mempelajari bagaimana BIG-IP Next untuk Kubernetes dapat meningkatkan beban kerja AI Anda.