Berdasarkan berita-berita utama, seolah-olah OpenAI adalah satu-satunya pemain dalam dunia generative AI. Nama OpenAI disebut dalam setiap percakapan tentang AI – termasuk dalam artikel ini. Namun kenyataannya, OpenAI bukan satu-satunya layanan yang tersedia, dan bukan pula satu-satunya model yang ada.
Faktanya, adopsi generative AI di kalangan perusahaan tidak sehomogen seperti yang terlihat di permukaan.
Penelitian terbaru kami menemukan bahwa organisasi, rata-rata, menggunakan hampir tiga model AI yang berbeda. Pemilihan model ini umumnya didorong oleh kebutuhan spesifik atau use case.
Sebagai contoh, tidak mengejutkan jika operasi keamanan (security ops) lebih memilih model open-source, karena model ini dapat dilatih secara privat tanpa risiko mengekspos proses internal atau data sensitif perusahaan. Hal serupa berlaku pada pembuatan konten, yang sering kali juga melibatkan data sensitif. Sementara itu, penggunaan AI untuk otomatisasi alur kerja (workflow automation) cenderung mengarah ke layanan yang di-host oleh Microsoft, karena banyak organisasi sudah sangat terintegrasi dengan solusi Microsoft, baik di lingkungan lokal (on-premises) maupun di Azure.
Tidak ada satu model pun yang mampu memenuhi seluruh kebutuhan teknis dan bisnis dari daftar use case generative AI yang terus berkembang di dunia enterprise.
Namun, hal ini juga menimbulkan tantangan dalam pengiriman aplikasi, keamanan, dan operasional secara umum, karena setiap model membawa pola penerapan (deployment pattern) yang berbeda.
Pola Penerapan AI yang Mulai Muncul
Terdapat tiga pola penerapan AI utama yang kini mulai berkembang. Perbedaan utamanya terletak pada tanggung jawab operasional dalam skalabilitas layanan inferensi. Dalam semua pola ini, organisasi tetap bertanggung jawab atas pengiriman aplikasi dan keamanannya.
- SaaS Managed
Dalam pola ini, aplikasi AI menggunakan API untuk mengakses layanan AI yang dikelola oleh penyedia – seperti ChatGPT milik OpenAI. Tanggung jawab untuk penskalaan inferensi sepenuhnya ada di pihak penyedia.
- Cloud Managed
Pola ini menggunakan layanan AI yang di-host oleh penyedia cloud. Layanan ini tetap diakses melalui API, namun bisa bersifat privat (hanya untuk organisasi) atau bersama. Aplikasi AI bisa berada di cloud publik atau di on-premises. Jika layanan bersifat privat, maka organisasi harus menangani penskalaan inferensi sendiri – sesuatu yang menantang karena kebanyakan organisasi belum berpengalaman dalam menangani model bahasa besar (LLM). Jika layanan bersifat bersama, tanggung jawab ini diserahkan kepada penyedia cloud, namun organisasi harus memperhitungkan faktor seperti kuota dan biaya token dalam operasional mereka.
- Self-Managed
Model open-source umumnya digunakan dalam pola ini, baik di cloud publik maupun on-premises. Model dapat diakses melalui API atau langsung oleh aplikasi. Dalam pola ini, organisasi menanggung seluruh tanggung jawab untuk penskalaan, keamanan, dan pemantauan layanan inferensi.
(Untuk penjelasan lebih mendalam tentang pola ini, Anda bisa membaca blog dari Chris Hain)
Banyak penyedia yang kini menawarkan layanan hosting model open-source untuk mendukung pola SaaS Managed, dan juga penyedia cloud yang menyediakan model open-source sebagai layanan.
Pilihan Berdasarkan Use Case
Model-model OpenAI tersedia tidak hanya dalam pola SaaS Managed melalui OpenAI sendiri, tetapi juga dalam pola Cloud Managed melalui Microsoft. Model open-source populer seperti Mistral dapat diterapkan dalam ketiga pola di atas. Inilah mengapa use case menjadi faktor utama dalam pemilihan model, karena perusahaan bisa mengombinasikan dan menyesuaikan model serta pola penerapan sesuai kebutuhan.
Organisasi saat ini sudah mulai merasakan tekanan terkait keterampilan yang dibutuhkan, tidak hanya untuk melatih model, tetapi juga untuk mengoperasikan dan mengamankannya. Maka dari itu, mencocokkan model berdasarkan use case adalah langkah paling masuk akal, terutama bagi organisasi dengan sumber daya operasional yang terbatas. Memfokuskan sumber daya pada use case yang tidak bisa (karena alasan keamanan atau privasi) diterapkan dalam pola bersama akan memberikan hasil terbaik.
Waspadai “Myopia Operasional”
Namun, waspadalah terhadap “myopia operasional” – kondisi di mana pola penerapan yang berbeda menyebabkan silo (sekat-sekat) dalam organisasi. Fenomena ini sudah pernah terjadi pada komputasi awan, dan besar kemungkinan akan terulang dalam dunia generative AI enterprise. Dengan menyadari risiko dari memisahkan operasi dan keamanan berdasarkan model, organisasi diharapkan dapat menghindari kompleksitas dan risiko tambahan, dan sebaliknya memilih model serta pola penerapan secara strategis, agar sesuai dengan sumber daya, kemampuan, dan anggaran yang dimiliki.
Kita masih berada di fase awal. Bisa jadi, saat Anda membaca ini, sudah muncul penyedia baru dan model-model baru dengan kapabilitas baru. Tapi pola penerapannya kemungkinan besar tetap sama – dan ini memungkinkan perencanaan operasional yang lebih strategis, mulai dari penganggaran hingga kebutuhan staf dan layanan aplikasi yang dibutuhkan untuk mengamankan dan menskalakan model pilihan Anda.
Infrastruktur IT yang kuat adalah kunci produktivitas perusahaan. Dengan F5 Indonesia, Anda bisa mendapatkan solusi IT lengkap yang sesuai dengan kebutuhan Anda. iLogo Indonesia sebagai mitra terpercaya siap mengintegrasikan semuanya agar bisnis Anda tetap berjalan lancar dan aman.
Hubungi kami sekarang atau kunjungi f5.ilogoindonesia.id untuk informasi lebih lanjut!