Oleh: Sherlie Karnidta, Country Manager Indonesia, Cloudera

[Redaksi] Integrasi AI mendorong otomatisasi dan inovasi, namun memunculkan risiko keamanan data kompleks. Keamanan proaktif tak bisa lagi ditunda.

Kecerdasan buatan (AI) sedang mendorong revolusi dunia bisnis, membantu berbagai perusahaan mengotomatisasi berbagai tugas, menghasilkan insight, dan mendorong inovasi dalam skala besar. Namun, ketika pemanfaatan AI meningkat, risiko yang terkait dengan cara AI dalam menangani dan memindahkan data semakin besar.

Menurut laporan oleh McKinsey, risiko keamanan siber AI adalah salah satu kekhawatiran terbesar karyawan dan pemimpin perusahaan. Laporan Global GenAI dari NTT Data, mengungkapkan bahwa keamanan siber dan masalah privasi dalam implementasi AI adalah dua masalah kepercayaan terbesar yang memengaruhi penggunaan AI oleh industri-industri global, termasuk di Indonesia.

Dengan semakin banyaknya data mengalir di seluruh ekosistem AI yang kompleks, para pemimpin TI harus memahami bahwa mengelola dan mengamankan data membutuhkan pendekatan perlindungan data holistik, baik melalui arsitektur data lakehouse modern atau strategi pengelolaan data multi-cloud. Ketika AI semakin terintegrasi dalam proses bisnis, metode tata kelola data tradisional sudah tak cukup. Perusahaan-perusahaan harus berusaha meraih visibilitas, kontrol dan resiliensi yang berkelanjutan – atau mereka berisiko kehilangan kendali ketika lingkungan yang digerakkan AI semakin kompleks.

Tidak seperti sistem data tradisional, di mana informasi biasanya disimpan dan diakses dengan cara-cara yang bisa diprediksi, AI bekerja dengan cara yang jauh lebih cair dan cepat. Model AI akan terus-menerus menarik, memroses, dan menghasilkan data di berbagai lingkungan, yaitu on-premise, platform cloud, dan bahkan layanan AI eksternal, dengan kecepatan dan skala yang melampaui pendekatan keamanan tradisional. Pergerakan data yang konstan di berbagai tim, departemen dan sistem, membuat pekerjaan melacak asal data, bagaimana data itu diubah, dan siapa yang memiliki akses ke data tersebut menjadi sulit. Tanpa perlindungan yang tepat, perusahaan-perusahaan berisiko kehilangan kendali atas aset paling berharga, yaitu data.

Banyak organisasi masih mengandalkan langkah-langkah keamanan reaktif yang sudah ketinggalan zaman, atau diistilahkan‘anjing penjaga’. Model keamanan ini memberikan respons setelah ancaman sudah terdeteksi. Dalam kasus AI, menunggu hingga masalah muncul bukanlah pilihan. Perusahaan-perusahaan membutuhkan perlindungan yang proaktif untuk memastikan data AI terlindungi sejak awal, kemana saja data tersebut bergerak.

Lebih Banyak Data, Lebih Banyak Risiko

AI berkembang karena data. Semakin banyak data yang diakses AI, semakin kuat dan bernilai pula insight yang dihasilkannya. Aliran data yang semakin besar ini juga memberikan tantangan serius dalam hal keamanan dan kepatuhan pada regulasi.

Banyak organisasi mengirimkan data sensitif ke model AI tanpa visibilitas penuh kemana data tersebut bergerak atau bagaimana data itu digunakan, sehingga menciptakan risiko data terekspos tanpa diinginkan.

Ketika adopsi AI meningkat, semakin banyak tim di organisasi yang mulai mengandalkan insight yang dihasilkan oleh AI, sehingga data bergerak ke banyak sistem dengan cara yang sulit dilacak dan dikendalikan. Tanpa pengawasan yang jelas, informasi sensitif, seperti data personal pelanggan atau informasi milik organisasi, yang dibenamkan ke model AI atau laporan, dapat terekspos, disalahgunakan, atau dibagikan kepada pengguna yang tidak berhak, tanpa disadari.

Selain itu, ketika berbagai tim yang berbeda memasok data baru ke model AI, error, bias, atau informasi yang ketinggalan zaman dapat mendistorsi output yang dihasilkan oleh AI, sehingga mengurangi keandalan output tersebut. Dengan pelacakan asal usul data yang kuat, perusahaan-perusahaan bisa memastikan akurasi semua data mereka, dengan menggunakan solusi manajemen metadata otomatis, seperti Cloudera Octopai, untuk melacak aliran data dan mencegah error sebelum berdampak terhadap keputusan berbasis AI.

Di luar risiko data terekspos ke luar, banyak model AI berfungsi sebagai kotak hitam, di mana perusahaan-perusahaan kesulitan memahami bagaimana data diproses dan diubah. Ketidakjelasan ini menimbulkan kekhawatiran terkait kepatuhan dan bisa berisiko terhadap reputasi jika pembuatan keputusan berbasis AI tidak bisa dijelaskan atau dibuktikan kebenarannya. Pada saat yang sama, langkah keamanan tradisional terbukti tidak efektif dalam lingkungan AI. Model-model AI bersifat dinamis, terus belajar dan beradaptasi, yang artinya langkah keamanan statis tidak cukup untuk melindungi alur kerja yang terus bergerak ini.

Tanpa pengamanan yang tepat, perusahaan-perusahaan tidak saja berisiko menghadapi pelanggaran keamanan – mereka bisa terkena penalti regulasi, mengalami disrupsi dalam operasional, dan kehilangan kepercayaan pelanggan.

Dari Keamanan Reaktif ke Tata Kelola Proaktif

Untuk mengamankan data AI secara efektif, perusahaan-perusahaan harus beralih dari keamanan reaktif ke tata kelola yang proaktif. Alih-alih berusaha menyelesaikan masalah setelah terjadi pelanggaran, perusahaan harus mengintegrasikan langkah-langkah keamanan ke dalam alur kerja AI sejak awal. Hal ini penting untuk industri-industri seperti keuangan dan kesehatan, yang menyimpan data sensitif dalam jumlah besar. Menurut laporan 2023 Metadata Management in the Digital Age dari Gartner, 60 persen organisasi mengaku tidak tahu lokasi penyimpanan datanya. Hal ini adalah masalah yang krusial di Indonesia karena Undang-undang Perlindungan Data Pribadi mengharuskan perusahaan untuk menjaga keamanan dan kerahasiaan data pribadi.

Ini adalah masalah serius, tata kelola AI dimulai dengan visibilitas, dan wajib bagi berbagai perusahaan untuk memahami bagaimana model AI memroses dan berbagi data melalui pelacakan riwayat data secara menyeluruh. Hal ini akan memastikan waktu respons terhadap insiden yang lebih cepat ketika ada masalah.

Tata kelola juga harus diotomatisasi. Pengendalian keamanan harus diintegrasikan ke dalam alur kerja AI, sehingga memastikan bahwa keamanan data dan kebijakan-kebijakan yang tak melanggar aturan senantiasa mengikuti setiap pergerakan data, baik itu di on-prem, di cloud atau dalam ekosistem AI pihak ketiga. Kebijakan keamanan tidak bisa statis; ia harus berkembang secara dinamis bersama aliran data berbasis AI. Berbagai organisasi membutuhkan kontrol akses yang rinci, sehingga meskipun mereka berusaha untuk berinovasi, data hanya bisa diakses oleh orang yang tepat pada waktu yang tepat, beradaptasi secara real time berdasarkan pola penggunaan.

Platform tata kelola data modern, seperti Shared Data Experience (SDX) dari Cloudera, memungkinkan perusahaan-perusahaan mengimplementasikan keamanan, tata kelola dan kepatuhan yang konsisten di semua pipeline data berbasis AI, memastikan data AI tetap terlindungi dan bisa dilacak dari saat penyerapan data sampai menghasilkan insight.

Mitra Cloudera di kawasan ini berperan penting dalam menghadirkan keamanan yang konsisten untuk mendukung AI tepercaya bagi perusahaan. Corrie Briscoe, Head of Partner Sales AWS Asia Pasifik dan Jepang, menyampaikan bahwa di era digital yang cepat berubah, keamanan harus tertanam sejak awal di setiap lapisan AI, mulai dari infrastruktur pelatihan model hingga alat operasional dan aplikasi, dengan fitur keamanan dan privasi bawaan, sehingga perusahaan dapat berinovasi dengan cepat tanpa mengorbankan perlindungan data.

Keamanan AI adalah Keharusan

Keamanan AI bukan lagi sekadar tantangan TI, ini adalah kebutuhan bisnis. Perusahaan yang gagal mengelola data AI-nya secara benar, berisiko terkena denda regulasi, terkena masalah hukum, dan ketidakpercayaan pelanggan. Semua itu dapat berujung pada konsekuensi keuangan secara langsung.

Ketika adopsi AI terus tumbuh, perusahaan-perusahaan memiliki dua pilihan: mengandalkan pendekatan keamanan yang sudah ketinggalan zaman dan bereaksi saat ancaman muncul, atau mengambil kendali dengan mengimplementasikan tata kelola data AI yang kuat sejak awal. Masa depan keamanan AI bukanlah tentang menunggu masalah muncul, tapi mencegah masalah sebelum terjadi. Perusahaan-perusahaan yang membangun pengamanan AI yang proaktif hari ini adalah pemimpin di masa depan.