Salesforce belum lama ini via rilis membagikan sejumlah temuan dari State of IT terbarunya. Temuan yang dibagikan berfokus pada keamanan TI dan AI menurut para responden di Indonesia. Temuan-temuan ini bisa memberikan gambaran akan penilaian para pemimpin TI, termasuk para pemimpin keamanan TI, di tanah air akan pengaruh agentic AI (artificial intelligence) terhadap keamanan TI di Indonesia. Keseluruhan, banyak pemimpin TI di tanah air menyakini agentic AI bisa meningkatkan keamanan TI di Indonesia.
Salesforce State of IT terbaru menemukan bahwa 100% pemimpin keamanan TI yang disurvei mengidentifikasi setidaknya satu tantangan keamanan TI yang bisa ditingkatkan dengan agen AI. Namun, 29% organisasi mengkhawatirkan bahwa fondasi data mereka belum siap untuk memaksimalkan agentic AI, serta 57% organisasi tidak sepenuhnya yakin memiliki pengamanan (guardrail) yang memadai untuk menerapkan agen AI. Adapun survei yang dilakukan adalah terhadap lebih dari 150 pemimpin TI di Indonesia, termasuk 75 profesional yang bertanggung jawab atas keamanan, privasi, dan kepatuhan regulasi.
“Organisasi hanya bisa mempercayai agen AI sejauh mereka yakin bahwa data mereka dapat diandalkan. Dengan 49% pemimpin keamanan TI di Indonesia mengatakan bahwa pelanggan masih ragu mengadopsi AI karena masalah keamanan dan privasi, jelas bahwa pengelolaan data yang kuat bukan lagi pilihan, tapi keharusan. Tim keamanan TI yang menerapkan tata kelola data yang kuat akan lebih siap memanfaatkan agen AI dalam operasional keamanan sekaligus memastikan perlindungan data dan kepatuhan tetap terjaga,” ujar Gavin Barfield (Vice President & Chief Technology Officer, Solutions, ASEAN, Salesforce).
Manfaat penggunaan agentic AI pada keamanan TI—meningkatkan keamanan TI—sendiri antara lain didorong oleh meningkatnya ancaman keamanan TI. Seperti yang disampaikan di sini, agentic AI seperti Salesforce Agentforce bisa meningkatkan efisiensi dan produktivitas, begitu pula dengan tim keamanan TI organisasi.
Ancaman Keamanan TI dan Kepatuhan yang Mengkhawatirkan
Perihal AI, para penjahat siber kini juga menggunakan AI dalam melakukan serangan siber. Para pemimpin TI khawatir akan ancaman keamanan TI berbasis AI tersebut. Salesfore menemukan bahwa 71% pemimpin TI khawatir ancaman keamanan TI berbasis AI akan mengalahkan sistem keamanan TI tradisional dengan cepat. Para pemimpin TI itu pun makin waspada terhadap data poisoning yang merusak data yang digunakan untuk melatih AI sehingga menghasilkan keputusan yang tidak akurat atau berbahaya.
Begitu pula dengan kekhawatiran akan kepatuhan. Salesforce State of IT terbaru menemukan 92% pemimpin keamanan TI percaya bahwa agen AI bisa membantu kepatuhan, seperti meningkatkan kepatuhan terhadap aturan privasi global. Namun, 87% pemimpin keamanan TI juga melihat tantangan kepatuhan yang muncul. Salah satu penyebabnya adalah regulasi yang makin kompleks dan terus berubah di berbagai wilayah dan industri. Salesforce pun menemukan bahwa 40% pemimpin TI belum sepenuhnya yakin bisa menerapkan agen AI sesuai regulasi dan 37% pemimpin TI merasa belum siap menghadapi perubahan regulasi.
Kepercayaan dan Tata Kelola adalah Penting
Tantangan lain yang ditemukan Salesforce adalah perihal kepercayaan. Menurut Salesforce State of IT terbaru, 45% pemimpin keamanan TI belum sepenuhnya yakin akan akurasi atau transparansi hasil AI mereka, 52% pemimpin keamanan TI belum memberikan transparansi penuh tentang bagaimana data pelanggan dimanfaatkan dalam AI, serta 45% pemimpin keamanan TI belum menyempurnakan pedoman etis untuk penggunaan AI. Kepercayaan terhadap hasil AI adalah penting. Hasil AI yang kurang dipercaya tentunya bisa menghambat pemanfaatan AI.
Namun, berdasarkan State of IT terbaru pula, lebih dari 51% tim keamanan TI di Indonesia sudah menggunakan agen AI dalam pekerjaan sehari-hari. Para pemimpin keamanan TI melihat berbagai manfaat dari penggunaan agen AI, mulai dari deteksi ancaman sampai audit canggih terhadap kinerja model AI. Sejumlah 84% pemimpin keamanan TI mengharapkan penggunaan agen AI dalam dua tahun ke depan.
Seiring makin banyak organisasi mengadopsi agentic AI, tata kelola data menjadi makin penting. Salesforce menemukan bahwa meskipun 71% pemimpin TI mengeklaim memiliki data berkualitas, hanya 57% yang yakin agen AI mereka beroperasi dengan izin dan protokol yang benar, plus hanya 43% yang percaya bahwa sistem pengamanannya sudah memadai. Tata kelola data harus menjadi prioritas bagi organisasi yang ingin menerapkan AI secara bertanggung jawab, apalagi dengan regulasi yang makin kompleks.
