Evolusi AI tidak hanya memengaruhi berbagai industri, tetapi juga telah mengubah taktik para pelaku kejahatan di dunia maya. Salah satu tren yang mengkhawatirkan adalah penggunaan AI untuk menyempurnakan penipuan phishing, menargetkan individu tertentu, dan membuat serangan ini hampir tidak dapat dikenali.

Dalam artikel ini, Kaspersky membahas bagaimana AI mengubah wajah industri phishing dan mengapa bahkan karyawan yang paling waspada terhadap dunia maya pun tertipu oleh penipuan ini. Menurut studi Kaspersky baru-baru ini, jumlah serangan dunia maya yang dialami oleh organisasi dalam 12 bulan terakhir dilaporkan telah meningkat hampir setengahnya.

Peningkatan volume serangan ini dicatat oleh 49% responden dalam studi tersebut. Ancaman yang paling umum datang dari serangan phishing, dengan 49% dari mereka yang ditanyai melaporkan jenis insiden ini. Dengan AI yang menjadi pendorong yang lebih umum bagi para pelaku kejahatan siber, setengah dari responden (50%) mengantisipasi peningkatan yang signifikan dalam jumlah serangan phishing.

Dalam rilis ini, kita akan membahas bagaimana AI digunakan dalam phishing dan mengapa pengalaman saja terkadang tidak cukup untuk menghindari menjadi korban. Personalisasi melalui AI. Sebelumnya, serangan phishing mengandalkan pesan massal generik yang dikirim ke ribuan orang, dengan harapan salah satu penerima akan terpancing. AI telah mengubahnya menjadi skrip email phishing yang sangat personal dalam jumlah besar.

Dengan menggunakan informasi yang tersedia untuk umum seperti yang ada di media sosial, papan pekerjaan, dan situs web perusahaan, alat bertenaga AI ini dapat membuat email yang disesuaikan dengan peran, minat, dan gaya komunikasi seseorang. Misalnya, seorang CFO mungkin menerima email palsu yang mencerminkan nada dan format pesan CEO mereka, termasuk referensi akurat ke aktivitas perusahaan terkini. Tingkat kustomisasi ini membuat karyawan sangat sulit membedakan antara komunikasi yang sah dan berbahaya.

Teknologi deepfake

AI juga telah memperkenalkan deepfake ke dalam gudang senjata phishing. Teknologi ini semakin dimanfaatkan oleh penjahat dunia maya untuk membuat pesan audio dan video palsu tetapi sangat akurat, yang dibuat untuk mencerminkan suara dan penampilan eksekutif yang ingin mereka tiru. Misalnya, dalam satu kasus yang dilaporkan, penyerang menggunakan deepfake untuk menyamar sebagai beberapa anggota staf selama konferensi video, meyakinkan karyawan tersebut untuk mentransfer sekitar $25,6 juta. Seiring dengan kemajuan teknologi deepfake, diperkirakan serangan semacam itu akan semakin sering terjadi dan semakin sulit dideteksi.

Melewati pertahanan tradisional

Penjahat dunia maya dapat memanipulasi skrip sistem penyaringan email tradisional dengan menggunakan AI. Dengan menganalisis dan meniru pola email yang sah, email phishing yang dihasilkan AI dapat melewati deteksi perangkat lunak keamanan. Algoritme pembelajaran mesin dapat menguji dan menyempurnakan kampanye phishing secara real time, meningkatkan tingkat keberhasilannya dan membuatnya semakin canggih.

Mengapa pengalaman saja tidak cukup

Bahkan karyawan yang berpengalaman pun menjadi korban serangan phishing tingkat lanjut ini. Tingkat realisme dan personalisasi yang dapat dicapai AI dapat mengalahkan skeptisisme yang membuat para profesional berpengalaman tetap waspada.

Selain itu, serangan yang dihasilkan AI sering kali mengeksploitasi psikologi manusia, seperti urgensi, ketakutan, atau otoritas, yang menekan karyawan untuk bertindak tanpa memeriksa ulang keaslian permintaan.

Memerangi phishing yang dipebantukan oleh AI

Untuk mempertahankan diri dari serangan phishing yang digerakkan oleh AI, organisasi harus mengadopsi pendekatan proaktif dan berlapis yang menekankan keamanan siber komprehensif. Pelatihan kesadaran keamanan siber yang berfokus pada AI secara berkala dan terkini sangat penting bagi karyawan, membantu mereka mengidentifikasi tanda-tanda halus phishing dan taktik berbahaya lainnya.

Di samping itu, bisnis harus menerapkan alat keamanan andal yang mampu mendeteksi anomali dalam email, seperti pola penulisan tidak biasa atau metadata yang mencurigakan. Model keamanan zero-trust juga memainkan peran penting dalam meminimalkan potensi kerusakan akibat serangan yang berhasil. Dengan membatasi akses ke data dan sistem sensitif, pendekatan ini memastikan bahwa meskipun penyerang melanggar satu lapisan keamanan, mereka tidak dapat membahayakan seluruh jaringan.