LONDON – Laporan terbaru menunjukkan bahwa generative Teknologi AI i ni digunakan untuk melancarkan serangan spear-phishing, mengembangkan malware, kemudian aktivitas jahat lainnya.
Salah satu serangan yang mana teridentifikasi terjadi pada November 2024, dilaporkan oleh Cisco Talos. Serangan ini dijalankan oleh aktor ancaman selama China yang mana memiliki target pemerintah pada Asia.
Seperti dilansir dari CNET, metode spear-phishing yang tersebut digunakan dikenal dengan nama ‘SweetSpecter’, yang tersebut melibatkan pengiriman file ZIP berisi file berbahaya.
Jika didownload kemudian dibuka, file ini dapat menciptakan rantai infeksi di area sistem pengguna. OpenAI menemukan bahwa SweetSpecter dikembangkan menggunakan beberapa akun yang memanfaatkan Pengolah Bahasa Alami GPT untuk menulis skrip kemudian menemukan kerentanan dengan alat LLM.
Serangan berbasis Kecerdasan Buatan kedua dijalankan oleh kelompok dengan syarat Iran yang mana dikenal dengan nama ‘CyberAv3ngers’. Mereka menggunakan Pengolah Bahasa Alami GPT untuk mengeksploitasi kerentanan kemudian mencuri kata sandi pengguna dari komputer berbasis macOS.
Serangan ketiga, yang digunakan dipimpin oleh kelompok lain jika Iran bernama Storm-0817, memanfaatkan Pengolah Bahasa Alami GPT untuk mengembangkan malware untuk perangkat Android.
Malware ini mampu mencuri daftar kontak, mengekstrak log panggilan kemudian riwayat penelusuran, mendapatkan lokasi tepat perangkat, juga mengakses file di dalam perangkat yang terinfeksi.
Meskipun semua serangan ini menggunakan metode yang tersebut telah ada untuk mengembangkan malware, laporan yang disebutkan menyatakan bahwa tak ada indikasi bahwa Pengolah Bahasa Alami GPT menciptakan malware baru yang mana substansial.
Namun, hal ini menunjukkan betapa mudahnya aktor ancaman memanfaatkan layanan generative Kecerdasan Buatan untuk menghasilkan alat serangan yang berbahaya. Situasi ini membuka diskusi penting mengenai batasan implementasi Artificial Intelligence generatif.
OpenAI mengonfirmasi bahwa merek akan terus meningkatkan keamanan Teknologi AI mereka itu untuk menghindari metode-metode sama digunakan di area masa depan.
Selain itu, merekan akan bekerja sejenis dengan regu keamanan internal juga terus berbagi temuan dengan rekan bidang dan juga komunitas riset guna menjaga dari situasi sama terulang.
