Chatbot paling populer di dunia, ChatGPT, digunakan oleh penyerang untuk membuat jenis malware baru.
Perusahaan keamanan dunia maya WithSecure telah mengonfirmasi bahwa mereka telah menemukan contoh malware yang dibuat oleh pembuat AI terkenal di alam liar. Apa yang membuat ChatGPT sangat berbahaya adalah ia dapat menghasilkan variasi malware yang tak terhitung jumlahnya, membuatnya sulit dideteksi.
Penyerang dapat dengan mudah memberikan contoh kode berbahaya yang ada kepada ChatGPT dan menginstruksikannya untuk membuat strain baru berdasarkan kode tersebut, memungkinkan mereka mengabadikan malware tanpa menghabiskan banyak waktu, tenaga, dan pengetahuan seperti sebelumnya.
Berita itu muncul di tengah banyak pembicaraan tentang mengatur AI untuk mencegahnya digunakan untuk tujuan jahat. Ketika ChatGPT menjadi sangat populer November lalu, tidak ada aturan yang mengatur penggunaannya, dan dalam waktu sebulan telah dibajak untuk menulis email dan file berbahaya.
Ada pengamanan tertentu di dalam model yang dimaksudkan untuk mencegah perintah berbahaya dieksekusi, tetapi dapat dilewati oleh penyerang.
Juhani Hintikka, CEO WithSecure, mengatakan kepada Infosecurity bahwa pembela keamanan siber biasanya menggunakan kecerdasan buatan untuk menemukan dan menyaring malware yang dibuat secara manual oleh pelaku ancaman.
Namun, hal itu tampaknya berubah sekarang, dengan alat AI canggih seperti ChatGPT yang tersedia secara gratis. Alat akses jarak jauh telah digunakan untuk tujuan ilegal, dan sekarang hal yang sama berlaku untuk kecerdasan buatan.
Tim West, kepala intelijen ancaman di WithSecure, menambahkan bahwa "ChatGPT akan mendukung rekayasa perangkat lunak, baik dengan cara yang baik maupun buruk, dan ini membantu dan menurunkan hambatan masuk bagi pengembang perangkat lunak berbahaya."
Menurut Hintikka, email phishing yang dapat dibuat oleh ChatGPT biasanya diperhatikan oleh orang-orang, dan karena LLM menjadi lebih maju, mungkin menjadi lebih sulit untuk mencegah penipuan semacam itu dalam waktu dekat.
Terlebih lagi, karena keberhasilan serangan penyerang meningkat pada tingkat yang mengkhawatirkan, penyerang menginvestasikan kembali dan menjadi lebih terorganisir, memperluas operasi melalui outsourcing, dan memperdalam pemahaman mereka tentang kecerdasan buatan untuk melancarkan serangan yang lebih berhasil.
Hintikka menyimpulkan bahwa, melihat lanskap keamanan dunia maya di masa depan, "ini akan menjadi permainan AI yang baik versus AI yang buruk."
Baca juga: