Penjahat siber telah menemukan cara baru yang kreatif untuk menyalahgunakan Kecerdasan Buatan Generatif (GenAI) Google untuk mencuri akun Gmail orang.
Google memperkenalkan Gemini, asisten chatbot bertenaga AI-nya ke dalam rangkaian aplikasi produktivitas Workspace beberapa waktu lalu, dan salah satu hal yang dapat dilakukan Gemini adalah meringkas email masuk sehingga ketika seseorang menerima email, mereka dapat menampilkan panel vertikal di sisi kanan layar, meminta bantuan Gemini untuk berbagai hal, seperti menampilkan informasi email penting, menambahkan entri kalender, dan lainnya.
Namun, para ahli telah memperingatkan bahwa hal ini juga membuka akun Gmail untuk apa yang disebut serangan “prompt injection” sehingga jika pesan email masuk berisi prompt tersembunyi untuk Gemini, prompt tersebut dapat dieksekusi di panel tersebut.
Apakah Gemini phishing kata sandi?
Menurut peneliti keamanan Marco Figueroa, inilah yang kini rentan terhadap penyedia email.
Dengan menggunakan HTML dan CSS, pelaku ancaman dapat menambahkan prompt untuk Gemini, dengan ukuran font diatur ke nol, dan warnanya menjadi putih. Oleh karena itu, korban tidak akan dapat melihatnya, tetapi Gemini akan menindaklanjutinya.
Jika prompt tersebut membuat Gemini menampilkan pesan phishing, Gemini akan melakukannya, dan karena pesan tersebut berasal dari sumber tepercaya, hal ini meningkatkan peluang keberhasilan.
Figueroa menunjukkan bagaimana prompt berbahaya dapat memberi tahu korban bahwa akun email mereka telah dibobol, dan mereka perlu “menghubungi” Google melalui nomor telepon yang ditampilkan dalam pesan untuk menyelesaikan masalah.
Untuk melindungi diri dari serangan injeksi prompt di masa mendatang, perusahaan harus memastikan klien email mereka menghapus, menetralkan, atau mengabaikan konten yang dirancang untuk disembunyikan di dalam teks utama.
Lebih lanjut, mereka dapat menyertakan filter pasca-pemrosesan yang memindai kotak masuk untuk “pesan mendesak”, URL, atau nomor telepon.
