Ad Top
Fitur bawaan Gemini dirancang untuk membantu pengguna dalam membaca email dengan lebih cepat, mulai dari menampilkan informasi penting, membuat jadwal otomatis, hingga menyusun tanggapan. Namun, di sinilah celah keamanan terbuka lebar.
Modus Hacker Menggunakan Gemini AI
Marco Figueroa, seorang peneliti keamanan dan juga Manajer Program GenAI Bug Bounty di Mozilla, menemukan teknik baru yang disebut "prompt injection". Teknik ini menyusupkan perintah tersembunyi ke dalam isi email. Perintah tersebut dikamuflase menggunakan HTML dan CSS, seperti mengatur ukuran huruf menjadi nol atau mengubah warnanya menjadi putih agar tidak terlihat oleh pengguna, tetapi tetap dapat dibaca dan dijalankan oleh Gemini.
Dengan cara ini, AI milik Google dapat menampilkan pesan palsu kepada korban. Contohnya, pesan yang menginformasikan bahwa akun telah diretas dan meminta pengguna untuk menghubungi nomor tertentu yang sebenarnya milik penipu. Karena disajikan oleh sistem yang tampak resmi, risiko korban tertipu pun semakin besar.
Untuk mencegah risiko yang lebih luas, para pakar menyarankan agar klien email menghapus konten tersembunyi dalam teks, menambahkan filter yang dapat mengenali pesan yang mendesak atau mencurigakan, serta mengedukasi pengguna bahwa rangkuman dari AI tidak dapat dianggap sebagai pengganti sistem peringatan keamanan.
Namun, beruntungnya ini masih sebatas temuan celah keamanan. Diharapkan, Google dapat memperbaiki celah tersebut agar tidak dimanfaatkan oleh hacker sungguhan di masa depan.
AI mungkin semakin pintar, tetapi sayangnya, kini juga bisa menjadi pintu masuk bagi penjahat siber. Semakin canggih teknologi, semakin canggih pula ancaman yang mengikutinya!
Ad Bottom
