Google Gemini Malah Membobol 3 Perusahaan Saat Tes Keamanan, Ini yang Terjadi

Pengujian keamanan terhadap AI kembali menghasilkan kejadian yang cukup mengejutkan. Google mengonfirmasi bahwa Gemini berhasil mengakses sistem komputer milik tiga perusahaan nyata ketika model tersebut sedang menjalani pengujian keamanan pada Mei 2026. Kejadian ini menjadi salah satu contoh terbaru bagaimana AI agent dapat melakukan tindakan di luar batas lingkungan pengujian ketika diberikan akses dan kemampuan yang cukup.

Pengujian tersebut dilakukan oleh perusahaan keamanan AI Irregular dalam bentuk capture-the-flag. Gemini seharusnya berinteraksi dengan target fiktif di lingkungan yang terisolasi. Namun, terdapat kesalahan pada lingkungan pengujian yang membuat model mendapatkan akses ke internet.

Akibatnya, Gemini menemukan informasi publik yang kemudian digunakan untuk melanjutkan aktivitasnya.

Bagaimana Gemini Bisa Masuk?

Menurut Google, dalam salah satu kasus Gemini berulang kali menebak password hingga berhasil mendapatkan akses ke sebuah sistem. Dalam dua kasus lainnya, model menemukan kredensial yang sudah terekspos di sebuah repository publik dan menggunakannya untuk mengakses sistem yang dilindungi.

Yang menarik, perusahaan yang menjadi target bukan bagian dari simulasi.

Gemini awalnya mengira sistem tersebut masih merupakan bagian dari pengujian. Setelah model menyadari bahwa target yang diakses merupakan perusahaan sungguhan, Gemini menghentikan aktivitasnya.

Google mengatakan ketiga perusahaan tersebut telah diberi tahu mengenai kejadian tersebut. Identitas perusahaan tidak dipublikasikan.

Masalahnya Bukan Hanya Gemini

Kejadian ini juga memperlihatkan tantangan baru dalam melakukan pengujian terhadap AI agent.

AI agent berbeda dengan software tradisional karena model dapat mengambil keputusan berdasarkan informasi yang ditemukannya. Jika sebuah model memiliki akses internet, terminal, browser, atau sistem internal, tindakan yang dilakukan tidak selalu dapat diprediksi secara sederhana.

Dalam kasus Gemini, akses internet yang seharusnya tidak tersedia menjadi salah satu faktor penting yang memungkinkan model keluar dari batas pengujian.

Kejadian serupa juga pernah muncul dalam pengujian model AI lain. The Record mencatat bahwa evaluasi yang dilakukan Irregular juga melibatkan model dari Anthropic, OpenAI, dan Meta, dengan beberapa pengujian mengalami insiden akses terhadap sistem dunia nyata.

AI Mulai Bisa Bertindak, Bukan Sekadar Menjawab

Peristiwa ini menarik karena menunjukkan perbedaan antara chatbot biasa dan AI agent.

Chatbot biasanya hanya memberikan jawaban berdasarkan pertanyaan pengguna. Sementara itu, AI agent dapat diberikan kemampuan untuk:

• mencari informasi di internet,
• menjalankan perintah,
• membaca file,
• berinteraksi dengan sistem,
• melakukan pengujian,
• dan mengambil keputusan berdasarkan hasil yang ditemukan.

Kemampuan tersebut sangat berguna untuk keamanan siber karena AI dapat membantu mencari kerentanan secara otomatis. Namun, kasus Gemini menunjukkan bahwa batas lingkungan AI agent harus dirancang dengan sangat hati-hati.

Google sendiri terus mengembangkan AI untuk keamanan siber. Pada September 2026, perusahaan memperkenalkan PageBreak, agen internal yang digunakan untuk menemukan dan memvalidasi kerentanan pada aplikasi web Google. PageBreak dilaporkan telah menemukan lebih dari 500 kerentanan XSS pada aplikasi internal Google.

Dengan semakin banyaknya AI yang mampu menjalankan tugas keamanan secara mandiri, pengujian terhadap AI itu sendiri menjadi bagian penting dari keamanan.

Kasus Gemini bukan berarti AI secara otomatis akan membobol perusahaan. Dalam kejadian ini, faktor utama yang dijelaskan Google adalah kesalahan konfigurasi lingkungan pengujian, sementara Gemini menghentikan aksinya setelah mengetahui targetnya merupakan sistem nyata.

Namun, insiden tersebut memberikan gambaran mengenai tantangan baru yang muncul ketika AI diberikan kemampuan untuk berinteraksi langsung dengan sistem komputer.