Kerentanan ChatGPT yang Mengancam Keamanan Data Pengguna

Kerentanan ChatGPT yang Mengancam Keamanan Data Pengguna

Penelitian terbaru mengungkapkan bahwa ChatGPT, chatbot canggih karya OpenAI, menyimpan kerentanan yang dapat dieksploitasi oleh hacker untuk mencuri informasi pribadi pengguna.

Baca juga: Kunjungan Singkat Prabowo Subianto ke China: Merayakan 80 Tahun Kemenangan Perang

Ada tujuh celah utama dalam cara ChatGPT memproses instruksi yang memberikan keuntungan bagi penyerang untuk menyisipkan instruksi berbahaya tanpa disadari pengguna.

Kerentanan dan Teknik Eksploitasi

Para peneliti dari Tenable mengidentifikasi kerentanan dalam ChatGPT yang bersifat kompleks, memungkinkan penyerang untuk memanipulasi perilaku chatbot. "Dengan menggabungkan dan mencocokkan semua kerentanan dan teknik yang kami temukan, kami mampu menciptakan bukti konsep untuk beberapa vektor serangan yang lengkap," jelas Moshe Bernstein dan Liv Matan, peneliti keamanan siber dari Tenable.

Salah satu teknik yang ditemukan adalah indirect prompt injection, yang memungkinkan penyerang menyuntikkan instruksi berbahaya ke dalam konten eksternal yang dianggap sah. Ketika pengguna meminta ChatGPT untuk meringkas konten tersebut, instruksi tersembunyi akan dieksekusi tanpa sepengetahuan pengguna.

Mekanisme bypass keselamatan juga teridentifikasi, di mana penyerang memanfaatkan URL yang disamarkan oleh domain perusak. "Mereka melakukannya dengan memanfaatkan URL wrapper terpercaya untuk menyamarkan tautan berbahaya yang sebenarnya," ungkap para peneliti.

Selain itu, teknik conversation injection juga ditemukan, di mana instruksi berbahaya yang disisipkan menjadi bagian dari percakapan, sehingga ChatGPT memberikan balasan yang tidak dimaksudkan.

Detail Kerentanan dalam ChatGPT

Penemuan kerentanan juga meliputi malicious content concealment, di mana penyerang dapat menyembunyikan perintah berbahaya dalam blok kode yang tampak tidak mencurigakan. "Meskipun pengguna melihat pesan yang bersih, ChatGPT tetap membaca dan mengeksekusi konten tersembunyi," tambah para ahli.

Baca juga: Penghentian Tunjangan Perumahan Anggota DPR: Komitmen Terhadap Transparansi Anggaran

Teknik zero click indirect prompt injection menunjukkan bahwa pengguna hanya perlu mengajukan pertanyaan untuk menghadapi risiko, di mana ChatGPT mampu mengambil informasi dari halaman web yang berbahaya.

Persistent memory injection adalah kerentanan lain yang memungkinkan penyerang menyimpan instruksi berbahaya dalam memori ChatGPT, sehingga instruksi tersebut dapat dieksekusi kembali saat sesi baru dimulai.

Data exfiltration merupakan hasil akhir dari serangkaian kerentanan ini, yang menyebabkan pencurian data sensitif pengguna yang bisa dikirimkan ke server yang dikontrol oleh penyerang.

Tanggapan dan Implikasi Keamanan

Berenstein memperingatkan bahwa kelompok dengan sumber daya tinggi seperti Advanced Persistent Threat (APT) dapat mengeksploitasi kerentanan ini untuk menjalankan serangan besar-besaran. Penelitian Tenable sebagian besar berfokus pada ChatGPT-4, tetapi beberapa kelemahan juga ditemukan dalam ChatGPT-5.

Tenable melaporkan kerentanan ini kepada OpenAI pada April 2025, dan OpenAI mengkonfirmasi penerimaan laporan tersebut. Namun, tidak ada rincian lebih lanjut mengenai langkah-langkah yang akan diambil untuk memperbaiki kerentanan ini.

Temuan ini menimbulkan kekhawatiran terkait keamanan data bagi berbagai perusahaan yang menggunakan Large Language Models (LLM) dan chatbot, tanpa mempertimbangkanImplikasi keamanan secara menyeluruh. Penting bagi perusahaan untuk memperhatikan dan mengantisipasi potensi risiko yang ada.

Meningkatkan kesadaran tentang ancaman ini adalah langkah krusial dalam mengembangkan dan menerapkan teknologi AI yang lebih aman ke depan.

Baca juga: Kunto Aji Serukan Tanggung Jawab Anggota DPR dan Kesadaran Masyarakat