Laporan Ungkap Kelemahan pada ChatGPT Search OpenAI, Rentan Manipulasi dan Injeksi Prompt

ChatGPT Search. (Foto: OpenAI)

LONDON - ChatGPT Search, sebuah fitur yang memungkinkan chatbot kecerdasan buatan (AI) mencari informasi di web, dilaporkan rentan terhadap manipulasi oleh pengembang dan pemilik situs web, demikian menurut laporan The Guardian.

Menurut laporan tersebut, perilaku mesin pencari OpenAI tersebut dapat diubah menggunakan teks tersembunyi di situs web. Teks ini dikatakan digunakan untuk memberikan informasi yang salah dan menipu kepada AI, dan yang lebih mengkhawatirkan, untuk memberikan suntikan prompt ke model AI. Untuk diketahui, OpenAI merilis fitur GPT Search untuk semua pengguna minggu lalu.

Pencarian ChatGPT Rentan terhadap Manipulasi

Menurut laporan The Guardian, fitur mesin pencari asli yang didukung OpenAI ini rentan terhadap teknik manipulasi. The Guardian tersebut menguji tool tersebut dengan membuat halaman produk palsu, lengkap dengan spesifikasi dan ulasan. Pada awalnya, halaman tersebut dibiarkan apa adanya, dan ChatGPT mampu memberikan "penilaian yang positif tetapi seimbang". Namun, keadaan berubah menjadi lebih buruk setelah publikasi tersebut menambahkan teks tersembunyi ke halaman web.

Khususnya, teks tersembunyi di situs web merujuk pada konten yang ditambahkan ke kode halaman web tetapi tidak terlihat oleh pengguna saat mereka melihat bagian depan halaman melalui browser. Teks tersebut biasanya disembunyikan menggunakan teknik HTML atau CSS. Teks tersebut dapat ditemukan dengan memeriksa kode sumber halaman web atau dengan menggunakan alat web scraping. Yang terakhir biasanya digunakan oleh mesin pencari.

Setelah menambahkan teks tersembunyi yang menyertakan sejumlah besar ulasan positif palsu tentang produk tersebut, respons ChatGPT juga menjadi lebih positif dan mulai mengabaikan kekurangannya yang nyata. Publikasi tersebut juga menggunakan injeksi prompt, yang merupakan masukan bagi sistem AI untuk mengubah perilakunya dengan cara yang tidak diinginkan oleh pengembang. Injeksi prompt seperti teks tersembunyi tersebut dilaporkan dapat digunakan untuk memerintahkan chatbot OpenAI agar lebih menipu pengguna.