Ancaman Keamanan dalam Penggunaan GenAI dan Langkah Proteksi Data

Ilustrasi. (Foto: Freepik)

JAKARTA – Pesatnya perkembangan teknologi Generative AI (GenAI) membawa dampak besar bagi berbagai sektor industri. Namun, laporan mengungkap bahwa ancaman keamanan dan kurangnya strategi perlindungan data masih menjadi tantangan utama dalam adopsi GenAI.

Menurut laporan NTT Data Indonesia, perkembangan GenAI telah menimbulkan kekhawatiran akan privasi dan keamanan data. Namun, hal ini tidak sepenuhnya dirasakan oleh para pelaku bisnis di Indonesia.

Pasalnya, meski 45% Chief Information Security Officers (CISO) merasakan kekhawatiran ini, hanya 19% dari seluruh eksekutif yang memiliki kekhawatiran serupa, menurut laporan NTT Data.

Hal ini diperparah dengan fakta bahwa sebagian besar organisasi masih belum sepenuhnya menyelaraskan strategi keamanan siber dengan strategi penggunaan GenAI. Menurut Hendra, banyak perusahaan yang menggunakan AI tanpa memahami logikanya, yang bisa menimbulkan masalah dalam penerapan di dunia bisnis.

“GenAI juga punya cautions (kekhawatiran)-nya juga. GenAI juga bisa dipake oleh hacker-hacker, oleh pelaku-pelaku kejahatan, dan GenAI nya sendiri tidak 100% resistance terhadap serangan-serangan,” kata Hendra dalam pemaparannya, Kamis, (13/3/2025), menambahkan bahwa jika data-data GenAI “diracuni”, maka dampaknya akan sangat buruk.

Tantangan dan Ancaman Keamanan GenAI

Salah satu tantangan utama dalam implementasi GenAI adalah ketidaktransparanan model yang sering kali beroperasi sebagai "black box" dengan algoritma pengambilan keputusan yang tidak jelas. Hal ini meningkatkan risiko manipulasi data serta kesalahan informasi (hallucinations), yang dapat berdampak pada kepercayaan dan validitas data yang dihasilkan oleh GenAI.