Jakarta — Lembaga pemantau isu teknologi informasi dan komunikasi, ICT Watch, menyoroti meningkatnya potensi penyalahgunaan teknologi kecerdasan artifisial atau Artificial Intelligence (AI) di ruang publik digital. Pemanfaatan AI yang semakin masif dinilai membawa manfaat besar bagi akses informasi dan partisipasi publik, namun di sisi lain juga membuka celah bagi produksi dan penyebaran konten manipulatif yang dapat memengaruhi persepsi masyarakat terhadap isu sosial dan kebijakan publik.
Dalam pernyataannya, ICT Watch menyampaikan bahwa hasil pemantauan terhadap berbagai platform digital menunjukkan adanya pola penggunaan AI untuk menghasilkan konten berupa video, audio, gambar, dan teks yang tampak meyakinkan, tetapi tidak disertai dengan dasar fakta yang dapat diverifikasi. Konten semacam ini kerap dikemas dengan narasi emosional dan klaim sepihak, sehingga berpotensi menyesatkan publik dan mengaburkan batas antara kritik berbasis fakta dan disinformasi.
ICT Watch menegaskan bahwa kritik terhadap kebijakan publik dan penyelenggaraan negara merupakan bagian yang sah dalam praktik demokrasi. Namun demikian, penggunaan teknologi AI untuk memanipulasi informasi, seperti rekayasa visual atau audio yang meniru figur publik tanpa penjelasan dan konteks yang memadai—dinilai dapat merugikan hak masyarakat untuk memperoleh informasi yang akurat, berimbang, dan dapat dipercaya.
Sebagai ilustrasi, ICT Watch mengidentifikasi sejumlah pola konten manipulatif berbasis AI yang beredar di ruang digital. Pola tersebut antara lain berupa video atau audio hasil rekayasa AI yang menampilkan figur publik seolah-olah menyampaikan pernyataan tertentu, gambar generatif yang dikaitkan dengan tuduhan serius tanpa verifikasi, hingga teks panjang atau thread analitis yang mengklaim mengungkap fakta penting namun bersumber pada data yang tidak jelas. Selain itu, meme atau konten visual singkat bernuansa satir juga dinilai berpotensi menyesatkan karena kerap menghilangkan konteks penting.
Menanggapi fenomena tersebut, ICT Watch mendorong adanya penguatan tata kelola AI yang mengedepankan prinsip transparansi, akuntabilitas, serta perlindungan hak publik atas informasi. Selain itu, tanggung jawab platform digital juga dinilai penting, khususnya dalam memberikan penanda terhadap konten berbasis AI, membatasi distribusi konten manipulatif, serta menyediakan mekanisme koreksi yang efektif.
ICT Watch juga menekankan pentingnya penguatan literasi digital masyarakat agar publik memiliki kemampuan untuk mengenali, memverifikasi, dan menyikapi konten berbasis AI secara kritis. Menurut ICT Watch, tantangan utama dalam pemanfaatan AI bukan terletak pada perbedaan pendapat atau kritik, melainkan pada cara teknologi tersebut digunakan di ruang publik.
Melalui pendekatan yang bertanggung jawab dan kolaboratif, ICT Watch berpandangan bahwa teknologi AI seharusnya dapat berkontribusi pada terciptanya dialog publik yang sehat, inklusif, dan berbasis informasi yang dapat dipercaya, bukan sebaliknya.
About the Author
