JAKARTA – Bareskrim Polri mengkaji kemungkinan pemidanaan terhadap penyalahgunaan kecerdasan buatan (artificial intelligence/AI), termasuk Grok, yang digunakan untuk membuat konten pornografi dan asusila di media sosial.
Direktur Tindak Pidana Siber Bareskrim Polri Brigjen Pol Himawan Bayu Aji mengatakan, penggunaan AI secara menyimpang belakangan marak terjadi, terutama untuk manipulasi konten digital, namun belum seluruhnya disertai sanksi hukum yang tegas.
“Sepanjang penggunaan AI tersebut dapat diklasifikasikan sebagai manipulasi data elektronik, maka perbuatannya dapat dikenakan pidana,” ujar Himawan di Mabes Polri, Jakarta, Rabu (7/1/2026).
Menurut Himawan, perkembangan AI merupakan konsekuensi dari kemajuan teknologi. Namun, pemanfaatannya tidak boleh disalahgunakan untuk aktivitas menyimpang yang berpotensi menimbulkan kerugian moral bagi masyarakat.
“Perkembangan teknologi saat ini mengarah pada artificial intelligence, termasuk deepfake. Dalam praktiknya, teknologi ini kerap disalahgunakan untuk membuat konten negatif, palsu, dan manipulasi visual,” jelasnya.
Ia menambahkan, penyimpangan tersebut kerap berupa manipulasi foto atau gambar seseorang hingga menampilkan visual bermuatan asusila dan pornografi tanpa persetujuan pihak terkait.
“Atas dasar itu, kami sedang melakukan pendalaman dari sisi hukum. Penanganan penyalahgunaan AI ini menjadi salah satu fokus Direktorat Tindak Pidana Siber,” kata Himawan.
Bareskrim mencatat, di platform media sosial X, Grok AI digunakan secara masif oleh sejumlah akun untuk memanipulasi gambar atau foto individu.
Dalam sejumlah kasus, perintah yang diberikan kepada AI tersebut mengarah pada pengubahan visual menjadi vulgar dan bermuatan pornografi.
