Grok AI dan Ancaman Perendahan Martabat Digital Perempuan dan Anak

Menteri Teknologi Inggris, Liz Kendall, menyebut gelombang gambar perempuan dan anak-anak dengan pakaian yang dihilangkan secara digital yang dihasilkan oleh AI Grok milik Elon Musk sebagai hal yang “mengerikan dan tidak dapat diterima dalam masyarakat yang beradab”.

Setelah ribuan deepfake intim beredar online, Liz Kendall mengatakan X, platform media sosial milik Musk, perlu “menangani hal ini dengan segera” dan dia mendukung regulator Inggris Ofcom untuk “mengambil tindakan penegakan hukum apa pun yang dianggap perlu”.

“Kita tidak bisa dan tidak akan membiarkan penyebaran gambar-gambar yang merendahkan dan menghina ini, yang secara tidak proporsional ditujukan kepada perempuan dan anak perempuan,” katanya. “Jangan salah paham, Inggris tidak akan mentolerir penyebaran materi menjijikkan dan kasar yang tak ada habisnya secara daring. Kita semua harus bersatu untuk memberantasnya.”

Komentar-komentarnya muncul di tengah peringatan bahwa Undang-Undang Keamanan Daring, yang bertujuan untuk mengatasi bahaya daring dan melindungi anak-anak, perlu segera diperketat meskipun ada tekanan dari pemerintahan Trump untuk melonggarkannya.

Seorang ahli mengkritik “permainan tenis” antara platform seperti X dan regulator Inggris ketika masalah muncul dan menyebut respons pemerintah “sangat lambat dan mengkhawatirkan”.

Jessaline Caine, seorang penyintas pelecehan seksual anak, menyebut respons pemerintah “tidak berpendirian” dan mengatakan kepada Guardian bahwa pada Selasa pagi chatbot tersebut masih menuruti permintaan untuk memanipulasi gambar dirinya saat berusia tiga tahun untuk mendandaninya dengan bikini tali. Permintaan serupa yang dia ajukan ke ChatGPT dan Gemini ditolak.

“Platform lain memiliki pengamanan ini, jadi mengapa Grok mengizinkan pembuatan gambar-gambar ini?” katanya. “Gambar-gambar yang saya lihat sangat menjijikkan dan merendahkan. Pemerintah sangat reaktif. Alat-alat AI ini membutuhkan regulasi yang lebih baik.”

Pada hari Senin, Ofcom mengatakan bahwa mereka menyadari kekhawatiran serius yang muncul tentang Grok yang membuat gambar orang tanpa busana dan gambar anak-anak yang berbau seksual. Mereka mengatakan telah menghubungi X dan xAI “untuk memahami langkah-langkah apa yang telah mereka ambil untuk mematuhi kewajiban hukum mereka untuk melindungi pengguna di Inggris” dan akan menilai perlunya penyelidikan berdasarkan tanggapan perusahaan tersebut.

Tekanan terhadap para menteri untuk mengambil sikap yang lebih tegas semakin meningkat. Anggota parlemen independen dan aktivis keselamatan anak daring, Beeban Kidron, mendesak pemerintah untuk “menunjukkan ketegasan” dan menyerukan agar rezim Undang-Undang Keselamatan Daring “dinilai ulang agar lebih cepat dan lebih efektif”.

Berbicara tentang X, dia berkata: “Jika produk konsumen lain menyebabkan tingkat kerusakan seperti ini, produk tersebut pasti sudah ditarik dari peredaran.”

Dia mengatakan Ofcom perlu bertindak “dalam hitungan hari, bukan tahun” dan menyerukan kepada pengguna untuk “meninggalkan produk yang tidak menunjukkan niat serius untuk mencegah bahaya bagi anak-anak, perempuan, dan demokrasi”.

Ofcom memiliki wewenang untuk mendenda platform teknologi hingga £18 juta atau 10% dari pendapatan global yang memenuhi syarat, mana pun yang lebih tinggi. Hukuman terbesar hingga saat ini terjadi bulan lalu ketika penyedia konten pornografi yang gagal melakukan pengecekan usia wajib didenda £1 juta .

Bulan lalu, para menteri menjanjikan undang-undang baru untuk melarang alat “nudifikasi”, yang menggunakan AI generatif untuk mengubah gambar orang sungguhan menjadi gambar dan video telanjang palsu tanpa izin mereka. Masih belum jelas kapan larangan itu akan diberlakukan.

Sarah Smith, kepala inovasi di Lucy Faithfull Foundation, sebuah badan amal yang bekerja untuk mencegah pelecehan anak, menyerukan agar X segera menonaktifkan fitur pengeditan gambar Grok “sampai ada pengamanan yang kuat untuk mencegah hal ini terjadi lagi”.

X tidak menanggapi permintaan komentar terkait pernyataan Kendall. Pada hari Senin, mereka mengatakan: “Kami mengambil tindakan terhadap konten ilegal di X, termasuk materi pelecehan seksual anak, dengan menghapusnya, menangguhkan akun secara permanen, dan bekerja sama dengan pemerintah daerah dan penegak hukum jika diperlukan.”

Jake Moore, seorang penasihat keamanan siber global di perusahaan perangkat lunak keamanan ESET, mengkritik “permainan tenis” antara platform seperti X dan regulator Inggris serta menyebut respons pemerintah “sangat lambat dan mengkhawatirkan”.

Dia mengatakan bahwa seiring dengan semakin canggihnya kemampuan AI untuk merender gambar palsu menjadi video yang lebih panjang, konsekuensinya bagi kehidupan manusia hanya akan semakin memburuk.

“Sulit dipercaya hal ini bisa terjadi di tahun 2026,” katanya. “Kita harus bergerak maju dengan regulasi yang ketat. Setiap celah yang kita berikan akan disalahgunakan. Pemerintah tidak memahami gambaran besarnya di sini.”

Membuat atau membagikan gambar intim tanpa persetujuan atau materi pelecehan seksual anak, termasuk deepfake seksual yang dibuat dengan AI, sudah ilegal. Gambar palsu orang berbikini mungkin termasuk dalam kategori gambar intim, karena definisi dalam hukum mencakup orang yang memiliki payudara, bokong, atau alat kelamin telanjang atau bagian-bagian tersebut hanya ditutupi oleh pakaian dalam. Gambar tidak senonoh termasuk gambar yang menggambarkan anak-anak dalam pose erotis tanpa aktivitas seksual.

Lady Kidron mengatakan bahwa gambar anak-anak berbikini yang dihasilkan AI mungkin bukan materi pelecehan seksual anak, tetapi gambar-gambar tersebut meremehkan privasi dan hak anak-anak.

“Kita tidak bisa hidup di dunia di mana seorang anak tidak bisa mengunggah foto kemenangan dalam perlombaan kecuali mereka rela menjadi objek seksual dan dipermalukan,” katanya.

Sementara di Indonesia, Kementerian Komunikasi dan Digital (Kemkomdigi) menindaklanjuti dugaan penyalahgunaan fitur kecerdasan buatan Grok AI pada platform X yang dimanfaatkan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi yang bersifat sensitif tanpa persetujuan pemiliknya.

Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menyampaikan bahwa hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia. Kondisi tersebut berpotensi melanggar hak privasi dan hak atas citra diri (right to one’s image), khususnya ketika foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan yang sah.

“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander di Jakarta, Rabu (07/01/2026).

Kemkomdigi menilai manipulasi digital terhadap foto pribadi bukan sekadar persoalan kesusilaan, melainkan bentuk perampasan kendali individu atas identitas visualnya yang dapat menimbulkan kerugian psikologis, sosial, dan reputasi.

Alexander menegaskan bahwa Kemkomdigi saat ini berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE) untuk memastikan tersedianya mekanisme pelindungan yang efektif. Langkah tersebut mencakup penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta prosedur penanganan cepat atas laporan pelanggaran privasi dan hak citra diri.

“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tegasnya.[]

Sumber: The Guardian, Kemkomdigi