Kate Middleton, Putri Wales pada hari kunjungannya ke National Federation of Women's Institute untuk memperingati tiga tahun wafatnya Ratu Elizabeth II di Sunningdale, Inggris (8/9/2025). Foto: Alastair Grant/REUTERS
Kate Middleton menjadi salah satu korban deepfake mesum yang diciptakan Grok AI. Regulator internet, telekomunikasi, dan media Inggris, Ofcom, langsung turun tangan mengontak xAI, perusahaan milik Elon Musk yang menciptakan Grok.
Ofcom mengatakan pihaknya sedang menyelidiki dugaan Grok memproduksi gambar orang dalam kondisi seolah tanpa busana.
BBC menemukan sejumlah postingan di platform X yang memperlihatkan pengguna meminta Grok mengubah foto asli perempuan agar tampak mengenakan bikini atau berada dalam situasi seksual, tanpa izin dari orang yang bersangkutan. Kate Middleton masuk di antara korban deepfake.
Istana Kensington belum memberikan komentar resmi terkait laporan tersebut.
Ofcom tengah mempertimbangkan langkah penegakan hukum terhadap Grok. Kasus ini juga menjadi ujian awal bagi regulator dalam menghadapi pesatnya perkembangan teknologi kecerdasan buatan.
Ilustrasi deepfake. Foto: Shutterstock
"Kami mengetahui adanya kekhawatiran besar terkait fitur Grok di X yang dapat menghasilkan gambar orang tanpa busana serta gambar seksual anak-anak," papar Ofcom dalam sebuah pernyataan, mengutip Newsweek.
"Kami telah melakukan kontak mendesak dengan X dan xAI untuk memahami langkah apa yang telah mereka ambil guna memenuhi kewajiban hukum dalam melindungi pengguna di Inggris. Berdasarkan tanggapan mereka, kami akan melakukan penilaian cepat untuk menentukan apakah ada potensi pelanggaran yang perlu diselidiki."
- Ofcom, Regulator Media di Inggris
Sementara itu, tim keamanan Grok AI mengeklaim pihaknya telah mengambil tindakan tegas terhadap konten ilegal.
"Kami menindak konten ilegal di X, termasuk materi pelecehan seksual terhadap anak, dengan menghapus konten, menangguhkan akun secara permanen, serta bekerja sama dengan pemerintah dan aparat penegak hukum setempat," tulis Grok.
"Mereka yang menggunakan atau memberi perintah kepada Grok untuk membuat konten ilegal akan menerima konsekuensi yang sama seperti pengguna yang mengunggah konten ilegal secara langsung."
Di Indonesia sendiri, Kementerian Komunikasi dan Digital (Komdigi) telah menindaklanjuti dugaan penyalahgunaan Grok AI di platform X yang dipakai untuk membuat konten cabul.
Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, mengatakan penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia.
"Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga," ujar Alexander dalam pernyataan resmi, Rabu (7/1).
Komdigi menilai manipulasi digital terhadap foto pribadi tidak sekadar melanggar norma kesusilaan. Praktik tersebut juga merupakan bentuk perampasan kendali individu atas identitas visualnya dan dapat menimbulkan dampak psikologis, sosial, serta kerusakan reputasi korban.
Tidak ada komentar:
Posting Komentar