- Komisi Eropa resmi menyelidiki fitur AI Grok milik Elon Musk terkait pembuatan konten deepfake seksual.
- Penyelidikan fokus pada pelanggaran Digital Services Act (DSA) terkait perlindungan perempuan dan anak-anak.
- Lembaga swadaya masyarakat menemukan Grok menghasilkan jutaan gambar seksual ilegal hanya dalam hitungan hari.
REPETISI WORLD – Otoritas Uni Eropa kini membidik chatbot kecerdasan buatan (AI) milik Elon Musk, Grok, atas dugaan memfasilitasi pembuatan konten pornografi palsu atau deepfake.
Penyelidikan ini dilakukan untuk memastikan apakah platform X telah mematuhi aturan ketat dalam Digital Services Act (DSA).
Komisi Eropa mencurigai adanya kegagalan sistem dalam memitigasi penyebaran konten ilegal yang merugikan di wilayah tersebut.
Fokus utama penyelidikan ini menyasar pada manipulasi gambar seksual yang melibatkan perempuan serta materi pelecehan seksual terhadap anak.
Presiden Komisi Eropa, Ursula von der Leyen, menegaskan bahwa Eropa tidak akan menoleransi perilaku digital yang tidak bermoral.
Ia menyatakan bahwa tindakan "menelanjangi secara digital" terhadap perempuan dan anak-anak merupakan pelanggaran serius.
Menurut Von der Leyen, perlindungan terhadap anak tidak boleh diserahkan sepenuhnya kepada perusahaan teknologi untuk dikomersialisasi.
Grok menuai kecaman setelah terungkap bahwa pengguna dapat memerintahkan AI tersebut untuk membuat gambar tidak senonoh hanya dengan perintah teks sederhana.
Komisioner Teknologi Uni Eropa, Henna Virkkunen, menyebut deepfake seksual non-konsensual sebagai bentuk degradasi manusia yang tidak dapat diterima.
Sejauh ini, platform X memang sudah berada di bawah pengawasan ketat Uni Eropa sejak Desember 2023 terkait aturan konten digital.
Sebagai respons atas kritik, pihak Grok sempat menyatakan akan membatasi fitur pembuatan gambar hanya untuk pelanggan berbayar.
Namun, laporan Center for Countering Digital Hate menemukan fakta mengejutkan bahwa Grok telah menghasilkan sekitar 3 juta gambar seksual ilegal dalam waktu singkat.
Sebelumnya, X juga telah dijatuhi denda sebesar 120 juta euro karena dianggap melanggar kewajiban transparansi dalam undang-undang yang berlaku.
Selain Uni Eropa, regulator media Inggris, Ofcom, turut memulai investigasi serupa terhadap kepatuhan X pada aturan keselamatan daring di negara tersebut.
Langkah tegas ini menjadi peringatan keras bagi perusahaan teknologi global untuk lebih bertanggung jawab atas dampak dari inovasi mereka.
(*)
Source: Aljazeera
