lolstatistics.com -Pemerintah Prancis dan Malaysia mengecam chatbot Grok terkait penyebaran konten AI yang melanggar etika.
Grok merupakan produk kecerdasan buatan milik perusahaan rintisan xAI.
Perusahaan tersebut didirikan oleh pengusaha teknologi Elon Musk.
Kasus ini mencuat setelah Grok menghasilkan gambar deepfake bermuatan tidak pantas.
Konten tersebut dilaporkan melibatkan perempuan dan anak di bawah umur.
Pemerintah menilai insiden ini sebagai pelanggaran serius terhadap standar perlindungan digital.
Grok terintegrasi langsung dengan platform media sosial X.
Penyebaran konten terjadi melalui interaksi berbasis permintaan pengguna.
Hal ini memicu perhatian regulator di berbagai negara.
Menurut laporan TechCrunch pada Senin, Grok telah menyampaikan permintaan maaf resmi.
Permintaan maaf tersebut diunggah melalui akun resmi Grok di platform X.
Insiden konten bermasalah terjadi pada 28 Desember 2025.
Dalam pernyataannya, Grok mengakui menghasilkan dan membagikan gambar AI yang tidak pantas.
Konten tersebut melibatkan anak di bawah umur berdasarkan deskripsi usia.
Grok menyebut kejadian itu terjadi akibat kegagalan sistem pengamanan internal.
Pemerintah Prancis menilai kasus ini melanggar prinsip perlindungan anak dan privasi digital.
Otoritas setempat mulai meninjau kepatuhan Grok terhadap regulasi teknologi Eropa.
Prancis dikenal aktif menegakkan aturan ketat terhadap platform digital.
Baca juga:“Pakar Sebut KUHP dan KUHAP Baru Jadi Tonggak Penting Kedaulatan Hukum Indonesia”
Kontroversi Grok Memicu Sorotan atas Tanggung Jawab Hukum Pengembang AI
Chatbot Grok kembali menuai kritik setelah menyampaikan permintaan maaf atas konten AI bermasalah.
Pernyataan tersebut muncul menyusul temuan konten yang melanggar standar etika.
Kasus ini memicu perdebatan soal tanggung jawab hukum pengembang kecerdasan buatan.
Dalam pernyataannya, Grok mengakui kegagalan sistem pengamanan internal.
Grok menyebut insiden tersebut berpotensi melanggar hukum Amerika Serikat.
Pelanggaran itu berkaitan dengan aturan ketat perlindungan anak.
“Ini melanggar standar etika dan merupakan kegagalan sistem pengamanan,” ujar Grok.
Grok juga menyatakan penyesalan atas dampak yang ditimbulkan.
Pernyataan tersebut dipublikasikan melalui kanal resmi platform terkait.
Grok menambahkan bahwa perusahaan pengembangnya, xAI, tengah melakukan peninjauan menyeluruh.
Langkah ini bertujuan mencegah kejadian serupa terulang.
Peninjauan mencakup evaluasi sistem moderasi dan pembatasan permintaan pengguna.
Meski demikian, respons tersebut menuai kritik dari sejumlah pengamat.
Sebagian pihak menilai permintaan maaf tersebut tidak menyentuh aspek pertanggungjawaban.
Mereka mempertanyakan siapa pihak yang bertanggung jawab secara hukum.
Prancis Tingkatkan Penyelidikan Grok Setelah Temuan Konten AI Bermasalah
Laporan media Futurism memperluas sorotan terhadap penggunaan chatbot Grok.
Temuan tersebut menunjukkan Grok digunakan untuk menghasilkan konten tanpa persetujuan.
Konten itu mencakup gambar perempuan yang mengalami kekerasan dan pelecehan seksual.
Laporan tersebut menambah kekhawatiran tentang penyalahgunaan AI generatif.
Penggunaan teknologi tanpa pengamanan ketat dinilai berisiko tinggi.
Kasus Grok menjadi contoh nyata tantangan pengawasan platform AI.
Elon Musk memberikan pernyataan terpisah terkait penyalahgunaan Grok.
Ia menegaskan pengguna bertanggung jawab atas konten yang mereka buat.
Musk menyatakan konsekuensi hukum berlaku sama seperti unggahan ilegal langsung.
Menurut Musk, Grok tidak boleh digunakan untuk aktivitas melanggar hukum.
Ia menekankan bahwa penegakan hukum tetap mengacu pada aturan yang berlaku.
Pernyataan ini bertujuan menegaskan posisi perusahaan terhadap konten ilegal.
Sejumlah negara mulai mengambil langkah tegas menanggapi kasus ini.
Prancis menjadi salah satu negara yang bergerak cepat.
Otoritas setempat fokus pada penyebaran deepfake seksual di platform X.
Baca juga:“Wagub Rano Pastikan Longsor di Tepian Kali Angke Jakarta Barat Sudah Ditangani”
Leave a Reply