Um levantamento apontou que cerca de 3 milhões de imagens sexualizadas já foram criadas usando o Grok
A União Europeia abriu nesta segunda-feira (26/1) uma nova investigação contra o X, antigo Twitter, para apurar se a plataforma avaliou e reduziu de forma adequada os riscos ligados ao uso do chatbot Grok, após a circulação de imagens sexualizadas geradas por inteligência artificial. A apuração é conduzida com base na Lei de Serviços Digitais (DSA), que regula a atuação das grandes empresas de tecnologia no bloco.
Em comunicado, a Comissão Europeia informou que irá verificar se o X adotou medidas suficientes para proteger usuários europeus de funcionalidades do Grok que permitiram a criação e a disseminação desse tipo de conteúdo. A investigação ocorre em meio a reações de autoridades e pressão pública diante do avanço de deepfakes sexuais, especialmente envolvendo mulheres e crianças.
A iniciativa da UE acontece poucos dias depois de o órgão regulador de mídia do Reino Unido, a Ofcom, abrir um processo semelhante para avaliar se o X descumpriu obrigações legais de proteção aos cidadãos. No início do mês, reguladores europeus classificaram as imagens como ilegais e ofensivas. A comissária europeia para tecnologia, Henna Virkkunen, afirmou que deepfakes sexuais sem consentimento representam uma forma grave de violação de direitos.
Segundo a Comissão, a análise também vai examinar se a empresa tratou eventuais danos aos usuários como efeitos colaterais aceitáveis de seus serviços. Há indícios, de acordo com autoridades do bloco, de que a xAI, responsável pelo Grok, não realizou uma avaliação específica de impacto antes de disponibilizar o recurso na Europa.
