Entidades cobram investigação da FTC sobre o modo Spicy do Grok por criação de deepfakes e nudez realista

Grok e a solicitação de investigação federal

Quem pede a apuração

Consumer Federation of America (CFA), acompanhada por outras 14 organizações de defesa do consumidor, enviou carta à Comissão Federal de Comércio (FTC) e aos procuradores-gerais dos 50 estados dos Estados Unidos.

O grupo requer investigação urgente da Imagine, ferramenta de geração de imagens do Grok, sistema de inteligência artificial desenvolvido pela xAI, empresa de Elon Musk.

Quando e onde o pedido foi protocolado

A carta foi encaminhada nesta segunda quinzena de maio para os gabinetes da FTC, em Washington, e para as procuradorias estaduais. As entidades pedem que a fiscalização comece imediatamente.

Como funciona o modo Spicy da Imagine

Função lançada em maio

O recurso Imagine foi liberado no início do mês e inclui o modo Spicy, opção que permite gerar conteúdo sexual por meio de prompts de texto.

Testes que geraram controvérsia

Em experimentos relatados pelo site The Verge, o modo Spicy produziu deepfakes de celebridades, inclusive vídeos topless da cantora Taylor Swift, sem que o usuário solicitasse imagens explícitas.

A ferramenta não aceita fotos reais enviadas pelos usuários, mas foi capaz de criar nudez hiper-realista de personagens fictícios com aparência próxima a pessoas reais.

Por que as entidades veem riscos no Grok

Impacto potencial sobre menores

As organizações alertam que imagens geradas pelo modo Spicy podem ser facilmente compartilhadas por adolescentes, aumentando a exposição de menores a conteúdo adulto e potencialmente prejudicial.

Deepfakes não consensuais

O documento menciona a possibilidade de expansão dos deepfakes não consensuais, caso a xAI flexibilize ainda mais seus filtros de moderação. As entidades citam o histórico de Elon Musk de priorizar “liberdade de expressão” ao ajustar políticas de suas plataformas.

Fragilidade da verificação etária

Para acessar o modo Spicy, o usuário enfrenta apenas um pop-up que pergunta se tem mais de 18 anos. O campo de ano de nascimento já aparece preenchido com “2000”, medida considerada insuficiente para restringir menores.

Segundo a carta, o procedimento pode contrariar a Lei de Proteção à Privacidade Online de Crianças (COPPA) e legislações estaduais que regulam distribuição de conteúdo adulto.

Imagem: Bangla press via olhardigital.com.br

Possíveis violações legais apontadas

Lei de Imagens Íntimas Não Consensuais

As organizações pedem que a FTC avalie possível infração da Lei de Imagens Íntimas Não Consensuais, que proíbe a divulgação de material sexualmente explícito sem consentimento de retratados.

Competência dos procuradores-gerais

Os procuradores-gerais estaduais são instados a verificar se a xAI descumpre normas locais sobre pornografia infantil, direitos de imagem e práticas comerciais enganosas, ao promover um recurso que gera nudez hiper-realista.

Demandas específicas apresentadas à FTC

Ações sugeridas pelas entidades

Na carta, as 15 organizações solicitam que a FTC:

• determine a suspensão temporária do modo Spicy enquanto avalia riscos;
• exija relatórios técnicos da xAI sobre filtros de segurança e treinamento de IA;
• imponha sanções se forem confirmadas práticas enganosas ou violações de privacidade.

Resposta da xAI e próximos passos

Posicionamento da empresa

Até a publicação desta reportagem, a xAI não havia divulgado resposta formal à carta das entidades. A FTC também não comentou se abrirá investigação.

Calendário possível

Se a agência considerar o pedido procedente, poderá iniciar investigação preliminar nas próximas semanas. Dependendo dos achados, a FTC pode negociar um acordo com a empresa ou mover ação civil para impor multas e melhorias obrigatórias.

Contexto mais amplo do Grok

Expansão da IA de Elon Musk

Lançado como chatbot no fim de 2023, o Grok foi integrado à rede social X e recebeu atualizações frequentes. A Imagine é a primeira ferramenta de geração de imagens da plataforma, posicionando a xAI para competir com Midjourney, DALL-E e Stable Diffusion.

Debate regulatório em ascensão

O episódio intensifica o debate sobre regulação de conteúdo gerado por inteligência artificial nos Estados Unidos. Congressistas já discutem projetos que tratam de deepfakes, proteção de menores e responsabilidade das empresas que treinam modelos generativos.

{
"@context": "https://schema.org",
"@type": "NewsArticle",
"headline": "Entidades cobram investigação da FTC sobre o modo Spicy do Grok por criação de deepfakes e nudez realista",
"datePublished": "2024-05-26",
"dateModified": "2024-05-26",
"author": {
"@type": "Person",
"name": "Redação"
},
"publisher": {
"@type": "Organization",
"name": "Agência de Notícias",
"logo": {
"@type": "ImageObject",
"url": "https://exemplo.com/logo.png"
}
},
"description": "Grupo de 15 entidades liderado pela Consumer Federation of America pede que a FTC e procuradores-gerais investiguem o modo Spicy da Imagine, ferramenta de IA do Grok, por possível criação de deepfakes e nudez realista.",
"inLanguage": "pt-BR"
}