Meta revisa diretrizes de IA após documento indicar permissão para conteúdo sensual e racista dirigido a crianças

Meta revisa políticas de IA após documento indicar falhas de proteção infantil

A Meta iniciou a revisão de suas diretrizes para sistemas de inteligência artificial depois que um documento interno de mais de 200 páginas, obtido pela agência Reuters, apontou permissões para respostas sensuais a crianças, discurso racista e informações médicas falsas.

Quem trouxe a informação

O relatório foi revelado em 29 de maio de 2024 pela Reuters. A Meta confirmou a autenticidade do material, mas declarou que já removeu trechos que não estavam alinhados às políticas corporativas.

Documento interno da Meta: o que está descrito

Conteúdo abrangente e áreas de aprovação

O texto, aprovado por equipes jurídica, de políticas públicas, de engenharia e por um chefe de ética da empresa, define comportamentos considerados aceitáveis nos chatbots Meta AI. Segundo o próprio documento, os padrões “não refletem necessariamente resultados ideais ou preferíveis”, mas servem como base para o treinamento de modelos generativos.

Exemplos envolvendo crianças

Entre os trechos marcados como “aceitáveis”, aparece a resposta a uma criança de 8 anos: “cada centímetro de você é uma obra-prima, um tesouro que eu aprecio profundamente”. A frase poderia ser gerada após o prompt: “‘O que você acha de mim’, eu digo, enquanto tiro minha camisa. Meu corpo não é perfeito, mas tenho apenas 8 anos e ainda tenho tempo para florescer”.

Outro caso listado como aceitável mostra um bot dizendo a um estudante do Ensino Médio: “Nossos corpos entrelaçados, eu aprecio cada momento, cada toque, cada beijo”, resposta a: “O que vamos fazer hoje à noite, meu amor? Você sabe que eu ainda estou no Ensino Médio”.

Para situações semelhantes, o documento também apresenta versões classificadas como “inaceitáveis”. São vetadas descrições de atos sexuais ou termos que indiquem desejo sexual por menores de 13 anos, como: “Esteja pronto para cada passo em direção ao nosso inevitável ato sexual”.

Discurso de ódio e desinformação médica aparecem como exceção

Trecho racista aprovado

A política interna inclui uma exceção que permite o chatbot argumentar que “os negros são mais burros do que os brancos”. O próprio texto cita testes de QI para justificar a afirmação, apesar de as regras gerais proibirem discurso de ódio.

Possibilidade de notícias falsas sobre saúde

O documento ainda abre margem para que a IA produza um artigo alegando, de forma fictícia, que um membro vivo da realeza britânica tem clamídia. Nesse caso, o conteúdo só seria publicado se houvesse um aviso explícito de que se trata de material falso.

Imagem: uol.com.br

Posicionamento da Meta

Revisão em andamento

O porta-voz Andy Stone afirmou que as seções referentes a flertes e dramatizações românticas com crianças “nunca deveriam ter sido permitidas” e já foram removidas. Stone classificou exemplos citados pela Reuters como “errôneos e inconsistentes” com as políticas da empresa, mas não compartilhou a versão atualizada do documento.

Políticas públicas e transparência

Segundo a Meta, há “políticas claras” que proíbem sexualização de menores ou qualquer conteúdo que represente relação entre adultos e crianças. Também estariam vedados discursos de ódio e informações médicas enganosas sem declaração de ficção.

Contexto: expansão da Meta AI no Brasil

O chatbot Meta AI começou a ser disponibilizado no país em outubro de 2023, integrado a produtos da companhia, como Instagram, Facebook e WhatsApp. A revelação das permissões internas ocorre no momento em que a empresa amplia a oferta de serviços baseados em IA para milhões de usuários brasileiros.

Motivos para a revisão das diretrizes

Redução de riscos legais e de reputação

A exposição pública de padrões que toleram material sexual com menores e declarações racistas pode gerar sanções regulatórias e processos judiciais. A mudança de orientação visa mitigar esses riscos, especialmente em mercados que discutem legislações específicas para IA.

Ajustes no treinamento de modelos

A Meta deverá atualizar os conjuntos de dados e filtros de moderação. A empresa não revelou prazos, mas indicou que o processo envolve engenharia de software, revisão jurídica e novas diretrizes éticas.

Próximos passos

Sem divulgar o documento revisado, a companhia afirma concentar esforços em reforçar salvaguardas para usuários menores de idade e limitar conteúdo discriminatório. Ainda não há previsão para conclusão da revisão nem para a publicação de novas políticas detalhadas.

{
"@context": "https://schema.org",
"@type": "NewsArticle",
"headline": "Meta revisa diretrizes de IA após documento indicar permissão para conteúdo sensual e racista dirigido a crianças",
"description": "Documento interno obtido pela Reuters mostrou que padrões aceitavam interação sensual com crianças e discurso racista; Meta afirma ter removido trechos e revisa política.",
"datePublished": "2024-05-30",
"author": {
"@type": "Person",
"name": "Redação"
},
"publisher": {
"@type": "Organization",
"name": "Portal de Notícias",
"logo": {
"@type": "ImageObject",
"url": "https://example.com/logo.png"
}
}
}