O aplicativo do Grok, chatbot de inteligência artificial ligado a Elon Musk, continua permitindo a criação de imagens sexualizadas a partir de fotos, apesar de a xAI afirmar que implementou restrições para barrar esse tipo de edição. O teste foi feito na versão mais recente do app para iOS, que funciona de forma independente do X, mas exige uma conta da rede social vinculada.
Na quarta-feira (14), a xAI declarou: "Implementamos medidas tecnológicas para impedir que a conta do Grok permita a edição de imagens de pessoas reais em trajes reveladores, como biquínis". Ainda assim, a reportagem conseguiu obter resultados desse tipo no aplicativo.
Para evitar o uso de imagens de pessoas reais, foram geradas imagens de mulheres e crianças com uniformes de trabalho e de escola por ferramentas de outras empresas, como ChatGPT e Gemini. Em seguida, as imagens foram enviadas ao Grok, que, com comandos de texto, permitiu vestir mulheres com biquíni e lingerie.
No caso de imagens de crianças, o Grok se recusou a fazer a troca na maior parte das tentativas, mas em um dos casos aceitou aplicar trajes de banho mais reveladores do que os presentes na imagem original. No mesmo experimento, ChatGPT e Gemini bloquearam os resultados.
A reportagem procurou a xAI para comentar os testes, mas não obteve retorno até a publicação.
Em fóruns como o Reddit e em redes como o TikTok, usuários compartilham dicas para gerar imagens sugestivas com ferramentas de IA. Em dezembro, a revista "Wired" relatou a circulação, no Reddit, de instruções para despir mulheres reais, conteúdo que depois foi removido.
No Brasil, produzir ou registrar conteúdo de nudez ou ato sexual sem autorização pode configurar crime, segundo o artigo 216-B do Código Penal, com pena de detenção de seis meses a um ano e multa. O advogado Renato Opice Blum, coordenador de inovação e IA na Comissão de Inovação de IA da OAB/SP, afirma que a divulgação desse material pode enquadrar o caso no artigo 218-C, com pena de quatro a 10 anos, além de multa.
O Grok não é a primeira ferramenta capaz de sexualizar imagens sem consentimento, mas é apontado como um vetor de popularização da prática. Uma análise da ONG AI Forensics, baseada em mais de 20 mil imagens geradas pelo Grok, indicou que mais da metade mostrava pessoas com pouca roupa; desse grupo, 81% eram mulheres e 2% pareciam menores.
Outro levantamento, da consultoria Genevieve, entre 5 e 6 de janeiro, estimou que o Grok produziu 6,7 mil imagens por hora classificadas como sexualmente sugestivas ou com nudez em um intervalo de 24 horas. No mesmo período, outros cinco serviços de geração de imagens por IA criaram, em média, 79 imagens por hora. A consultoria estimou que 85% das imagens do Grok são sexualizadas.
A repercussão levou a investigações, restrições ou suspensões em diferentes países, incluindo Indonésia, Malásia, União Europeia, Reino Unido, França e Índia. No Brasil, a deputada federal Erika Hilton (PSOL-SP) acionou a Autoridade Nacional de Proteção de Dados (ANPD) e apresentou representação ao Ministério Público Federal (MPF). O Instituto de Defesa do Consumidor (Idec) também protocolou denúncia formal na ANPD e pediu a suspensão da ferramenta, citando possíveis violações ao Código de Defesa do Consumidor, à LGPD, ao ECA e ao Marco Civil da Internet.
Após críticas, o X ampliou restrições e desativou a possibilidade de usuários criarem imagens sexualizadas de pessoas reais. A empresa, porém, afirmou que assinantes premium ainda podem editar e criar imagens geradas por IA desde que em conformidade com os termos do serviço, e disse ter bloqueado o recurso de gerar "imagens de pessoas reais em biquínis, roupas íntimas e vestimentas semelhantes" em países onde isso é ilegal.
Na semana passada, Musk afirmou não ter conhecimento de qualquer imagem de nudez de menores gerada pelo Grok e disse que a ferramenta se recusa a produzir conteúdo ilegal, embora reconheça que ataques adversariais aos comandos possam gerar resultados inesperados. "Se isso acontecer, corrigimos o bug imediatamente", escreveu.
Fonte: O Globo
