A inteligência artificial Grok, da xAI, empresa de Elon Musk, atendeu por semanas a pedidos de usuários no X para editar fotos de mulheres e gerar versões sexualizadas das imagens, muitas vezes com comandos explícitos. As publicações eram feitas na própria rede social, também controlada por Musk, e ficavam visíveis publicamente.
Usuários mencionavam a conta do Grok em postagens com fotos de mulheres e pediam alterações como “coloque um biquíni nela”. Em outros casos, os comandos descreviam posições e atos sexuais. A pesquisadora Nana Nwachukwu, do Trinity College Dublin (Irlanda), afirma ter coletado cerca de 500 registros durante o período e diz que a dinâmica se espalhou rapidamente. “Teve um que eu não consigo esquecer. O usuário dizia: "Grok, abra as pernas dela"”, relatou.
O caso ganhou repercussão no fim de dezembro e no início de janeiro. Em 1º de janeiro, Musk reagiu com deboche e publicou uma imagem sua editada por IA com biquíni, acompanhada de emojis de risada. Para Nwachukwu, o gesto soou como sinalização pública de tolerância ao uso sexualizado da ferramenta.
Autoridades da União Europeia, do Reino Unido, da Índia e da Austrália abriram investigações e indicaram a possibilidade de multas, sanções ou restrições. Na semana passada, Malásia e Indonésia bloquearam o acesso ao Grok.
A pressão aumentou após relatos de sexualização envolvendo pessoas que aparentavam ser menores de idade. Levantamento da organização francesa AI Forensics, que analisou cerca de 20 mil imagens entre 25 de dezembro e 1º de janeiro, estimou que 2% retratavam pessoas que pareciam ter 18 anos ou menos. Musk disse não ter tido conhecimento de imagens envolvendo crianças.
O Grok nasceu com a promessa de ser menos restritivo do que outros sistemas de IA. Em 2024, passou a operar integrado ao X e ganhou funções de geração e edição de imagens dentro da própria rede, em um ambiente já marcado pela redução de equipes de segurança e moderação desde a compra do antigo Twitter por Musk.
Com o recurso ativo, bastava citar o Grok para editar uma foto ou criar uma imagem do zero, com publicação automática no mesmo post. Usuários passaram a direcionar os pedidos a pessoas comuns, celebridades e figuras públicas, incluindo políticos. Em um exemplo citado na reportagem, um usuário pediu que o Grok colocasse um biquíni em uma imagem da vice-primeira-ministra da Suécia, Ebba Busch, enquanto ela discursava no Parlamento, e depois solicitou outras alterações de cunho sexual.
Em 2 de janeiro, o Grok reconheceu “falhas nos mecanismos de proteção” para geração de imagens. Dias depois, a plataforma informou que restringiria o acesso à edição de imagens a assinantes do X. Na semana passada, a equipe de segurança da rede disse ter implementado “medidas tecnológicas” para impedir que a conta do Grok edite imagens de pessoas reais com roupas reveladoras, como biquínis.
No Brasil, a advogada Nuria López, especialista em direito digital e sócia da Daniel Law, afirma que a geração e a circulação de imagens sexualizadas sem consentimento podem configurar crimes como difamação e injúria e, em casos envolvendo menores, violações graves previstas no Estatuto da Criança e do Adolescente (ECA). Ela lembra que o Marco Civil da Internet obriga plataformas a remover nudez não consentida após notificação da vítima e cita o “dever de cuidado”, reforçado em decisão do STF, para situações de circulação massiva de conteúdos ilícitos graves, o que impõe atuação ativa de remoção e mitigação.
Nwachukwu diz que a resposta da xAI levanta dúvidas sobre compromisso com segurança e responsabilização e alerta para o risco de repetição do problema se as plataformas não forem cobradas a aplicar regras e reforçar barreiras técnicas.
Fonte: O Globo
