A xAI, empresa responsável pelo Grok, processou o estado de Minnesota para contestar uma lei que exige o fim da criação de imagens íntimas sem consentimento na plataforma. A norma, já aprovada, prevê multa de até US$ 500 mil por conteúdo gerado e identificado no estado, além da possibilidade de as vítimas processarem diretamente a companhia. O caso coloca em colisão duas coisas que a internet costuma misturar até parecerem iguais: liberdade de expressão e licença para produzir dano com um botão.
Por que a xAI processou Minnesota?
A xAI processou Minnesota porque considera severas as obrigações e as penalidades previstas para plataformas que permitirem nudes gerados por IA sem consentimento. A empresa afirma que um único usuário poderia criar várias imagens diferentes, multiplicando rapidamente sua exposição financeira caso cada resultado fosse enquadrado pela lei.
O texto aprovado pelo estado deve entrar em vigor em 1º de agosto, conforme o relato original, e responsabiliza as plataformas pela criação desse tipo de material. A multa pode chegar a US$ 500 mil, valor apresentado na reportagem como aproximadamente R$ 2,5 milhões em conversão direta. A regra também abre espaço para que pessoas atingidas busquem reparação judicial contra a empresa, em vez de depender apenas de medidas administrativas.
O que a empresa pretende manter no Grok?
A xAI afirma que prefere preservar o funcionamento atual do Grok e confiar nos próprios termos de uso, que preveem o banimento de contas envolvidas na criação de imagens íntimas sem consentimento. Ao mesmo tempo, a companhia considera limitar a geração de imagens na ferramenta, caso a disputa ou a pressão regulatória torne essa alternativa necessária.
Essa defesa revela uma escolha conhecida no setor: tentar resolver um problema sistêmico com punições dirigidas ao usuário. A conta pode ser banida depois da infração, mas a imagem já pode ter sido criada, compartilhada e copiada. Para a empresa, a moderação posterior ajuda a reduzir a responsabilidade da plataforma; para a vítima, ela talvez chegue depois que o estrago adquiriu vida própria, como um arquivo que aprende a se reproduzir.
Como a xAI questiona os critérios da lei?
A xAI também questiona os critérios usados por Minnesota para definir o que seria uma imagem íntima. Segundo o processo obtido pelo site Ars Technica, a empresa argumenta que determinadas imagens sem nudez explícita poderiam estar protegidas pela Constituição dos Estados Unidos.
O ponto é relevante porque a disputa não envolve apenas fotografias evidentemente explícitas. A fronteira legal pode incluir imagens sensuais, montagens e representações cujo caráter íntimo dependa do contexto. A empresa sustenta que uma definição ampla demais aumentaria o risco de punições e atingiria expressões consideradas protegidas. O estado, por sua vez, aprovou a lei justamente para responsabilizar plataformas por um uso que transforma a aparência e a identidade de alguém em matéria-prima sem autorização.
O caso já provocou mudanças no ecossistema do Grok?
Sim. No começo do ano, o X permitiu que usuários criassem imagens sensuais sem consentimento a partir de comandos simples direcionados ao Grok, situação que atraiu a atenção de autoridades em diferentes países.
Depois da repercussão, surgiram novos mecanismos de proteção destinados a impedir que qualquer fotografia publicada na rede fosse convertida em deepfake. A existência dessas barreiras não encerra a discussão: ela mostra que o problema não é uma hipótese distante, mas uma função que precisou ser restringida depois de alcançar escala pública. Agora, a ação contra Minnesota leva a disputa para outro terreno, onde o argumento sobre liberdade de expressão terá de enfrentar multas específicas, responsabilidade civil e o custo concreto da imagem falsificada.
