Gretchen consegue na Justiça que X exclua vídeo falso feito com IA; rede terá que revelar quem divulgou

Decisão do tribunal de São Paulo ocorreu no início de junho e ainda permite recurso. Defesa do X cita artigo do Marco Civil da Internet, atualmente em debate...

Decisão do tribunal de São Paulo ocorreu no início de junho e ainda permite recurso. Defesa do X cita artigo do Marco Civil da Internet, atualmente em debate no STF; entenda. Justiça de SP decide à favor de Gretchen e contra X. Reprodução A Justiça de São Paulo decidiu a favor da cantora Gretchen e contra o X em um processo sobre a divulgação de um vídeo falso da artista feito com inteligência artificial. A rede social terá que manter o conteúdo fora do ar e informar os dados do usuário que divulgou a publicação. O X ainda pode recorrer. Segundo o processo, o vídeo falso usa a imagem de Gretchen para mostrar a cantora convidando o público para um suposto show no “Cabaré da Cinderela”, onde haveria atividades sexuais. A gravação, que circulou em 2024, também faz referência a um momento da vida pública de Gretchen: a campanha que ela fez para a Prefeitura de Itamaracá (PE), por volta dos anos 2010. Trata-se de um deepfake, ou seja, um vídeo criado com inteligência artificial que usa a imagem e a voz de uma pessoa real, mas altera o que ela diz. A assessoria de Gretchen informou que entrou na Justiça por conta do vídeo em abril. A decisão judicial foi publicada no dia 3 de junho de 2025. Durante o processo, o X citou o artigo 19 do Marco Civil da Internet. Ele afirma que uma rede social só pode ser responsabilizada por conteúdo publicado por terceiros caso descumpra uma ordem judicial para removê-lo. Esse é o mesmo artigo que está em debate atualmente no Supremo Tribunal Federal (STF). Esta semana, inclusive, a corte formou maioria para alterar esse entendimento e permitir que plataformas sejam responsabilizadas por conteúdos ilegais mesmo antes de uma ordem judicial. Responsabilização das redes sociais é avanço, mas faltam detalhes, dizem especialistas No caso de Gretchen, a juíza Camila Rodrigues Borges de Azevedo, da 19ª Vara Cível, já havia determinado que o X retirasse o vídeo do ar — o que foi feito. Por isso, a rede não foi punida com base no artigo 19. Agora, além de manter o conteúdo fora do ar, o X terá que entregar o endereço de IP do responsável pela conta que publicou o vídeo. O IP (sigla para “Internet Protocol”) é um número que identifica dispositivos conectados à internet e pode ajudar na localização do autor da postagem. O g1 procurou o X para comentar a decisão e aguarda resposta. Veja mais: G1 Explica: Deepfake Vídeos feitos com IA do Google bombam nas redes sociais