YouTube passa a receber queixas contra clones gerados por IA

PEDRO S. TEIXEIRA

SÃO PAULO, SP (FOLHAPRESS) – Os usuários do YouTube podem, agora, denunciar casos de roubo de identidade com inteligência artificial. A técnica, chamada de deepfake, já foi usada em fraudes financeiras, disseminação de imagens íntimas falsas (incluindo de menores de idade) e desinformação eleitoral.
A plataforma de vídeo mais popular do Brasil, com cerca de 120 milhões de acessos mensais, disponibiliza um formulário para receber queixas sobre deepfakes desde março, mas não divulgou a atualização ao público. O site especializado TechCrunch noticiou a existência do recurso nesta segunda-feira (1º).
Em um exemplo do estrago que podem causar as deepfakes, circularam no YouTube em maio clones gerados virtualmente do apresentador da TV Globo Marcos Mion e do cantor Thiaguinho. As cópias protagonizavam anúncios falsos do Mercado Livre, usados em golpes —a suposta oferta era de smartphones com 80% de desconto.
A reprodução de imagem e voz na internet está entre os principais riscos aventados após o advento da inteligência artificial (IA), na avaliação de políticos, empresas e pesquisadores. Tramita no Congresso um projeto de lei para aumentar a pena de quem usar IA para gerar imagens íntimas de mulheres e crianças, e a Justiça Eleitoral vetou as deepfake durante as eleições de 2024.
O YouTube classificou deepfakes que deturpem a imagem da pessoa clonada como “uma violação de intimidade”, o que é passível de pedido de remoção de conteúdo na plataforma. Só a vítima pode protocolar a queixa.
A pesquisadora do DFRLab (Laboratório de Forense Digital), do Atlantic Council, Beatriz Farrugia alerta que nem toda montagem baseada na imagem de um terceiro pode ser considerada deepfake ou constituir uma violação de intimidade.
“Uma deepfake é a manipulação de um conteúdo, seja ele áudio, vídeo ou foto, através de uma ferramenta de inteligência artificial”, diz. “Cada vez que a IA recebe maior quantidade de dados, fica quase imperceptível que aquele produto foi gerado por inteligência artificial”, acrescenta a especialista.
Circulam também na internet outras montagens mais grosseiras, chamadas de cheapfakes, segundo Farrugia. “Qualquer um com um computador ou celular e um Photoshop pode colocar o rosto de outra pessoa no seu corpo e fazer uma montagem.”
Embora seja difícil detectar deepfakes mais sofisticadas, segundo a pesquisadora, é possível procurar sinais como distorções ao redor de boca, nariz e olhos no caso de imagens, e uma qualidade prejudicada no caso dos áudios. “Nos vídeos, uma dessincronia do movimento da boca na imagem com a fala é sempre uma pista.”
Áudios sintéticos são mais fáceis de criar e mais difíceis de detectar, na avaliação de Farrugia, e, por isso, se disseminam em anúncios falsos e em campanhas de desinformação.
Nas suas normas, o YouTube abre uma exceção para deepfakes feitas em contexto de crítica ou sátira, como faz, por exemplo, o humorista Bruno Sartori. A Justiça de São Paulo também entendeu que o deepfake de Ricardo Nunes no corpo de Ken, divulgado pela pré-candidata a Prefeitura de São Paulo Tabata Amaral, era uma sátira.
A especialista em investigação digital recomenda que as vítimas desses golpes documentem todo o processo de roubo de identidade e procure as plataformas pelas quais o material falso circula e as autoridades responsáveis. “No caso de imagens, é possível fazer buscas reversas no Google para ver se aquele conteúdo também circula em outros espaços da internet.”