Meta demora a remover anúncios com deepfakes de celebridades, aponta Comitê de Supervisão (ilustração: Vitor Pádua/Tecnoblog)
Resumo
O Comitê de Supervisão da Meta concluiu que a empresa falha em combater fraudes com deepfakes de celebridades.
O conselho recomendou atualizar diretrizes e treinar revisores para identificar deepfakes com maior eficácia.
A Meta contestou, dizendo que as críticas são “imprecisas” e que já investe em tecnologias antifraude.
O Comitê de Supervisão da Meta — uma espécie de tribunal independente para decisões de conteúdo — concluiu que a empresa não faz o suficiente para combater golpes com deepfakes envolvendo celebridades em suas plataformas. Segundo o comitê, a Meta tem permitido a circulação de conteúdos fraudulentos para evitar o risco de remover, por engano, vídeos legítimos de figuras públicas.
A decisão foi divulgada nesta quinta-feira (05/06), após a análise de um caso envolvendo um deepfake do ex-jogador Ronaldo Fenômeno. O vídeo falso foi denunciado em 2024, após circular no Facebook como parte de um golpe.
Deepfake de Ronaldo Fenômeno motivou investigação
Denúncias frustradas em vídeo fake com Ronaldo levaram às observações do órgão de supervisão (imagem: reprodução)
Um anúncio de um cassino online chamado Plinko, que usava um deepfake de Ronaldo gerado por IA, motivou a investigação. Segundo o órgão, o conteúdo tinha sinais óbvios de falsificação e usuários o denunciaram como golpe mais de 50 vezes, mas a Meta não o removeu.
A Meta só retirou o post do Facebook após o Comitê de Supervisão concordar em analisar o caso. Na época, o vídeo já tinha mais de 600 mil visualizações. Para os analistas, a situação expõe falhas no processo de moderação de conteúdo.
Segundo o Comitê, a Meta só aplica sua política contra deepfakes depois que o conteúdo é encaminhado para uma equipe interna, que precisa confirmar se a pessoa retratada realmente não aprovou o uso da sua imagem. Esse processo, mais lento e limitado, acaba permitindo que golpes passem despercebidos.
No documento, o órgão recomenda que a Meta atualize suas diretrizes internas e capacite seus revisores de conteúdo para identificar esses golpes, treinando-os com “indicadores” de conteúdo manipulado por IA.
Meta diz que alegações são “imprecisas”
Em resposta, um porta-voz da Meta afirmou que “muitas das alegações do Comitê são simplesmente imprecisas”. A big tech destacou que os golpes se tornaram mais complexos nos últimos anos, impulsionados por “redes criminosas internacionais implacáveis”, mas que seus esforços para combatê-los também evoluíram.
Contudo, o relatório observa que o uso de deepfakes de celebridades para aplicar golpes tem se tornado um grande problema para a companhia, à medida que a tecnologia de IA se torna mais barata e acessível.
O próprio Comitê destaca que encontrou milhares de anúncios em vídeo promovendo o app Plinko na Biblioteca de Anúncios da Meta, vários deles com deepfakes de outras figuras conhecidas, como o jogador Cristiano Ronaldo e até mesmo o próprio CEO da Meta, Mark Zuckerberg.
Entre as ações que estão sendo feitas para conter o problema, a Meta mencionou um teste iniciado no ano passado que utiliza tecnologia de reconhecimento facial para combater golpes do tipo “celeb-bait”. Quanto às conclusões do Comitê, informou que responderá formalmente às recomendações em até 60 dias.
Com informações do Engadget
Meta optou por não remover golpes com deepfakes de famosos, diz comitê
Leave a Reply