Deepfake criada por família de vítima para julgamento de seu assassino (imagem: reprodução)
Uma vítima de homicídio foi “revivida” pela sua família para falar no recurso do julgamento do seu assassino. Chris Pelkey, morto por tiros em 2021 durante uma briga de trânsito, teve sua voz recriada e usada em um deepfake para perdoar Gabriel Paul Horcasitas — pelo menos foi o que pareceu. No entanto, Horcasitas saiu do tribunal com pena máxima.
A ideia de usar um deepfake partiu (veja só) da própria família de Pelkey. Sua irmã e o marido dela, que trabalham com IA, foram responsáveis por criar o vídeo e recriar a voz da vítima. A voz, como dito “pelo próprio Pelkey”, foi refeita analisando o seu perfil vocal. A apresentação usada no tribunal conta com um vídeo real da vítima — a voz original não tem nada a ver com a voz gerada por IA.
O que diz o vídeo do homem revivido com IA?
No vídeo de 3 minutos e 50 segundos, Pelkey abre a apresentação explicando que ele é uma recriação de IA. Além de dizer como sua voz foi feita, ele explica que sua aparência utiliza uma foto da vítima. Fica difícil até chamar o vídeo de deepfake, pois parece mais uma edição feita naqueles apps que animam fotos com musiquinhas.
Na sequência, um vídeo gravado quando Pelkey era vivo o mostra falando sobre perdão e Jesus Cristo. O veterano da Guerra do Iraque revela seu posicionamento cristão, defendendo que Deus e Jesus defendiam o amor ao próximo. Depois, a versão de IA retoma a apresentação.
O deepfake então destaca que esse era ele e não a versão descrita no julgamento — e aqui a coisa fica confusa. É provável que durante o julgamento a defesa tenha apresentado que Pelkey era um homem violento para tentar atenuar a pena de Horcasitas. Assim, o vídeo seria também uma tentativa de mudar a imagem da vítima.
E outra coisa “assustadora”: a IA agradece as pessoas que estão no julgamento e ao juiz responsável pelo caso, destacando que ele está atuando mesmo durante o Spring Break (curto período de férias de primavera de universidades) da sua filha. Talvez isso tenha tido o efeito contrário na tentativa de diminuir a pena do assassino.
Depois, Pelkey “conversa” com o Horcasitas, dizendo que em outras vidas eles poderiam ter sido amigos e que ele acredita no perdão. Todd Lang, o juiz, acabou dando a pena máxima de dez anos e seis meses, mesmo após destacar que ouviu o “perdão de Pelkey”.
Gary Marchant, professor de direito da Universidade do Estado do Alabama, disse a NBC que o vídeo, ainda que represente os sentimentos da vítima, é falso. “Você vê alguém falando mas não é realmente quem está falando. Você vê aquela pessoa falando no tribunal, mas ela está morta e ela não está falando”, diz Marchant.
Com informações de The Guardian e NBC
Família usa IA para reviver homem morto em briga de trânsito
Leave a Reply