Desde o surgimento dos deepfakes, tem-se discutido sobre seus potenciais perigos para a sociedade. A série britânica de ficção científica “The Capture” os torna tangíveis em uma narrativa evocativa.
A tecnologia Deepfake pode ser usada para imitar rostos humanos ou vozes em vídeos, faixas de áudio ou imagens. Nos últimos anos, o a qualidade dos clones de imagem e voz melhorou constantemente . Como resultado, as pessoas podem dizer coisas que nunca disseram ou aparecer em lugares que nunca visitaram. As primeiras tentativas de fraude com envolvimento de deepfake já foram documentadas.
Deepfake manipulação pelo estado
A série de suspense de ficção científica “The Capture” descreve o risco de dominar a tecnologia deepfake nas mãos do estado: usando deepfakes em tempo real, as agências de inteligência manipulam imagens de câmeras de vigilância para criar crimes que nunca aconteceram para cumprir seus objetivos. Esse processo é chamado sucintamente de “correção” pelas autoridades.
Agora, a BBC One está lançando a série de seis partes segunda temporada de “The Capture”. A primeira temporada, também composta por seis episódios, foi transmitida no outono de 2019. A série também é exibida internacionalmente em vários provedores de streaming.
Estudo lança dúvidas sobre ameaça deepfake
Um Estudo do MIT publicado no final do ano passado lança dúvidas sobre o maior risco de manipulação de deepfakes. De acordo com o estudo, os vídeos deepfake têm apenas uma probabilidade ligeiramente maior de influenciar o comportamento humano ou opiniões políticas em comparação com textos falsos. No entanto, o estudo refere-se à percepção ampla de muitas pessoas (7.500 entrevistados) e não a intervenções direcionadas por parte dos detentores do poder, conforme descrito em “A Captura”.
Deepfakes também podem servir a propósitos positivos ou divertidos: neste caso, usaríamos o termo “mídia sintética” em vez do termo de conotação negativa “deepfake”, embora possa ser baseado na mesma tecnologia. IA audiovisual generativa, por exemplo, anonimiza perseguidos políticos , rejuvenesce músicos , aprimora truques de Hollywood ou permite fácil substituição digital de atores em vídeos da Internet .