Deputados pensavam estar a falar com um representante do líder da oposição russa Alexei Navalny, quando na realidade era alguém a fazer-se passar por ele usando imagens geradas por Inteligência Artificial. E os deputados holandeses não são sequer as primeiras vítimas deste deepfake
Vários membros da Câmara dos Representantes dos Países Baixos fizeram, na passada quarta-feira, uma reunião por Zoom com quem pensavam ser Leonid Volkov, chefe de gabinete de Alexei Navalny, líder da oposição russa e que está atualmente preso e em greve de fome contra o regime de Vladimir Putin – mas, na realidade, a reunião foi feita com um deepfake de Volkov.
Um deepfake é uma recriação digital de alguém feita por algoritmos de inteligência artificial. Os deepfakes tiram partido das chamadas redes generativas adversativas (GAN na sigla em inglês), que integram duas redes neuronais no mesmo sistema: uma que tenta gerar imagens falsas (generativa) e outra que tenta detetar imagens falsas (discriminativa). Como funcionam uma contra a outra, estão constantemente a melhorar-se, o que resulta em manipulações de imagem mais realistas. Depois, tanto é possível usar a cara de uma pessoa no corpo de outra, como é possível apenas manipular uma parte específica da cara, como os lábios. Os deepfakes são usados para alguém fazer ou dizer algo que nunca fez ou disse. Pode ler mais sobre esta tecnologia e os seus perigos na Exame Informática Semanal 173 e Exame Informática Semanal 125.
Dos nove deputados que fazem parte do comité de relações internacionais, “quase todos” marcaram presença na reunião com o deepfake de Volkov, revela a publicação NL Times. Só na sexta-feira chegaria a confirmação por parte da Câmara dos Representantes relativamente ao incidente. “O comité recebeu a confirmação que a conversa não foi feita pelo próprio Volkov, mas alguém a fazer-se passar por ele. (…) A Câmara dos representantes está a examinar como tais incidentes podem ser prevenidos no futuro”.
Ruben Brekelmans, um dos deputados que participou na reunião, também reagiu publicamente, dizendo que o caso é “extremamente preocupante”. “Por exemplo, os deputados podem ser desencorajados a falar com partidos da oposição estrangeiros. Não devemos ceder a isto. Precisamos de garantir que continuamos a falar de forma segura com todos”.
Segundo a mesma publicação, esta não é a primeira vez que alguém se faz passar por Leonid Volkov recorrendo a um deepfake. Também políticos da Letónia e da Ucrânia já relataram terem tido reuniões com uma versão fabricada do representante russo. Há ainda registo de que representantes políticos da Estónia, Lituânia e Reino Unido também já foram abordados para reuniões semelhantes.
Até agora não há informações de quem pode ter estado por trás do deepfake. Entretanto, o próprio Leonid Volkov já reagiu ao caso, à publicação Nos. “Nós chamamos-lhes brincalhões, mas estamos a falar de empregados bem pagos do governo russo. (…) É mais sério do que parece”.
De recordar que, no final de março, o Departamento Federal de Investigação dos EUA (FBI) emitiu um alerta para um aumento de ataques sofisticados com recurso a deepfakes nos próximos 12 meses.
Comentários
Enviar um comentário