Num momento em que a Inteligência Artificial (IA) parece capaz de ler tudo o que lhe é mostrado, surge uma experiência que tenta inverter essa lógica: a Ghost Font, um projeto que esconde mensagens em vídeo através de pontos em movimento, legíveis pelo olho humano, mas praticamente indecifráveis pelos modelos mais avançados.
Criada pela Mixfont, a Ghost Font não é uma fonte no sentido tradicional, pois não existe um ficheiro TTF para instalar.
Por sua vez, trata-se de uma experiência visual que transforma texto num pequeno vídeo, onde as letras são formadas por dezenas de pontos em movimento constante.
Enquanto o vídeo está em reprodução, o cérebro humano consegue captar o padrão e “ler” a mensagem através do movimento. Contudo, assim que se pausa o vídeo, ou se tira uma captura de ecrã, os pontos confundem-se com o ruído de fundo e a mensagem desaparece por completo.
Nenhum frame isolado revela o conteúdo; só a sequência em movimento o faz.
Uma ideia com raízes em 2013
Em 2013, o designer Sang Mun lançou a fonte ZXX, pensada para ser ilegível por sistemas de OCR (reconhecimento ótico de caracteres), mas perfeitamente legível por humanos, através de ruído visual, riscos e marcas falsas sobrepostas às letras.
Na altura, a ZXX foi considerada uma solução “à prova de vigilância”.
Mais de uma década depois, os modelos de IA atuais conseguem ler esse tipo de texto sem grande dificuldade. Aliás, os autores da Mixfont testaram a fonte com ferramentas de IA generativa e a mensagem disfarçada foi identificada num único pedido.
O ChatGPT leu facilmente um texto escrito com a fonte ZXX. Fonte: MixFont
Ghost Font foi testada contra os modelos mais avançados
Por forma a contornar esta limitação, nasceu a Ghost Font. Segundo os autores, vídeos gerados com esta técnica foram submetidos a alguns dos modelos de IA mais capazes atualmente disponíveis, incluindo ferramentas com capacidades de raciocínio avançado e execução de código.
De acordo com a equipa da Mixfont, os resultados mostraram estes modelos tiveram dificuldade em decifrar a mensagem real, muitas vezes identificando apenas uma “mensagem disfarçada” propositadamente incluída no vídeo como camada adicional de proteção, um truque para despistar qualquer tentativa de análise automatizada mais persistente.
Ainda assim, os próprios criadores reconhecem que a solução está longe de ser infalível. Um agente de IA com acesso a um ambiente de execução de código local poderá, em teoria, analisar o movimento dos pontos ao longo dos vários frames e acabar por reconstruir a mensagem. A verdadeira forma de garantir sigilo absoluto perante a IA continua a ser, dizem, a encriptação tradicional.
O GPT-Sol 5.6 Ultra tentou descodificar uma mensagem escrita com a fonte Ghost. O modelo leu a mensagem disfarçada, mas não conseguiu ler a mensagem real em movimento. Fonte: MixFont
Que aplicações poderá ter?
Entre as ideias apontadas para o futuro deste projeto está a possível integração em sistemas de CAPTCHA, hoje em dia frequentemente resolvidos sem grande esforço por bots equipados com IA.
O uso de movimento em vídeo poderia tornar este tipo de verificação mais difícil de automatizar, mantendo-se simples para um utilizador humano.
Os autores apontam ainda a possibilidade de a Ghost Font servir como uma espécie de benchmark para medir a evolução da perceção visual da IA, especialmente à medida que surgirem modelos verdadeiramente “nativos” em vídeo, capazes de analisar sequências de movimento e não apenas frames isolados.
Ghost Font: o texto "invisível" para a IA que só os humanos conseguem ler
Comentários
Enviar um comentário