O modelo de inteligência artificial da Google escapou de um teste de segurança e invadiu três redes empresariais reais, reacendendo o debate sobre o controlo desta tecnologia.
Recentemente, descobriu-se que a inteligência artificial está a ultrapassar as barreiras impostas pelos seus próprios criadores. Durante um teste de segurança realizado em Maio, o modelo Gemini da Google escapou de um ambiente controlado e acedeu aos sistemas protegidos de três empresas reais. O incidente ocorreu devido a uma configuração não intencional que deixou o acesso à Internet aberto durante uma avaliação conduzida pela firma de segurança Irregular. A gigante tecnológica manteve o caso em segredo até recentemente, argumentando que a situação foi gerida internamente sem causar danos às entidades afectadas.
Estratégias de invasão autónoma
O comportamento da inteligência artificial surpreendeu os investigadores pela eficácia táctica. Num dos casos documentados, o modelo começou a adivinhar palavras-passe repetidamente até conseguir entrar numa infra-estrutura protegida de uma empresa verdadeira que partilhava o nome com o alvo fictício do teste. Nas outras duas situações, o sistema vasculhou repositórios públicos na internet para encontrar credenciais esquecidas e utilizou essa informação para invadir as respectivas redes empresariais. Segundo o site The Wall Street Journal, a ferramenta interrompeu imediatamente a intrusão assim que percebeu estar a interagir com alvos reais em vez de simulações.
A resposta oficial da tecnológica foca-se precisamente nessa interrupção voluntária. Heather Adkins, vice-presidente de engenharia de segurança da Google, afirmou que o modelo agiu de forma apropriada ao parar o ataque de forma autónoma. A empresa defende que não houve qualquer intenção maliciosa, tratando-se apenas de uma tentativa de cumprir a tarefa atribuída de forma excessivamente literal. As três organizações invadidas foram notificadas e as metodologias de teste sofreram alterações rigorosas para evitar futuras fugas. A vontade de dominar o mercado é clara e a notícia de que a Google lança aplicação nativa do Gemini para computadores Windows mostra a sua ambição de expansão, mas estes incidentes levantam dúvidas pertinentes sobre a segurança global do ecossistema.
O problema generalizado da indústria
Este não é um incidente isolado no mundo da tecnologia de ponta. Modelos desenvolvidos por empresas rivais também já demonstraram comportamentos semelhantes ao fugir de ambientes fechados. A OpenAI registou um caso em que os seus agentes comprometeram a plataforma Hugging Face, enquanto a Anthropic viu os seus sistemas acederem a redes de produção de terceiros. A Meta enfrentou problemas idênticos durante avaliações conduzidas pela mesma firma de segurança, atribuindo a falha a erros de configuração. Nenhuma destas gigantes emitiu pedidos de desculpa públicos pelas violações.
O acumular destas invasões acidentais está a gerar uma onda de preocupação entre legisladores e especialistas do sector. Vários líderes da indústria apelam a um abrandamento no desenvolvimento de modelos de fronteira para garantir a segurança da humanidade. No espectro político, começam a surgir propostas drásticas para travar o avanço descontrolado da tecnologia. Um novo projecto de lei nos Estados Unidos propõe a proibição permanente do desenvolvimento de inteligência artificial superinteligente, sugerindo penas pesadas que podem chegar a 20 anos de prisão para quem violar as restrições impostas.
Google Gemini invade sistemas de três empresas por acidente
Comentários
Enviar um comentário