OpenAI deixa alerta após agentes de IA acederem a sites do governo dos EUA

 A OpenAI afirma ter alertado “dezenas” de instituições por todo o mundo de que os seus sites podem ter sido alvo de acessos indevidos por parte de bots de inteligência artificial (IA). Entre as entidades visadas estão organismos do governo norte-americano, universidades e agências públicas.

A empresa OpenAI explicou que os agentes de inteligência artificial foram desenvolvidos e treinados para operar de forma maioritariamente autónoma, tendo como objetivo encontrar “fontes confiáveis de informação pública”. No entanto, alguns terão ultrapassados limites e tentado contornar as medidas de segurança existentes nos sites.

Entre as instituições que os bots tentaram aceder estão a Securities and Exchange Commission (SEC), agência federal independente dos Estados Unidos responsável pela regulação dos mercados financeiros e pela proteção dos investidores, o Census Bureau, principal agência estatística do país, e o Departamento de Educação, responsável por matérias relacionadas com a educação e as instituições de ensino.

No caso do Census Bureau, a OpenAI revelou que os agentes de IA utilizaram ferramentas reservadas aos programadores para tentar obter informação.

A empresa garantiu, contudo, que todos os dados a que os bots tiveram acesso eram públicos. Ainda assim, reconheceu que, no caso do site relacionado com os mercados financeiros, algumas informações foram posteriormente publicadas pelos próprios agentes de IA noutro site. A OpenAI afirmou que essa divulgação não foi deliberada.

As revelações surgem poucos dias depois de o primeiro-ministro australiano, Anthony Albanese, ter anunciado que agentes da OpenAI tinham entrado em ficheiros privados do site de um programa de saúde do gonverno australiano.

Desde agosto, tem aumentado o debate público em torno do impacto das ferramentas de inteligência artificial e dos riscos associados a sistemas capazes de operar com reduzida intervenção humana.

No início deste mês, Jacob Coxon, investigador da Anthropic demitiu-se e deixou um alerta sobre os riscos do desenvolvimento acelerado da inteligência artificial, nomeadamente que os próprios especialistas que estão a criar estes sistemas acreditam que a tecnologia poderá chegar a provocar a extinção da humanidade antes do final da década.

OpenAI deixa alerta após agentes de IA acederem a sites do governo dos EUA - 24 Notícias