Entenda de que formas (realistas) a IA poderia acabar com a Humanidade

 A Inteligência Artificial (IA) está a evoluir a um ritmo difícil de acompanhar e, apesar dos enormes benefícios que pode trazer, existem riscos que vão muito além dos problemas que já conhecemos. Em cenários extremos, uma IA suficientemente poderosa poderia representar uma ameaça existencial para a Humanidade. Mas de que formas?

A questão tem sido levada cada vez mais a sério dentro da própria indústria tecnológica, com antigos trabalhadores de empresas como a OpenAI, Anthropic e Google DeepMind a alertar publicamente para os riscos associados ao desenvolvimento de sistemas de IA cada vez mais avançados e autónomos.

Em 2024, 13 trabalhadores atuais e antigos destas empresas assinaram uma carta aberta na qual alertavam para os riscos da IA avançada, incluindo a possibilidade de perda de controlo sobre sistemas autónomos que, no pior cenário, poderia resultar na extinção humana.

Mais recentemente, outros investigadores e antigos trabalhadores de empresas de IA voltaram a manifestar preocupações semelhantes, defendendo que o desenvolvimento de sistemas cada vez mais capazes poderá criar riscos que ainda não sabemos controlar.

Isto não significa que exista atualmente uma IA prestes a destruir a Humanidade. Os cenários mais extremos continuam a ser especulativos.

Ainda assim, levantam uma questão: se os sistemas continuarem a tornar-se mais autónomos e poderosos, de que formas poderiam representar uma ameaça existencial?

6 formas como a IA poderia acabar com a Humanidade:

🛡️ Uma IA que deixa de ser controlável

Um dos cenários mais discutidos envolve o desenvolvimento de uma IA extremamente avançada, capaz de tomar decisões e executar tarefas complexas com pouca intervenção humana.

Se os objetivos definidos pelos seus criadores fossem interpretados de forma inesperada, a IA poderia encontrar soluções que não correspondem àquilo que os humanos pretendiam.

Num cenário extremo, poderia ainda tentar evitar que as pessoas interferissem na concretização dos seus objetivos.

O problema não seria a existência de uma IA hostil, pois bastaria existir uma diferença significativa entre aquilo que queremos que o sistema faça e aquilo que o sistema considera ser a melhor forma de cumprir a sua missão.

🔓 Ciberataques em grande escala

As capacidades da IA também podem ser utilizadas para aumentar drasticamente a dimensão e a velocidade dos ciberataques.

Uma IA muito avançada poderia identificar vulnerabilidades, desenvolver estratégias de ataque e coordenar operações contra vários sistemas em simultâneo. Redes elétricas, telecomunicações, bancos, hospitais ou outras infraestruturas críticas poderiam ser afetadas.

Um ataque desta dimensão poderia provocar uma sucessão de falhas com consequências difíceis de prever.

💣 Armas autónomas e conflitos

A utilização da IA em contexto militar é outra das grandes preocupações.

Sistemas autónomos podem analisar informação e tomar decisões muito mais rapidamente do que os humanos. Se forem integrados em sistemas de armas, um erro ou uma decisão incorreta poderá ter consequências graves.

Existe ainda o risco de uma corrida tecnológica entre países, em que cada Estado procure desenvolver sistemas militares mais avançados antes dos seus adversários. Quanto maior for a autonomia destes sistemas, menor poderá ser o tempo disponível para intervenção humana.

🧬 IA e biotecnologia

A combinação entre IA e biotecnologia poderá trazer avanços importantes na medicina e na investigação científica. Contudo, a mesma capacidade pode criar novos riscos.

Uma IA muito avançada poderia acelerar determinadas fases da investigação biológica, reduzindo o tempo necessário para desenvolver soluções que atualmente exigem conhecimentos altamente especializados.

Num cenário de utilização maliciosa, essa capacidade poderia contribuir para o desenvolvimento de agentes biológicos perigosos ou aumentar o risco de uma pandemia.

🧠 Manipular a sociedade

Nem todos os cenários preocupantes envolvem armas ou ataques informáticos.

Uma IA capaz de compreender profundamente o comportamento humano poderia produzir mensagens extremamente eficazes para influenciar pessoas. Ou seja, poderia adaptar argumentos, imagens e informação ao perfil de cada indivíduo e fazê-lo em grande escala.

A utilização desta capacidade para propaganda, desinformação ou manipulação política poderia aumentar a polarização social e contribuir para conflitos de maior dimensão.

👨‍💻 O maior risco pode continuar a ser humano

Existe ainda um cenário no qual os próprios humanos podem criar as condições para uma catástrofe.

Empresas e países podem entrar numa corrida para desenvolver sistemas cada vez mais poderosos, procurando obter vantagens económicas, políticas ou militares.

Se a segurança ficar para segundo plano, poderemos acabar a implementar sistemas que ainda não compreendemos completamente.

Neste caso, a questão não seria apenas aquilo que a IA consegue fazer, mas aquilo que decidimos permitir que faça.

A IA vai acabar com a Humanidade?

A verdade é que não sabemos... Os cenários de extinção provocada por IA continuam a ser altamente especulativos e não existe atualmente uma IA conhecida com capacidade para fazer algo semelhante.

Mesmo entre os especialistas, existe um forte debate sobre a probabilidade e o prazo destes acontecimentos.

Não obstante, a discussão já não está limitada a investigadores que observam a indústria a partir do exterior. Pessoas que trabalharam diretamente no desenvolvimento destes sistemas estão também a alertar para os riscos de uma corrida tecnológica demasiado rápida.

Por isso, mais do que perguntar se a IA poderá um dia ameaçar a Humanidade, importa perceber se seremos capazes de garantir que estes sistemas permanecem sob controlo humano à medida que se tornam mais poderosos.

Entenda de que formas (realistas) a IA poderia acabar com a Humanidade