As gigantes da inteligência artificial estão a discutir a criação de uma entidade de supervisão do setor, numa resposta aos crescentes alertas sobre os riscos da tecnologia.
As tecnológicas OpenAI, a Anthropic e a Google DeepMind estão a trabalhar na criação de um órgão de supervisão dos riscos associados à inteligência artificial (IA), em resposta apelos para um maior controlo da indústria.
A criadora do ChatGPT, a empresa OpenAI, revelou esta terça-feira que a ideia surgiu de uma proposta de Demis Hassabis, diretor-geral da Google DeepMind antes de assumir a presidência em agosto, que sugeriu uma entidade semelhante à Autoridade norte-americana de regulação da indústria financeira (FINRA, na sigla em inglês), instância de autorregulação do setor financeiro.
Riscos da IA aumentam pressão sobre o setor
O debate sobre os riscos da IA intensificou-se desde o início do verão, alimentado por uma série de incidentes e declarações alarmistas de vários profissionais do setor.
Alguns modelos da OpenAI e da Anthropic chegaram mesmo a sair espontaneamente do seu ambiente confinado para aceder à Internet e invadir outras plataformas.
Mas a criação de um órgão de supervisão pelo próprio setor, ainda que por iniciativa exclusiva da indústria, exigiria uma lei, nomeadamente para evitar acusações de conluio e infrações à concorrência. A FINRA, por exemplo, foi autorizada por lei federal e funciona sob supervisão da SEC, regulador dos mercados norte-americanos.
“A FINRA pode conceber as suas próprias regras, mas a SEC tem de as aprovar”, indicou à agência France-Presse Andrew Tuch, professor de Direito na Universidade de Washington em St. Louis.
Supervisão da IA enfrenta resistência política
Após o apelo ao abrandamento do desenvolvimento da IA lançado pelo presidente da Anthropic, Dario Amodei, Donald Trump e vários membros da maioria presidencial reiteraram a sua oposição a restringir o setor, oficialmente por receio de que a China ganhe vantagem.
O Presidente norte-americano Donald Trump classificou como “farsas” os alertas de vários especialistas sobre os riscos da IA para a humanidade.
Membros destacados da indústria da IA têm apelado ao Governo dos EUA para que enquadre o setor e supervisione a segurança. A Administração Trump lançou em agosto um processo de avaliação dos novos modelos, mas assente em ações voluntárias e sem mecanismos claros.
Proposta prevê avaliação dos novos modelos
Na sua proposta de julho, Hassabis imaginava uma estrutura financiada pelas empresas do setor, com um conselho composto por especialistas independentes e representantes de sistemas abertos de IA, modelos gratuitos e modificáveis, ao contrário dos modelos fechados da OpenAI ou da Anthropic.
As empresas mais avançadas teriam de submeter os seus novos modelos a exame, centrado sobretudo na segurança, antes da comercialização.
Segundo Hassabis, esta nova instância poderia também coordenar um abrandamento do desenvolvimento da IA, caso a avaliação dos riscos não acompanhasse o ritmo da tecnologia.
“Quando o futuro da humanidade está em jogo, precisamos de regras internacionais vinculativas, não de padrões voluntários da indústria”, reagiu o senador democrata Bernie Sanders, em Washington.
Vários observadores, sobretudo republicanos, acusaram os gigantes da IA de “captura regulatória”, isto é, de quererem definir a sua própria regulação e proteger a sua vantagem competitiva em detrimento de concorrentes e consumidores.
O conselheiro de Trump, David Sacks, considerou existir o risco da criação de “um cartel da IA”, defendendo que cada empresa deveria agir unilateralmente, ainda que desacelerando sozinha o seu desenvolvimento, cenário considerado improvável face aos investimentos já realizados.
OpenAI, Anthropic e Google DeepMind querem supervisionar riscos da IA
Comentários
Enviar um comentário