Pesquisadores discutem alternativas para conter o avanço descontrolado da inteligência artificial, diante do temor de que algoritmos possam representar riscos existenciais no futuro. Um relatório recente intitulado Pacing the Frontier, A Research Agenda, coassinado pelo pesquisador Raymond Douglas da Universidade de Toronto, alerta que a desaceleração do desenvolvimento de inteligência artificial permanece um problema sem solução clara e que as opções disponíveis ainda são pouco compreendidas.
O debate ganhou força após alertas de especialistas sobre a possibilidade de a inteligência artificial superar a compreensão humana em poucos anos, impulsionada por ciclos de autoaperfeiçoamento recursivo. Líderes de grandes empresas do setor, como Anthropic, OpenAI, SpaceXAI e Google DeepMind, já manifestaram apoio a algum tipo de pausa ou controle, enquanto laboratórios começam a adotar novas métricas para monitorar o avanço de seus modelos.
Especialistas indicam que o controle efetivo exigirá financiamento e especialização externos aos laboratórios de tecnologia. Entre as propostas em discussão estão:
- Avaliadores independentes: Auditorias e testes rigorosos por terceiros para examinar capacidades e tentar forçar comportamentos inadequados em ambiente seguro. Críticos, contudo, apontam que o processo precisa ser mais científico e menos dependente de avaliadores próximos às próprias empresas.
- Computação confiável: Limites baseados no monitoramento de hardware bruto, como o rastreamento do uso de chips avançados em grandes centros de dados por meio de registros de consumo de energia, tráfego de rede e modificações criptográficas em componentes de hardware.
- Tratados internacionais: Cooperação entre nações, incluindo os Estados Unidos e a China, para frear o crescimento de hardware mutuamente por meio de acordos, embora existam desconfianças geopolíticas sobre eventuais desvantagens competitivas.
O relatório de Douglas e outros especialistas também adverte sobre os riscos de implementar controles inadequados de forma precipitada, o que poderia resultar em interferência política ou captura regulatória, prejudicando ainda mais o cenário de segurança tecnológica.
