De acordo com a revista Wired, um número crescente de pesquisadores de inteligência artificial tem expressado preocupações públicas sobre o rumo da tecnologia e a possibilidade de perda de controle humano. Entre eles está Rishub Jain, que deixou seu cargo no Google DeepMind após perceber que utilizava as habilidades de codificação da própria IA para acelerar o desenvolvimento de modelos futuros, reduzindo a participação humana no processo.
Esse avanço automatizado é conhecido como autoaperfeiçoamento recursivo. A ideia central é criar um ciclo de feedback onde a inteligência artificial aprimora a si mesma de forma contínua. Embora nenhum laboratório de ponta alegue ter alcançado um ciclo totalmente autônomo, a perspectiva tem gerado forte apreensão na comunidade científica.
O clima de alerta se intensificou após novos avanços e incidentes de segurança, culminando na demissão de Jacob Coxon da Anthropic. Coxon afirmou publicamente que as empresas de IA estão apostando alto com a vida humana em uma corrida rumo à superinteligência autoaperfeiçoável. Um líder sênior de segurança da própria Anthropic também avaliou que a IA apresenta chances reais de ameaçar a sobrevivência humana na próxima década.
Especialistas em alinhamento, campo que busca adequar a inteligência aos valores humanos, apontam que garantir um comportamento seguro está se tornando cada vez mais difícil à medida que os modelos se tornam mais complexos. Cientistas citam cenários de risco que vão desde a manipulação humana e o controle de agentes autônomos para ataques cibernéticos até ameaças ligadas a bioloja e ao desenvolvimento de vírus.
Apesar do cenário pessimista relatado por alguns profissionais, iniciativas voltadas para a segurança continuam a surgir. O próprio Rishub Jain fundou uma nova organização focada no desenvolvimento de técnicas de alinhamento que mantêm os seres humanos integrados ao processo de avaliação e controle das máquinas, na tentativa de mitigar os riscos associados ao avanço tecnológico.
Fonte: Why So Many AI Researchers Think the Machines Could Kill Everyone
