De acordo com uma nova pesquisa realizada pela empresa de medição de capacidades de inteligência artificial Vals, modelos abertos de IA estão quase tão capacitados para invadir redes de computadores quanto os melhores modelos fechados. A descoberta marca uma virada no cenário de cibersegurança.
Segundo Nikil Ravi, pesquisador da Vals, os principais modelos de fronteira restritos a laboratórios agora começam a ser igualados por modelos abertos que qualquer pessoa pode baixar. Os testes avaliaram o desempenho das IAs em cenários simulados de redes corporativas com múltiplas etapas.
O modelo mais avançado testado foi o Daybreak, da OpenAI, disponível apenas para parceiros confiáveis, que completou 81% das tarefas propostas. Logo em seguida apareceu o modelo chinês de pesos abertos DeepSeek, concluindo 73% dos objetivos em média. Em algumas tarefas específicas, as duas IAs obtiveram pontuações equivalentes.
A pesquisa também destacou a diferença de custos na execução dessas tarefas. Enquanto o uso de modelos proprietários pode exigir um investimento mais alto em tokens, as opções abertas apresentam custos consideravelmente inferiores, pois podem ser executadas em hardware próprio. Para Rayan Krishnan, CEO da Vals, isso gera um forte incentivo para que profissionais de defesa também utilizem modelos abertos.
Especialistas apontam que a transição para a ampla disponibilidade dessas capacidades de invasão ocorreu conforme previsto por laboratórios de fronteira. No entanto, observações do mundo real indicam que hackers criminosos e patrocinados por Estados frequentemente utilizam versões mais antigas e menos potentes em suas atividades cotidianas.
Alex Zenla, cofundador e diretor de tecnologia da Edera, concorda que os modelos abertos atuais são capazes de produzir ataques avançados, especialmente quando há modificações nos pesos para desativar treinamentos de segurança. Contudo, ele ressalta que laboratórios fechados provavelmente mantêm modelos ainda mais avançados em desenvolvimento, mantendo o cenário como um jogo contínuo de gato e rato.
Fonte: Free Chinese AI Models Are Getting Scary Good at Hacking
