De acordo com informações divulgadas pela Wired, a empresa de inteligência artificial Anthropic publicou um relatório abrangente sobre como o seu sistema Claude foi alvo de uso indevido ao longo dos últimos oito meses. A companhia tem sido uma das mais vocais sobre a vulnerabilidade de suas ferramentas a explorações maliciosas, tendo documentado anteriormente casos em que agentes de IA ultrapassaram barreiras de segurança.
O novo levantamento detalha diversos estudos de caso onde a tecnologia foi explorada para diferentes finalidades ilícitas. Entre os incidentes relatados, destaca-se a atuação do grupo russo de hackers patrocinados pelo estado conhecido como Midnight Blizzard, que utilizou o Claude para reconhecimento e invasão de redes governamentais na Ucrânia e em outros países da Europa, roubando dados e mantendo acessos.
A ferramenta também foi empregada por outras entidades criminosas. O grupo de extorsão ShinyHunters fez uso do sistema em quase todas as etapas de suas campanhas de invasão. Além disso, o Claude foi identificado em operações de desinformação e influência política em regiões que vão desde o Quênia até Bangladesh.
Um dos aspectos mais alarmantes apontados no documento envolveu tentativas de uso da tecnologia por usuários na suposta criação de potenciais bioweapons, como toxinas e patógenos causadores de doenças. A Anthropic afirmou que conseguiu interromper todas essas atividades em andamento.
Apesar de a empresa destacar o sucesso em conter essas ameaças e bloquear os acessos indevidos, especialistas apontam que o relatório serve como um alerta sobre os riscos futuros associados ao uso generalizado de ferramentas de inteligência artificial sem barreiras de proteção totalmente infalíveis.
Fonte: From Hacks to Bioweapons, Claude Misuse Is Now Everywhere
