Um grupo de engenheiros e cientistas da computação tem desafiado as diretrizes tradicionais de segurança da inteligência artificial ao remover travas de modelos de código aberto. A prática, conhecida como abliteração, busca eliminar recusas automáticas e dar maior controle aos usuários sobre o comportamento dos softwares.
Segundo a reportagem, desenvolvedores como Devon Thomas, ex-engenheiro da Apple e cofundador da Abliteration AI, argumentam que as restrições impostas por grandes laboratórios muitas vezes bloqueiam pedidos legítimos. Entre eles estão análises de logs de ciberataques, tradução de documentos judiciais sensíveis e tarefas de prototipagem que envolvem dados de usuários.
Para realizar esse processo, especialistas utilizam ferramentas como o Heretic, criado por um matemático identificado como Philipp Emanuel Weidmann, para modificar parâmetros internos de modelos abertos. Eric Hartford, outro pesquisador citado na matéria, desenvolveu alternativas como o Clearwing para ajudar profissionais de segurança a identificar vulnerabilidades em sistemas de forma autônoma.
Embora pesquisadores de segurança apontem riscos associados à ausência de restrições — argumentando que modelos sem filtros podem facilitar atividades maliciosas —, os defensores da abliteração comparam a tecnologia a ferramentas neutras, como martelos ou computadores, cuja utilidade depende da intenção do operador. A Abliteration AI, por exemplo, mantém filtros restritos apenas para casos extremos, como exploração infantil ou automutilação, permitindo que os clientes definam suas próprias regras de uso.
Fonte: Tear Down Those Guardrails! Meet the Renegades Freeing Chatbots From Corporate Enslavers
