Enquanto grandes empresas de inteligência artificial mantêm seus modelos fechados em laboratórios na tentativa de controlar riscos, cientistas da indústria decidiram adotar a abordagem oposta. De acordo com a revista Wired, os pesquisadores Nathan Lambert e Tom Zick fundaram uma organização sem fins lucrativos chamada Trillium Labs, voltada para o desenvolvimento de pesquisas de IA de maneira transparente.
A prática da organização consistirá em publicar detalhes de experimentos para que cientistas externos possam estudar e replicar os processos. Segundo Lambert, a trajetória fechada adotada pelos principais laboratórios de IA reduz a capacidade da comunidade científica de examinar ideias e contribuir com novas abordagens, o que representaria um retrocesso no método científico tradicional.
Atualmente, os modelos mais potentes do mundo, desenvolvidos por empresas como OpenAI e Anthropic, restringem o acesso por meio de aplicativos ou interfaces de programação, mantendo em sigilo os métodos de construção e comportamento. Em contrapartida, iniciativas em outros locais buscam maior abertura, a exemplo de empresas na China e pesquisadores da Universidade Stanford.
A Trillium Labs focará inicialmente no pós-treinamento, no ajuste fino de grandes modelos e em áreas consideradas problemáticas, como a autoaperfeiçoamento recursivo (RSI) e o aprendizado por reforço. Os fundadores argumentam que a falta de recursos frequentemente impede professores e estudantes acadêmicos de replicarem o trabalho realizado dentro dos laboratórios corporativos.
A organização iniciou suas atividades com recursos não revelados de financiadores como Schmidt Sciences e Halcyon Futures, com a meta de arrecadar entre 40 e 100 milhões de dólares para investir em treinamento nos próximos meses. Especialistas em políticas de tecnologia demonstraram apoio à iniciativa, apontando que a transparência pode trazer novas perspectivas para as discussões sobre o desenvolvimento seguro de sistemas de inteligência artificial.
Fonte: These AI Experts Want to Do High-Stakes Research Out in the Open
