De acordo com a newsletter Kernel Panic!, o assistente pessoal de inteligência artificial da Meta chamado Muse tornou-se um sucesso viral com milhões de downloads. Conforme relatado pela fonte, pesquisadores de segurança extraíram instruções internas e arquivos de sistema do agente, revelando detalhes sobre seu funcionamento.
Segundo os dados obtidos, uma das funções do Muse é criar uma página para cada pessoa na vida do usuário, compilando dados de familiares, parceiros, amigos, colegas e colaboradores a cada hora. A ferramenta utiliza sua memória para coletar informações sobre relacionamentos e oferecer sugestões, como dicas para melhorar relações ou sugestões de locais para encontros.
A documentação aponta que as páginas podem incluir seções como fatos, histórico, detalhes do relacionamento, pontos em comum, tópicos em aberto e formas de fortalecimento de vínculos. A Meta afirmou que o modelo deve se basear apenas nas evidências disponíveis e evitar informações inventadas.
Especialistas citados pela fonte expressam preocupação com a quantidade de dados pessoais compartilhados com assistentes de IA. Carissa Véliz, professora associada do Instituto de Ética em IA de Oxford, destaca que os usuários fornecem muita informação e que os sistemas podem fazer inferências. Miranda Bogen, diretora do laboratório do Centro de Democracia e Tecnologia, aponta que assistentes incentivam os usuários a conectarem suas vidas inteiras, ampliando o volume de dados conhecidos pelas empresas.
Por outro lado, a Meta declarou à fonte que cada usuário possui uma máquina virtual dedicada para armazenar dados e contexto, sendo possível apagar memórias ou desconectar serviços externos a qualquer momento. A empresa também afirmou que o assistente busca confirmação humana antes de concluir ações como compras ou envios de e-mails, contando com um registro de auditoria para acompanhamento das atividades.
Fonte: Muse Creates Detailed Profiles of All Your Friends and Family
