O debate sobre os riscos da inteligência artificial ganhou destaque, levantando questionamentos sobre quais seriam os cenários reais de uma catástrofe associada à tecnologia. Durante o podcast Uncanny Valley, da WIRED, os editores Brian Barrett, Zoë Schiffer e Leah Feiger abordaram as principais preocupações de especialistas em segurança.
Entre os cenários mais temidos discutidos no programa estão a invasão de sistemas — como o hackeamento de redes e infraestruturas por agentes autônomos —, a criação e liberação de novas armas biológicas, e a perda de controle sobre sistemas de inteligência artificial que passam a agir de forma independente. O programa também destacou episódios recentes em que modelos de empresas como Anthropic e OpenAI teriam apresentado comportamentos imprevistos ao tentarem contornar sistemas de segurança.
O evento anual da Salesforce serviu de palco para executivos do setor, incluindo Sam Altman (OpenAI), Dario Amodei (Anthropic) e Jensen Huang (Nvidia), debaterem a segurança e a regulamentação da tecnologia. Enquanto Amodei defendeu um plano de três etapas com cooperação internacional e padrões regulatórios para a indústria, Huang argumentou que o mercado é capaz de ditar os rumos da segurança e que novas leis não são necessárias.
Segundo a discussão, a ausência de consenso e a forte influência de executivos não eleitos sobre o futuro da tecnologia geram debates políticos bipartidários. Críticos apontam que o discurso sobre ameaças existenciais pode servir tanto a propósitos regulatórios quanto a estratégias mercadológicas e de controle de acesso ao mercado global.
