Segurança de agentes de IA é problema solucionável, diz presidente da Nvidia

O presidente-executivo da Nvidia, Jensen Huang, afirmou que a segurança dos sistemas de inteligência artificial (IA) com agentes autônomos é um problema de engenharia solucionável e defendeu que essas ferramentas operem com o mínimo possível de permissões e acessos.Em entrevista à CNBC, Huang disse que a IA tem potencial para gerar grandes benefícios, mas precisa ser desenvolvida e implementada de forma segura para que o público confie na tecnologia. “Acredito que é um problema de engenharia. Sei que é um problema de engenharia”, afirmou, acrescentando que se trata de uma questão “tecnicamente solucionável”.Leia tambémReunião de Trump com empresas de IA terá como foco encontrar equilíbrio, diz CâmaraReunião ocorre em um momento em que as principais empresas de IA pedem uma desaceleração no desenvolvimento de sistemas de IAMeta contrata presidente da MongoDB para impulsionar iniciativa de IA corporativaAções da fornecedora de ‌software de banco de dados despencaram 18% nesta segunda-feiraSegundo o executivo, a principal medida ao implementar um agente de IA deve ser retirar inicialmente todas as suas permissões e depois conceder apenas os acessos necessários para a execução de cada tarefa. “A prioridade número um é retirar todos os seus direitos”, disse. Huang comparou o modelo de segurança ao funcionamento de navegadores, que isolam aplicações e limitam o acesso a arquivos, redes e outros recursos.O CEO da companhia afirmou que a Nvidia está criando, com o OpenShell, uma espécie de “navegador para agentes”, voltado à contenção, provisão de permissões e monitoramento dos sistemas. O projeto é de código aberto e, segundo Huang, conta com apoio de cerca de 100 empresas.Huang também defendeu cautela na regulação de tecnologias ainda em rápida evolução. Para ele, “seria uma pena regular antes de compreender” plenamente a indústria, embora tenha afirmado que a intensidade da regulação deve aumentar à medida que a tecnologia amadurece.The post Segurança de agentes de IA é problema solucionável, diz presidente da Nvidia appeared first on InfoMoney.