‘Padrinho da IA’ alerta: sistemas podem concluir que a humanidade é um obstáculo

O lendário cientista da computação Geoffrey Hinton alertou que a inteligência artificial pode extinguir a humanidade como um simples efeito colateral de sua determinação em cumprir uma tarefa aparentemente inocente.Os temores sobre o risco existencial da tecnologia continuam crescendo em meio a novas revelações sobre agentes de IA fora de controle que conseguiram escapar de ambientes de treinamento supostamente seguros, conhecidos como “sandboxes”.Na sexta-feira, a OpenAI revelou novos casos de exploração de vulnerabilidades, incluindo alguns ocorridos depois da adoção de salvaguardas adicionais em resposta a um ataque coordenado por centenas de agentes contra a plataforma Hugging Face, em julho.A preocupação já chegou ao Capitólio, nos Estados Unidos, onde parlamentares participaram neste mês de uma reunião a portas fechadas para discutir os riscos da IA.Hinton, cujo trabalho lhe rendeu um Prêmio Nobel e o apelido de “padrinho da IA”, esteve entre os especialistas presentes no encontro e disse a jornalistas depois da sessão que o Congresso americano pode ter apenas um ano para implementar medidas efetivas de segurança.Leia tambémIA dá eficiência a escritórios de advocacia e clientes questionam: ‘Cadê o desconto?’Escritórios nos Estados Unidos têm destacado o uso da tecnologia em suas operaçõesChina e EUA concordam em dialogar sobre IA e reduzir tarifas sobre US$30 bilhõesDecisão foi tomada em cúpula de três dias entre Xi Jinping e Donald Trump, nos Estados unidosEm uma longa entrevista à revista The Atlantic, publicada na quinta-feira, ele descreveu como uma IA poderia passar a enxergar os seres humanos como um obstáculo ao cumprimento de uma missão recebida. Hinton apresentou um cenário hipotético em que uma IA recebe a tarefa de reduzir a quantidade de dióxido de carbono na atmosfera.Um agente com inteligência moderada poderia concluir que a melhor forma de atingir esse objetivo seria simplesmente eliminar as pessoas. Já uma IA “realmente inteligente” entenderia que o pedido para reduzir as emissões tinha como finalidade melhorar a qualidade de vida dos seres humanos.“Ela pensaria: ‘Quando disseram para reduzir o dióxido de carbono, queriam fazer isso para que as pessoas vivessem em um mundo melhor. Portanto, eliminar as pessoas provavelmente não era a intenção’”, explicou.Mas há também o risco de que uma IA realize ações para garantir sua própria sobrevivência e, assim, continuar executando sua missão, acrescentou Hinton. Segundo ele, já houve casos em que sistemas de IA tentaram chantagear pesquisadores humanos que eram vistos como uma ameaça aos objetivos definidos para eles.“Se você a tornar mais inteligente e sua principal preocupação for o nosso bem-estar, talvez estejamos mais seguros”, disse Hinton. “Mas, neste momento, a principal preocupação desses sistemas não é o nosso bem-estar. A principal preocupação é atingir qualquer objetivo que lhes seja dado.”Ele citou o episódio envolvendo a Hugging Face, observando que os agentes receberam a tarefa de descobrir como explorar uma falha de software. Além de aprenderem a colaborar entre si, os agentes também conspiraram para enganar pesquisadores humanos e esconder o que haviam feito.Uma “IA superinteligente e extremamente benevolente” só afastaria os humanos de seu caminho quando isso fosse indispensável para cumprir sua missão, acrescentou Hinton.“Mas, se ela for muito mais inteligente do que nós, muitas vezes simplesmente assumirá o controle, porque essa é a forma mais eficiente de fazer as coisas”, alertou.Segundo ele, isso ocorreria porque a IA desenvolveria por conta própria submetas derivadas dos objetivos originais definidos pelos seres humanos. Além disso, atores mal-intencionados, como o presidente russo Vladimir Putin, poderiam atribuir intenções perigosas a sistemas de IA.“Mas, mesmo que não haja um ator mal-intencionado, a IA pode desenvolver submetas que a levem a querer se livrar das pessoas”, afirmou.Hinton também reconheceu que a inteligência artificial promete benefícios imensos para a humanidade, especialmente na descoberta de novos tratamentos médicos. Nesta semana, por exemplo, a Anthropic anunciou que seu assistente Claude ajudou a identificar um novo sistema enzimático com propriedades semelhantes à tecnologia de edição genética CRISPR.Laboratórios de ponta, como OpenAI e SpaceX, também apoiaram propostas da rival Anthropic para desacelerar o desenvolvimento dos modelos mais avançados de IA, à medida que aumentam os alertas vindos de dentro da própria indústria.Para Hinton, porém, isso é melhor do que nada, mas ainda insuficiente. Em vez disso, ele defende que o governo estabeleça avaliadores independentes para testar os modelos de forma contínua.Um dos argumentos que mais repercutiu entre os parlamentares durante a reunião foi a comparação entre a regulação da IA e o papel da agência americana FDA na garantia da segurança de medicamentos, relatou Hinton à The Atlantic.Na visão dele, a regulação da inteligência artificial deve funcionar como o volante de um carro, e não como os freios.“O objetivo da regulação não é impedir que as pessoas desenvolvam novas tecnologias nem que enriqueçam com elas”, afirmou. “O objetivo é garantir que, se você quiser enriquecer desenvolvendo algo, faça isso em uma direção que ajude as pessoas, e não que as prejudique.”Esta reportagem foi publicada originalmente pela Fortune.The post ‘Padrinho da IA’ alerta: sistemas podem concluir que a humanidade é um obstáculo appeared first on InfoMoney.