Apocalipse da IA: por dentro das conversas que tomaram a indústria de tecnologia

Quando Jacob Coxon, um pesquisador da Anthropic, pediu demissão publicamente da startup de inteligência artificial na semana passada, citando suas preocupações com a tecnologia poderosa, as mensagens internas começaram a pipocar.“É o que todo mundo vem dizendo”, escreveu um funcionário da Anthropic sobre os comentários de Coxon em um chat da empresa que foi visto pelo The New York Times. “Só que agora está público.”“O Jacob levou o grupo do chat para o público”, escreveu outro funcionário. “Isso é uma coisa boa.”As reações dentro da Anthropic foram ecoadas por pesquisadores de IA na OpenAI, Meta e Google, que analisaram as postagens de Coxon nas redes sociais descrevendo como a OpenAI e a Anthropic estavam “apostando nossas vidas” com a tecnologia. Muitos se reuniram em canais de mensagens corporativas, chats criptografados e jantares privados, com o objetivo de se organizar para aumentar a conscientização sobre os riscos da IA, de acordo com uma dúzia de funcionários dessas empresas.Para aqueles que fizeram da IA o trabalho de suas vidas, a mensagem de Coxon não era nova. Mas seus comentários se alastraram a ponto de se tornarem uma conversa global, e muitos viram nisso um momento para pedir mais cautela. Alguns trabalhadores de IA agora estão se manifestando para altos executivos, pedindo uma pausa no desenvolvimento da tecnologia que avança rapidamente até que ela tenha as devidas salvaguardas, disseram seis dessas pessoas.Leia mais: Por que este alerta sobre o risco da IA “quebrou” a internet?As conversas escancaram as tensões dentro dos principais laboratórios de IA sobre as formas mais seguras de desenvolver a tecnologia. Mesmo com os funcionários se sentindo encorajados a pedir uma desaceleração no desenvolvimento da IA, empresas como Anthropic e OpenAI estão equilibrando prioridades.Ambas estão planejando ofertas públicas iniciais de grande porte no próximo ano. As empresas também temem que possam enfrentar preocupações antitruste se concordarem entre si em dar uma pausa no desenvolvimento da IA, disseram duas pessoas a par do assunto. E startups chinesas já produziram modelos de IA competitivos, levantando a possibilidade de que empresas americanas fiquem para trás se desacelerarem.Isso criou uma situação complicada para os principais executivos de IA, muitos dos quais concordam que a tecnologia apresenta riscos. Sam Altman, CEO da OpenAI, escreveu em uma postagem de blog em 2023 que a IA poderia “causar danos graves ao mundo”. Dario Amodei, CEO da Anthropic, escreveu em um artigo de opinião no ano passado que a IA deveria ser regulamentada para controlar os riscos.Em uma reunião de funcionários na semana passada, Altman disse que a OpenAI estava disposta a desacelerar o desenvolvimento junto com laboratórios concorrentes, de acordo com duas pessoas que participaram. Ele acrescentou que esperava que desacelerações voluntárias se tornassem normais até que houvesse padrões de segurança amplamente reconhecidos. A reunião foi divulgada anteriormente pela Bloomberg.Leia mais: CEO da Anthropic defende desaceleração de avanços da IA, em meio a alerta sobre riscoE no sábado (12), Amodei publicou um ensaio de 3.800 palavras pedindo prudência no desenvolvimento da IA. “Precisamos desacelerar o ritmo com que melhoramos as capacidades dos modelos de IA”, escreveu ele.(O The New York Times processou a OpenAI e a Microsoft, alegando violação de direitos autorais de conteúdo jornalístico relacionado a sistemas de IA. As duas empresas negaram as alegações.)As discussões sobre segurança da IA existem quase desde o surgimento da própria tecnologia. Mas a urgência aumentou nos últimos anos, à medida que pesquisadores fizeram avanços significativos.As preocupações se intensificaram em julho, depois que a OpenAI revelou que alguns de seus modelos de IA haviam escapado do confinamento e invadido a Hugging Face, uma empresa de IA. Pesquisadores de IA questionaram se era possível controlar os próprios sistemas que estavam construindo, com funcionários da OpenAI, Anthropic e Google DeepMind se reunindo para discutir o que fazer, disseram nove pessoas. Muitos concordaram que a IA estava sendo desenvolvida rápido demais.“Os pesquisadores sóbrios dentro dos laboratórios, que se orgulhavam de ser equilibrados, agora estão parecendo aterrorizados”, disse Roy Bahat, chefe da empresa de investimentos Bloomberg Beta, em uma entrevista.Alguns pesquisadores de IA criaram grupos com o objetivo de estabelecer salvaguardas duradouras. Um desses esforços, a Coalizão de Funcionários de IA Preocupados (Coalition of Concerned AI Staff), começou como um projeto secreto para criar “salvaguardas mais fortes” e ajudar os trabalhadores a, coletivamente, “responsabilizar uma empresa por seus compromissos de segurança”.“Se você trabalha em uma empresa de IA, pode estar se perguntando se também deveria sair”, disse Pamela Mishkin, ex-funcionária da OpenAI, nas redes sociais na quinta-feira (10) ao anunciar o esforço. Ela também incentivou aqueles que permaneciam em seus empregos a perguntar “como usar sua influência para quem fica”.Depois que Coxon postou sua demissão da Anthropic na terça-feira (8), trabalhadores de IA pediram a altos executivos de suas empresas que pausassem o desenvolvimento da tecnologia para que tivessem mais tempo para trabalhar nela de forma segura. Alguns brincaram que já haviam perdido a conta de quantas cartas abertas haviam assinado e de quantos grupos de chat privados sobre segurança de IA participavam, disseram duas pessoas.Em uma entrevista na quarta-feira (9), Coxon disse que incidentes como a invasão da Hugging Face aumentaram sua preocupação de que os modelos de IA estavam se desenvolvendo muito mais rápido do que as empresas conseguiam controlá-los. “Foi principalmente uma coisa emocional gradual e, eventualmente, meio que estourou, e então decidi sair”, disse ele.Outros trabalhadores de IA seguiram o exemplo de Coxon e se manifestaram publicamente. Evan Hubinger, pesquisador de segurança na Anthropic, disse em uma postagem nas redes sociais na terça-feira que acreditava haver uma probabilidade maior que 10% de a IA “matar todos os humanos” na próxima década.Julie Steele, pesquisadora de segurança na OpenAI, disse na semana passada que acreditava que as empresas de IA precisavam “desacelerar”. Na sexta-feira, Andreas Kirsch, funcionário do Google DeepMind, escreveu que estava “preocupado que a IA vai matar todos nós, seja por riscos de curto prazo, longo prazo, ou ambos”.“Por muito tempo, houve esse véu de não falar muito publicamente sobre isso porque as pessoas tinham medo de serem vistas como alarmistas demais, extremistas demais”, disse Connor Leahy, diretor nos EUA da ControlAI, uma ONG que faz lobby pela regulamentação da IA. “Agora parece que a represa está rompendo.”A comoção chamou a atenção de Washington. Membros do Congresso de ambos os lados do espectro político — incluindo os senadores Bernie Sanders (independente de Vermont) e Josh Hawley (republicano do Missouri) — pediram investigações sobre a tecnologia e defenderam intervenção regulatória.“É um alerta para o Congresso e para o nosso governo”, disse o deputado Ro Khanna (democrata da Califórnia) em entrevista na sexta-feira. O Congresso deveria pedir a criação de uma agência reguladora de IA, acrescentou, e “precisamos nos posicionar e regulamentar”.As empresas de IA responderam detalhando o que fazem em termos de segurança e quais outras medidas podem ser tomadas.Na quinta-feira, a Anthropic disse em um comunicado que testa regularmente seus modelos de IA “para capacidades perigosas em áreas como cibersegurança e biologia” e compartilha publicamente suas pesquisas. “Acreditamos que o mundo se beneficiaria se a indústria adotasse uma forma legal e verificável de trabalhar em conjunto para definir o ritmo de lançamento de modelos poderosos”, disse a empresa.O Google DeepMind se recusou a comentar.Chris Lehane, principal executivo de políticas da OpenAI, disse em uma postagem de blog na quarta-feira que a empresa iria “desacelerar ou interromper o desenvolvimento ou a implantação de sistemas” que não pudesse proteger adequadamente. Jakub Pachocki, diretor científico da empresa, pediu regras de segurança “aplicadas por uma rede de auditores terceirizados, agências governamentais ou organismos internacionais”.“Estou preocupado que ninguém esteja preparado para as consequências de uma ascensão rápida e contínua da inteligência das máquinas”, disse Pachocki em uma postagem de blog. “Acredito que intervenções mais amplas são necessárias.”c.2026 The New York Times CompanyThe post Apocalipse da IA: por dentro das conversas que tomaram a indústria de tecnologia appeared first on InfoMoney.