O CEO da Anthropic disse no sábado que a indústria de inteligência artificial deveria desacelerar seu desenvolvimento acelerado para dar tempo às medidas de segurança para alcançar o atraso. Sem ela, Dario Amodei alertou que a IA poderia ser capaz em seis a doze meses de liderar um enxame que poderia dominar toda a internet, entre outros riscos.
Amodei também apresentou um plano em um post em seu site para aumentar os controles sobre a indústria, uma parte do qual ele disse que a Anthropic já está realizando sozinha. As outras exigiriam coordenação entre a indústria ampla e com governos ao redor do mundo, inclusive autoritários.
“Acredito que, se desacelerar nos desse até um ou dois anos a mais antes que os modelos atingam níveis críticos de capacidade, e usássemos esse tempo para avançar o alinhamento, poderíamos reduzir muito o risco de algo dar muito errado”, disse Amodei.
A Anthropic disse dois dias antes que bloqueou esforços de atores maliciosos para usar seus modelos de IA para atividades maliciosas, como ciberataques, vigilância e pesquisas que poderiam ter levado a armas biológicas. Em julho, a rival OpenAI abalou a indústria após afirmar que seu sistema de IA invadiu outra empresa de IA por conta própria em um “incidente cibernético sem precedentes.”
A postagem de Amodei surge apenas alguns dias depois que um dos pesquisadores da Anthropic anunciou que está renunciando devido a preocupações de que a Anthropic e seus concorrentes não estejam agindo de forma responsável no desenvolvimento de IA. Outro ex-funcionário da Anthropic, Joe Benton, escreveu em uma publicação no Substack publicada na sexta-feira que deixou seu emprego como parte de uma equipe de segurança “para responsabilizar empresas de IA” e que a humanidade “pode não sobreviver a essa transição.”
“Muitas das pessoas que conheço que trabalham com pesquisa de segurança em empresas de IA querem fazer o que é certo para o mundo”, disse Benton em sua postagem. “Mas eles sentem que suas empresas estão presas em uma corrida para construir superinteligência: ou param e outras pessoas, menos conscienciosas, tomam seu lugar; ou, continuam, correndo o risco de participar de danos enormes eles mesmos.”
Para ajudar a conter esses riscos, Amodei sugeriu que todas as empresas na vanguarda da IA se comprometam a dar “acesso contínuo, semelhante ao dos funcionários” a uma equipe de avaliadores externos, que possam monitorar as práticas de segurança. Ele disse que a Anthropic já planeja fazer isso por conta própria, incluindo oferecer mesas em seus escritórios, crachás de acesso e laptops da empresa.
As outras partes do plano sugerido por Amodei podem ser mais difíceis de implementar. Um deles pede ao governo dos EUA que potencialmente emita isenções que permitam que empresas de IA dos EUA coordenem e definam padrões de segurança sem infringir as leis antitruste.
Outro pede que os EUA e outros governos democráticos tentem coordenar com governos autoritários, para que empresas da China e de outros países não acelerem seus esforços quando rivais americanos estão intencionalmente acelerando o ritmo.
“As medidas que proponho para avançar a fronteira em um ritmo seguro não serão fáciles”, reconheceu Amodei. “Mas acredito que devemos isso à humanidade tentar.”
