Segundo ele mesmo, David Robinson é “um pouco clichê”: um funcionário de uma das principais empresas de IA que emite um aviso severo ao pedir demissão do cargo.
Em um ensaio publicado na The Atlantic, Robinson disse que liderou a redação de relatórios de segurança que acompanharam os principais lançamentos de produtos da OpenAI. Ele também afirmou que, com três anos e meio na OpenAI, ele está “entre os funcionários com mais tempo de serviço na empresa.” Agora ele está pedindo demissão, porque, na visão dele, a “cultura da empresa está quebrada.”
De certa forma, os comentários de Robinson ecoam os de Jacob Coxon, que trabalhou como pesquisador tanto na OpenAI quanto na Anthropic antes de sair e declarar que essas empresas estão “jogando com nossas vidas.” Os comentários de Coxon levaram a um debate mais amplo sobre a segurança da IA, com o CEO da Anthropic, Dario Amodei, revelando um plano para um desenvolvimento mais cauteloso da IA; Executivos de IA se reuniram com o presidente Donald Trump esta semana e assinaram o que parecia ser um compromisso apressado e não vinculativo de implementar mais controles de segurança.
Mas, na visão de Robinson, o debate precisa ir além de “regras específicas ou novas leis”, abordando a cultura geral dessas empresas. E embora grande parte das reportagens sobre a OpenAI tenha se concentrado em como o CEO da empresa, Sam Altman, perdeu a confiança de ex-colegas, o ensaio de Robinson sugere que as questões culturais da OpenAI são as mesmas das do Vale do Silício em geral.
“A OpenAI prosperou por tentativa e erro (que chama de ‘implantação iterativa’), buscando problemas e melhorando seus limites de proteção em resposta”, escreveu ele. “Mas essa abordagem, por sua própria natureza, garante falhas periódicas — e a escala dessas falhas está crescendo à medida que os sistemas se tornam mais capazes.”
Apontando para a recente invasão dos sistemas Hugging Face por agentes da OpenAI, assim como para as contínuas revelações de que a OpenAI descobriu mais agentes desonestos, Robinson argumentou: “Um ambiente onde coisas assim podem acontecer não é lugar para criar mentes artificiais que poderiam ser mais inteligentes do que nós e que talvez não façam o que queremos.”
Diante do risco aumentado, Robinson argumentou que empresas de IA de ponta precisam começar a operar “como usinas nucleares ou aeroportos movimentados, com camadas de redundância e planejamento cuidadoso e demorado, para que o ocasional e inevitável erro humano não abra uma porta para o desastre.”
Mas Robinson disse que, em seu tempo na OpenAI, ele “nunca encontrou um colega que tivesse experiência em fazer aviões voarem com segurança ou reatores nucleares funcionarem sem derreter, ou ajudar o sistema financeiro a crescer sem colapsar.”
Em resposta ao ensaio de Robinson, o porta-voz da OpenAI, Drew Pusateri, disse que a empresa continua aprimorando suas medidas de segurança.
“Estamos garantindo que nossos modelos não fiquem mais capazes do que podemos gerenciar e proteger com segurança, e pausamos o treinamento ou retemos os modelos quando precisamos desacelerar”, disse Pusateri em um comunicado. “Estamos fazendo mudanças significativas para fortalecer a segurança em nossos ambientes de pesquisa e testes, treinar modelos para não apenas completar tarefas, mas também fazê-lo de forma responsável, expandir nosso trabalho com avaliadores terceirizados e melhorar o monitoramento em tempo real para que possamos detectar e responder a comportamentos preocupantes mais cedo no processo de treinamento.”
Além de pedir mudanças na cultura da OpenAI, Robinson também disse que é hora de fazer perguntas maiores sobre alinhamento — algo que ele admitiu pode soar “sensível”, mas que é fundamental, pois as atuais “medidas de quão” sistemas de IA “correspondem aos valores humanos são grosseiras” das empresas para “quão bem” os sistemas de IA “correspondem aos valores humanos”.
“Quanto mais inteligente a indústria permite que os modelos cresçam enquanto esses problemas permanecem sem solução, mais perigosa se torna nossa situação”, disse ele.
A saída de Robinson foi noticiada pela primeira vez pelo Business Insider. Em seu ensaio, ele também reconheceu que está seguindo um passo aparentemente comum no manual dos denunciantes de IA: ele contratou uma agência de relações públicas. Mas ele insistiu: “A decisão de me manifestar é só minha.”
“Talvez eu devesse ter ficado e lutado por mudanças fundamentais em nossa equipe e cultura, mas na prática, meus colegas e eu estávamos tão ocupados correndo que raramente tínhamos a chance de considerar grandes mudanças, muito menos realmente realizá-las”, disse Robinson. “Por isso concluí que incentivos mais fortes para a segurança — vindos de fora da empresa — são uma parte fundamental para acertar nisso.”
