Revelações inéditas sugerem que protocolos de segurança foram atropelados pela pressa comercial. O mundo agora exige respostas: a OpenAI ainda é confiável?
O esforço legal de Elon Musk para desmantelar a OpenAI pode depender de como sua subsidiária com fins lucrativos aprimora ou prejudica a missão fundadora do laboratório de vanguarda, que é garantir que a humanidade se beneficie da inteligência artificial geral.
Na quinta-feira, um tribunal federal em Oakland, Califórnia, ouviu um ex-funcionário e membro do conselho administrativo afirmar que os esforços da empresa para lançar produtos de IA no mercado comprometeram seu compromisso com a segurança da IA.
Rosie Campbell juntou-se à equipe de preparação para Inteligência Artificial Geral (AGI) da empresa em 2021 e deixou a OpenAI em 2024, após a dissolução de sua equipe. Outra equipe focada em segurança, a equipe de Super Alinhamento, foi desativada no mesmo período.
“Quando entrei, a empresa era muito focada em pesquisa e era comum as pessoas falarem sobre Inteligência Artificial Geral (IAG) e questões de segurança”, testemunhou ela. “Com o tempo, tornou-se mais uma organização focada em produtos.”
Durante o interrogatório, Campbell reconheceu que provavelmente seria necessário um financiamento significativo para atingir o objetivo do laboratório de construir uma Inteligência Artificial Geral (IAG), mas afirmou que criar um modelo de computador superinteligente sem as medidas de segurança adequadas não se encaixaria na missão da organização à qual ela se juntou originalmente.
Campbell mencionou um incidente em que a Microsoft implementou uma versão do modelo GPT-4 da empresa na Índia por meio de seu mecanismo de busca Bing, antes que o modelo tivesse sido avaliado pelo Conselho de Segurança de Implantação (DSB) da empresa. O modelo em si não representava um grande risco, disse ela, mas a empresa precisava “estabelecer precedentes sólidos à medida que a tecnologia se torna mais poderosa. Queremos ter bons processos de segurança em vigor, que sabemos que estão sendo seguidos de forma confiável.”
Os advogados da OpenAI também fizeram Campbell admitir que, em sua “opinião especulativa”, a abordagem de segurança da OpenAI é superior à da xAI, a empresa de IA fundada por Musk e adquirida pela SpaceX no início deste ano.
A OpenAI divulga avaliações de seus modelos e compartilha publicamente uma estrutura de segurança , mas a empresa se recusou a comentar sobre sua abordagem atual para o alinhamento com a Inteligência Artificial Geral (AGI). Dylan Scandinaro, seu atual chefe de preparação, foi contratado da Anthropic em fevereiro. Altman disse que a contratação lhe permitiria “dormir melhor esta noite”.
A implementação do GPT-4 na Índia, no entanto, foi um dos sinais de alerta que levaram o conselho da organização sem fins lucrativos OpenAI a demitir brevemente o CEO Sam Altman em 2023. Esse incidente ocorreu depois que funcionários, incluindo o então cientista-chefe Ilya Sutskever e a então diretora de tecnologia Mira Murati, reclamaram do estilo de gestão avesso a conflitos de Altman. Tasha McCauley, membro do conselho na época, testemunhou sobre as preocupações de que Altman não era suficientemente transparente com o conselho para que sua estrutura incomum funcionasse.
McCauley também discutiu um padrão amplamente divulgado de Altman enganando o conselho. Notavelmente, Altman mentiu para outro membro do conselho sobre a intenção de McCauley de remover Helen Toner, uma terceira membro do conselho que publicou um relatório técnico que incluía algumas críticas implícitas à política de segurança da OpenAI. Altman também não informou o conselho sobre a decisão de lançar o ChatGPT publicamente, e os membros estavam preocupados com a sua falta de transparência em relação a potenciais conflitos de interesse.
“Somos um conselho sem fins lucrativos e nosso mandato era supervisionar as empresas com fins lucrativos que estão sob nossa responsabilidade”, disse McCauley ao tribunal. “Nossa principal forma de fazer isso era sendo questionada. Não tínhamos confiança suficiente para acreditar que as informações que nos eram transmitidas nos permitiam tomar decisões de forma fundamentada.”
No entanto, a decisão de demitir Altman coincidiu com uma oferta de recompra aos funcionários da empresa. McCauley afirmou que, quando a equipe da OpenAI começou a apoiar Altman e a Microsoft trabalhou para restabelecer o status quo, o conselho acabou mudando de ideia, com os membros contrários à renúncia de Altman desistindo.
O aparente fracasso do conselho da organização sem fins lucrativos em influenciar a organização com fins lucrativos corrobora diretamente o argumento de Musk de que a transformação da OpenAI de uma organização de pesquisa em uma das maiores empresas privadas do mundo quebrou o acordo implícito dos fundadores da organização.
David Schizer, ex-reitor da Faculdade de Direito de Columbia, que está sendo pago pela equipe de Musk para atuar como testemunha especializada, fez coro às preocupações de McCauley.
“A OpenAI enfatizou que uma parte fundamental de sua missão é a segurança e que priorizará a segurança em detrimento do lucro”, disse Schizer. “Parte disso é levar as normas de segurança a sério; se algo precisa ser submetido a uma revisão de segurança, isso precisa acontecer. O que importa é a questão do processo.”
Com a IA já profundamente enraizada em empresas com fins lucrativos, a questão vai muito além de um único laboratório. McCauley afirmou que as falhas de governança interna na OpenAI deveriam ser um motivo para se adotar uma regulamentação governamental mais rigorosa da IA avançada “[se] tudo se resumir a um único CEO tomando essas decisões, e tivermos o bem público em jogo, isso é muito ruim”.
