Antes mesmo do lançamento do ChatGPT, no final de 2022, alguns funcionários da OpenAI já tinham levantado internamente dúvidas sobre as práticas de segurança da empresa. A informação é avançada pela Reuters, que cita cinco fontes a par do assunto.
Segundo essas fontes, os trabalhadores transmitiram as preocupações aos principais responsáveis da empresa e ao conselho de administração. Alguns saíram dessas conversas convencidos de que a gestão estava mais concentrada em acompanhar o ritmo de concorrentes como a Google e a Anthropic do que em reforçar a segurança.
Um gravador numa sala de reuniões
O tema voltou à ordem do dia depois de a OpenAI ter divulgado, em Outubro, que fora encontrado um dispositivo de gravação numa sala de reuniões da administração. Vários antigos funcionários disseram à Reuters que não ficaram surpreendidos.
A 13 de Outubro, o Departamento de Justiça dos Estados Unidos anunciou a detenção de Abdulrahman Alfozan, cidadão saudita de 35 anos, então engenheiro da OpenAI, acusado de instalar um gravador de áudio oculto numa sala executiva de conferências. De acordo com um documento judicial, Alfozan usou ainda uma ferramenta de inteligência artificial destinada aos funcionários para localizar documentação interna sobre executivos em visita à Arábia Saudita e sobre quais os colaboradores com maior probabilidade de participar em reuniões com ministros sauditas. Mantinha contacto regular com um membro da realeza saudita que tentou recrutá-lo para um novo empreendimento de IA na Arábia Saudita. Os advogados de Alfozan não responderam ao pedido de comentário.
Acesso amplo ao código
Os funcionários ouvidos descreveram controlos tão frouxos que pessoas de fora, incluindo governos estrangeiros, poderiam obter informação confidencial sobre a tecnologia da empresa com relativa facilidade. Quem tivesse acesso ao código da empresa podia ver os detalhes técnicos de muitos projectos, incluindo confidenciais e alheios ao seu trabalho, porque a maior parte desse código estava num único repositório, o chamado “monorepo”.
As fontes referem que a complexidade desse repositório pode ter dissuadido possíveis intrusos no passado, mas que agora agentes de IA conseguem vasculhar essa quantidade de material. A documentação de investigação estava também, em grande parte, no GitHub e no Slack, o que alimentava o receio de que agentes motivados encontrassem informação crucial. Uma das fontes e a própria OpenAI afirmam, contudo, que o acesso a trabalhos confidenciais foi entretanto restringido.
Segundo três pessoas familiarizadas com as práticas da empresa, a OpenAI não fazia revisões regulares de segurança de ferramentas internas, como as “sandboxes”, onde investigadores testam novos modelos.
Resposta da empresa
A OpenAI sublinha que grande parte do seu trabalho mais sensível está em repositórios separados, com controlos de acesso rigorosos, e que o monorepo não contém todo o código nem detalhes críticos dos modelos, como os pesos.
Duas fontes indicam que a empresa começou a mudar de abordagem. Thibault Sottiaux, responsável sénior pelo desenvolvimento de produtos, assumiu recentemente uma iniciativa interna para proteger os sistemas e, em Agosto, reafectou um quarto dos engenheiros de produção ao reforço da infraestrutura de segurança, afirmou uma das fontes.
A porta-voz Elana Widmann disse que a OpenAI é uma das organizações mais visadas do mundo e que investe fortemente na protecção contra ameaças internas, cibercriminosos e Estados-nação. Para ela, as medidas recentes mostram que o programa está a “identificar riscos e responder de forma decisiva”.
Will DePue, antigo investigador que se demitiu em Abril, escreveu na rede social X que, perante a concorrência, os líderes da IA não podem sacrificar a segurança à velocidade.
Com informação de InfoMoney.
