O procurador-geral da Flórida, James Uthmeier, anunciou na quinta-feira que seu gabinete investigará a OpenAI por supostos danos a menores, potencial ameaça à segurança nacional e possível ligação com um tiroteio ocorrido na Universidade Estadual da Flórida no ano passado.
“É provável que o ChatGPT tenha sido usado para auxiliar o assassino no recente massacre na Universidade Estadual da Flórida, que tragicamente tirou duas vidas”, disse o Procurador-Geral Uthmeier em um vídeo publicado nas redes sociais.
No dia do tiroteio na FSU em abril passado, o suspeito teria perguntado ao ChatGPT como o país reagiria a um tiroteio na FSU e em que horário o centro estudantil da universidade estaria mais movimentado. Essas mensagens podem ser usadas como prova contra o suspeito em um julgamento marcado para outubro sobre o tiroteio.
O procurador-geral citou ainda preocupações sobre o incentivo ao suicídio por parte do ChatGPT em certos casos, os quais foram documentados em vários processos judiciais movidos por famílias contra a OpenAI. Ele também mencionou sua preocupação de que o Partido Comunista Chinês pudesse usar a tecnologia da OpenAI contra os Estados Unidos.
“À medida que as grandes empresas de tecnologia implementam essas tecnologias, elas não devem — e não podem — colocar nossa segurança em risco”, disse ele. “Apoiamos a inovação. Mas isso não dá a nenhuma empresa o direito de colocar nossas crianças em perigo, facilitar atividades criminosas, fortalecer os inimigos dos Estados Unidos ou ameaçar nossa segurança nacional.”
Ele também pediu à legislatura da Flórida que “aja rapidamente” para proteger as crianças dos impactos negativos da IA.
“A cada semana, mais de 900 milhões de pessoas usam o ChatGPT para melhorar seu dia a dia, seja aprendendo novas habilidades ou navegando por sistemas complexos de saúde”, disse um porta-voz da OpenAI em um comunicado ao TechCrunch. “Nosso trabalho contínuo em segurança continua desempenhando um papel importante em levar esses benefícios às pessoas comuns, além de apoiar a pesquisa e a descoberta científica.”
A OpenAI acrescentou que desenvolve e continua a aprimorar o ChatGPT para entender a intenção do usuário e responder de maneira apropriada e segura. A empresa afirmou que cooperará com a investigação do procurador-geral da Flórida.
Na quarta-feira, a OpenAI apresentou seu Plano de Segurança Infantil , que inclui recomendações de políticas destinadas a melhorar a segurança das crianças em relação à IA.
Essa ação surge em um momento em que os criadores de chatbots enfrentam pressão para confrontar seu potencial papel na criação de material de abuso sexual infantil (CSAM, na sigla em inglês). De acordo com um relatório recente da Internet Watch Foundation , houve mais de 8.000 denúncias de CSAM gerado por IA no primeiro semestre de 2025, o que representa um aumento de 14% em relação ao ano anterior.
O plano da OpenAI recomenda a atualização da legislação para proteger contra material abusivo gerado por IA, o aprimoramento do processo de denúncia às autoridades policiais e a implementação de melhores salvaguardas preventivas contra o uso abusivo de ferramentas de IA.
