A rodada de financiamento da Pangram — liderada pela Menlo Ventures, com participação da Haystack, ScOp, Script Capital e Cadenza — ocorre no momento em que a startup também lança seu modelo de detecção de texto por IA de última geração, o Pangram 4, e um modelo de detecção de imagem por IA, o Pangram Image.
A Pangram afirma que o novo modelo de detecção de texto tem mais de 99% de precisão na identificação de textos escritos com auxílio de IA e conteúdo misto (humano-IA), além de detectar com mais facilidade programas de humanização por IA. O detector de imagens por IA está disponível apenas em versão prévia para pesquisa por enquanto; a Pangram planeja lançá-lo para o público em geral nas próximas semanas.
Max Spero e Bradley Emi, graduados em IA e aprendizado de máquina pela Universidade de Stanford, lançaram o Pangram há cerca de dois anos, depois que o lançamento do ChatGPT abriu as comportas para uma internet repleta de bots, conteúdo de SEO de baixa qualidade gerado por IA e o que Spero chama de “campanhas de desinformação russas impulsionadas por LLM e campanhas influenciadas pelos Emirados Árabes Unidos no Twitter”.
“Acho extremamente valioso saber se o que você está vendo foi gerado por IA ou não”, disse Spero ao TechCrunch. “Principalmente quando se trata de textos que você está lendo, porque isso muda a forma como as pessoas os abordam. Será que terei que ficar atento a possíveis alucinações e encarar com ceticismo, ou posso confiar que foi bem pesquisado por um jornalista de verdade?”
O sistema de detecção de IA da Pangram é essencialmente um grande modelo de aprendizado de máquina treinado com dezenas de milhões de documentos humanos conhecidos. A startup então criou um “espelho sintético” para cada documento, replicando o tópico, a extensão e o tom de voz, mas escrito por um profissional de direito de vanguarda.
“Nosso modelo está aprendendo as diferenças estilísticas e as escolhas que a IA faz consistentemente, e é capaz de usar isso para aprender, com alta confiança, o que torna algo gerado por IA”, disse Spero, acrescentando que o detector de IA não depende de metadados copiados e colados ou marcas d’água ocultas.
Para a Pangram, a detecção por IA não se resume apenas a saber se um texto foi escrito inteiramente por IA. Trata-se também de distinguir entre os níveis de assistência da IA — como no caso de alguém que escreve algo por conta própria, mas depois pede à IA para editar ou aprimorar o texto. Spero acredita que a assistência por IA pode ser aceitável, desde que o autor divulgue o uso da IA.
O surgimento do Pangram ocorre em um momento em que o uso de IA está se tornando mais comum. Em alguns casos, como o do político canadense que leu em voz alta uma mensagem gerada por IA em um discurso para parlamentares, os erros resultam em ridículo. Em outros casos, como o de certos advogados que usaram citações falsas criadas pelo ChatGPT em seus argumentos, as consequências podem ser sanções e multas .
Essa reação negativa também começa a se refletir nas normas institucionais.
O arquivo de acesso aberto arXiv introduziu uma nova política de aplicação de regras este ano, declarando que submissões que contenham evidências de que os autores não revisaram os resultados do LLM (como referências alucinadas ou metacomentários como “Gostaria que eu fizesse alguma alteração?”) podem resultar em uma proibição de submissão por um ano.
A Pangram não é a única a apostar que a detecção por IA se tornará mais procurada. Concorrentes como Winston AI, Originality.ai , Copyleaks e GPTZero estão de olho na mesma demanda, cada uma desenvolvendo seu próprio detector.
A tecnologia da Pangram, embora não seja perfeita, pode ajudar a alimentar a resistência à aceitação do conteúdo gerado por IA que inunda a internet, os tribunais e os artigos acadêmicos.
Os usuários podem acessar o Pangram por meio de uma assinatura de US$ 20 por mês na web ou baixar a extensão para o Chrome, que rotula automaticamente as postagens em tempo real no X, LinkedIn, Substack, Reddit e Medium. Ela também fornece uma pontuação de qualidade do feed com uma porcentagem de conteúdo humano versus conteúdo de IA na sua tela.
A Pangram também oferece sua tecnologia via API. Notavelmente, o Substack integrou recentemente a tecnologia da Pangram em sua plataforma para mostrar aos leitores quais de seus autores favoritos escrevem suas newsletters usando IA. Outros clientes da API incluem o Quora, escolas e universidades, editoras e agentes, e recrutadores, entre outros, segundo Spero.
O pangrama funciona?
Spero afirmou que aproximadamente um em cada 10.000 documentos humanos é erroneamente classificado como sendo de IA pelo modelo da Pangram, então decidi testá-lo. O modelo de detecção de texto foi impressionante, mas não perfeito. Ele identificou facilmente artigos de notícias totalmente gerados por IA, escritos tanto pelo ChatGPT quanto pelo Claude, e raramente foi enganado pelas minhas tentativas de editar o texto gerado por IA para que soasse mais humano. No entanto, a Pangram identificou frases que eu reescrevi completamente como sendo de autoria de IA. A Pangram também não foi enganada pelas minhas tentativas de induzir o ChatGPT e o Claude a burlar os detectores de IA ao gerar conteúdo.
Também entreguei um dos meus artigos para o ChatGPT e para o Claude e pedi que o aprimorassem. O Pangram atribuiu uma pontuação de 13% de assistência por IA, o que provavelmente estava próximo da precisão, mas o modelo conseguiu detectar mudanças sutis na escolha de palavras em algumas frases e as ignorou em outras. Ele também sinalizou algumas frases como tendo sido escritas por IA, mesmo tendo sido escritas por humanos. Isso foi notável porque, quando entreguei o mesmo artigo na íntegra para o Pangram, exatamente como eu o havia escrito, ele obteve uma pontuação de 100% humana.
Talvez o problema fosse que artigos de notícias podem ser um pouco áridos e facilmente soar como se fossem escritos por IA. Então, tentei uma tática diferente. Testei o Pangram com o conteúdo da minha newsletter no Substack, que é mais pessoal e com uma linguagem mais informal. Colei a primeira metade do texto no Pangram e, em seguida, pedi ao ChatGPT e ao Claude que copiassem meu estilo e escrevessem a segunda metade. Na maior parte dos casos, o Pangram detectou facilmente o texto escrito por humanos em comparação com o texto escrito por IA.
Meus testes limitados com o novo modelo de detecção de imagens da Pangram se mostraram igualmente impressionantes.
O sistema de detecção de imagens por IA da Pangram promete identificar imagens geradas por IA em diversos modelos de IA, diferentemente das verificações baseadas em marcas d’água da OpenAI ou do Google DeepMind, que geralmente detectam seus próprios resultados. Ele funciona com base em distribuições em nível de pixel, aprendendo diferenças estatísticas sutis entre fotos reais e imagens geradas por IA. Spero afirma que o modelo pode até mesmo detectar uma imagem gerada por IA que aparece dentro de uma foto do mundo real.
Nos meus testes, o modelo detectou facilmente imagens geradas por IA, fossem elas fotorrealistas ou caricaturais. Também posso confirmar que o modelo conseguiu detectar uma imagem gerada por IA em uma foto do mundo real — o mapa de calor fornecido pelo Pangram claramente se destaca sobre a imagem —, embora em um caso tenha classificado incorretamente uma foto de uma imagem gerada por IA como conteúdo humano.
Spero afirma que não quer que sua tecnologia alimente uma caça às bruxas contra pessoas que usam IA para escrever, mas que precisa haver algum tipo de mecanismo para combater a incompetência.
“O futuro que eu vislumbro é que o conteúdo de IA continuará a proliferar”, disse Spero. “Estamos recebendo novas GPUs mais rápido do que novas pessoas nascem. Se não priorizarmos ativamente o conteúdo humano, veremos cada vez mais IA, e ela simplesmente abafará qualquer sinal humano que tenhamos.”
