Essas ferramentas conseguem identificar um texto escrito por IA
Novas tecnologias pretendem descobrir se textos foram escritos por humanos ou pelo ChatGPT
A vida não está fácil para os bots. Logo quando imaginamos que, a partir de hoje, tudo o que lemos viria de alguma inteligência artificial, engenheiros começaram a desenvolver maneiras de identificar se um texto foi escrito pelo ChatGPT ou algum outro gerador.
Aqui estão três ferramentas de detecção que você (ou seu professor da faculdade, ou seu chefe) pode usar agora (ou muito em breve).
Pedimos ao ChatGPT para “gerar um artigo sobre ferramentas que avaliam se um texto foi escrito por inteligência artificial” e testamos o resultado nas ferramentas a seguir.
Todas elas determinaram – ou, ao menos, suspeitaram – que o texto provavelmente foi escrito por um bot. Em seguida, analisamos este artigo com essas mesmas ferramentas – e, felizmente, elas confirmaram que a autoria era humana.
GPT-2 OUTPUT DETECTOR
A OpenAI vem impressionando a todos com sua capacidade de replicar a inteligência humana e habilidades artísticas desde 2015. Mas, em novembro do ano passado, a empresa finalmente se tornou um fenômeno viral com o lançamento do gerador de texto IA ChatGPT.
Os usuários da versão beta postaram exemplos de textos gerados pela ferramenta. Os resultados eram tão surpreendentes que causaram espanto entre professores e fizeram até mesmo o Google ligar um sinal de alerta com medo da concorrência ao seu sistema de busca
Se os engenheiros da OpenAI conseguiram desenvolver um bot capaz de escrever tão bem ou melhor do que um ser humano médio, então é lógico que também poderiam criar um que detecta se o texto foi gerado por IA.
A versão demo do GPT-2 output detector model verifica automaticamente a probabilidade de o texto analisado ter sido escrito por um humano ou não. De acordo com uma pesquisa da OpenAI, a ferramenta tem uma taxa de detecção relativamente alta, mas “precisa ser combinada a abordagens baseadas em metadados, julgamento humano e educação do público para que seja mais eficiente.”
GLTR (GIANT LANGUAGE MODEL TEST ROOM)
Quando a OpenAI lançou o GPT-2, em 2019, as equipes do Laboratório de IA Watson do MIT-IBM e do Grupo de Processamento de Linguagem Natural de Harvard uniram forças para criar um algoritmo capaz de identificar se um texto foi escrito por bot.
Textos gerados por inteligência artificial são muito semelhantes à escrita humana, mas é mais provável que uma pessoa de verdade seja imprevisível na escolha de palavras. Partindo da premissa de que “iguais se reconhecem”, quando o algoritmo GLTR consegue prever a próxima palavra em uma frase, ele presume que foi escrita por um bot.
GPTZERO
Enquanto tomávamos espumante e assistíamos à queima de fogos no ano-novo, Edward Tian estava ocupado criando o GPTZero, um aplicativo que pode ajudar a determinar se o texto foi escrito por um humano ou por inteligência artificial.
O estudante de 22 anos, que cursa ciência da computação em Princeton, sabe o valor que seu aplicativo tem para professores universitários e para combater a onda de “aIgiarism” (plágio com ajuda de IA).
Tian diz que sua ferramenta mede a aleatoriedade geral do texto e das frases para calcular a probabilidade de ter sido escrito pelo ChatGPT. Desde seu tuíte sobre o GPTZero, no dia 2 de janeiro, o estudante diz que já foi abordado por investidores de risco e que desenvolverá versões atualizadas dentro de pouco tempo.
MARCA D'ÁGUA (EM BREVE)
Para ajudar a solucionar os problemas de plágio, a OpenAI está buscando adicionar uma marca d'água aos textos gerados pelo ChatGPT. De acordo com uma recente palestra sobre segurança da IA conduzida pelo pesquisador convidado da OpenAI Scott Aaronson, os engenheiros da empresa já construíram um protótipo funcional.
“Basicamente, sempre que o GPT gera algum texto longo, queremos que haja um sinal secreto imperceptível em suas escolhas de palavras, que pode ser usado mais tarde para provar que, sim, foi escrito pelo GPT”, diz Aaronson. A ferramenta usaria o que ele chama de “função pseudoaleatória criptográfica”. E apenas a OpenAI teria acesso à chave.
