Livro é cancelado após suspeita de uso de inteligência artificial
Livro cancelado às vésperas do lançamento levanta suspeitas de uso de IA e expõe dilemas do mercado editorial na era dos algoritmos
Um novo drama abalou o mercado editorial: o lançamento, nos Estados Unidos, do livro de terror "Shy Girl" (Garota Tímida, em tradução livre) foi cancelado pelo Hachette Book Group poucas semanas antes da estreia, após suspeitas de uso de inteligência artificial em sua criação.
Assinado pela poeta e escritora norte-americana Mia Ballard, "Shy Girl" é um romance que acompanha a vida de uma jovem com transtorno obsessivo compulsivo grave (TOC) que aceita ser mantida em cativeiro como “animal de estimação” de um homem rico para escapar de dificuldades financeiras.
O livro foi autopublicado no início do ano passado. Depois, ganhou uma nova edição em novembro pelo selo britânico Wildfire, da própria Hachette. A editora confirmou o cancelamento da versão dos EUA ao "The New York Times", que revelou a história.
Embora a versão independente de Ballard tenha recebido críticas positivas inicialmente, a edição mais recente passou a levantar suspeitas online. Em uma discussão no Reddit, há dois meses, um usuário analisou padrões comuns de modelos de linguagem (LLMs) e comparou com a prosa do livro.
“Parece tão óbvio para mim, mas me digam se concordam”, escreveu o usuário em um debate que já soma centenas de comentários. “Se não for IA, ela é uma péssima escritora. O texto é praticamente indistinguível de um LLM.”
Em janeiro, usuários da página do romance no Goodreads também levantaram suspeitas. “Como editor, já li alguns livros claramente escritos com ChatGPT, e este aqui não só tem todas as características como repete certas expressões que já vi em outros textos gerados por ele”, escreveu outro usuário.
Apesar das especulações, o livro parecia seguir normalmente rumo ao lançamento nos EUA – até esta semana.
POR QUE O LIVRO FOI CANCELADO?
Segundo o "The New York Times", a Hachette retirou o livro do cronograma um dia após ser procurada pelo jornal com o que descreveu como evidências de que o romance havia sido gerado por IA.
A Fast Company entrou em contato com Ballard por e-mail. Até o momento, o perfil da autora no Instagram parecia desativado.
De acordo com o "The New York Times", Ballard afirmou posteriormente que um conhecido responsável pela edição da versão autopublicada pode ter usado IA.
“Essa controvérsia mudou minha vida de muitas formas, minha saúde mental está no pior momento e meu nome foi arruinado por algo que eu nem fiz pessoalmente”, disse Ballard ao jornal por e-mail.
A controvérsia evidencia uma série de questões que vêm dominando o mercado editorial na era do ChatGPT, incluindo como identificar, de fato, o uso de IA.
Detectores de IA basicamente estimam a probabilidade de um texto ter sido gerado por máquinas com base em certos padrões.
há ferramentas que conseguem identificar o uso de IA, mas nenhuma atingiu 100% de confiabilidade.
“Detectores de plágio buscam conteúdo copiado, ou filtros de spam, que identificam padrões maliciosos; já detectores de IA focam nas sutis ‘impressões digitais’ estilísticas deixadas por processos de escrita automatizados”, diz a Adobe.
Estudos mostram que essas ferramentas frequentemente conseguem identificar o uso de IA, mas nenhuma atingiu 100% de confiabilidade. Em ambientes escolares, onde são amplamente usadas, altas taxas de erro já levaram a acusações falsas.
Nem mesmo iniciativas das próprias empresas de IA tiveram sucesso: a OpenAI encerrou sua ferramenta de detecção de IA em 2023.
Leia mais: Contra a maré da IA: por que alguns preferem viver longe dos algoritmos
Enquanto isso, leitores seguem debatendo o tema. O uso de travessões, por exemplo, já foi associado a textos gerados por LLMs como o ChatGPT. Mas defensores da pontuação dizem que isso não é um sinal confiável.
“Esse não é um bom indicador em escrita criativa – nós adoramos travessões”, escreveu um usuário no Reddit em uma discussão sobre "Shy Girl". “Quando isso levanta suspeita? Quando aparece o tempo todo separando duas orações simples, e não como recurso mais ocasional.”
