Identificar quem usa IA no trabalho é mais difícil do que parece
Empresas recorrem a detectores de IA para verificar autenticidade, enquanto pesquisadores questionam sua precisão e seus limites
Quem navega pelo LinkedIn provavelmente já se deparou com uma infinidade de publicações que parecem ter sido escritas por inteligência artificial. Construções como "não é X, é Y", o uso excessivo de travessões e palavras como "aprofundar" ou "ressaltar" costumam ser apontados como indícios de texto gerado por IA.
É claro que a presença dessas palavras e expressões, por si só, não comprova o uso da tecnologia. Mas a repetição frequente dos mesmos padrões pode despertar suspeitas.
Embora muitas empresas incentivem seus funcionários a usar IA para aumentar a produtividade, sinais evidentes desse uso levantam questões desconfortáveis: as pessoas estão apenas utilizando a ferramenta como assistente ou deixando que ela faça uma parcela tão grande do trabalho que já não fica claro quem merece o crédito?
Em março, o grupo editorial Hachette cancelou a publicação nos Estados Unidos do romance "Shy Girl", de Mia Ballard, e interrompeu sua edição no Reino Unido após surgirem acusações de que a obra continha trechos gerados por IA. A ferramenta de detecção Pangram apontou que 78% do texto havia sido produzido por inteligência artificial.
Em maio, a vencedora do Commonwealth Short Story Prize também foi alvo de suspeitas de uso de IA. A revista literária "Granta", que publicava os contos vencedores do prêmio havia mais de uma década, decidiu suspender parcerias editoriais externas após a controvérsia.
As duas autoras negaram ter usado inteligência artificial.
os detectores de IA devem ser apenas um elemento dentro de um processo mais amplo de verificação.
Nos dois casos, ferramentas de detecção indicaram que ao menos parte do conteúdo havia sido gerada por IA, embora especialistas discordem sobre a confiabilidade desses sistemas.
James Taranto, editor de artigos de opinião do "The Wall Street Journal", relatou recentemente que o Pangram classificou três textos de colaboradores publicados pelo jornal como gerados por IA – conclusão que ele contestou após investigar como os autores haviam utilizado a tecnologia.
À medida que a adoção da IA cresce, empresas tentam definir qual deve ser o papel dessas ferramentas de detecção no ambiente de trabalho. Elas representam um obstáculo ou uma forma de gerenciar riscos e entender até que ponto um conteúdo foi produzido por inteligência artificial?
Segundo as empresas que desenvolvem esses sistemas, os detectores têm utilidade, desde que seus resultados sejam tratados como indícios, e não como um julgamento definitivo sobre o uso apropriado da IA.
ONDE OS DETECTORES DE IA SE ENCAIXAM
Redes sociais e plataformas de publicação começaram a incorporar recursos de detecção. O LinkedIn adicionou o botão "Parece AI slop", permitindo que usuários sinalizem publicações aparentemente geradas por inteligência artificial.
Em 21 de julho, a plataforma de newsletters Substack lançou um recurso baseado no Pangram que permite aos usuários analisar textos publicados para estimar a probabilidade de terem sido produzidos por IA.
"Não somos contra o uso da IA como apoio ao trabalho e acreditamos que as pessoas devem ser livres para escolher as ferramentas que utilizam para se expressar", escreveu Chris Best, cofundador e CEO do Substack. "Mas elas devem saber o que estão consumindo."
Outras plataformas também passaram a incorporar detectores em seus fluxos de trabalho. Segundo Ilana Golbin Blumenfeld, sócia da PwC nos Estados Unidos e responsável pelas iniciativas de IA responsável da empresa, essas ferramentas podem ser úteis para verificar a autenticidade de conteúdos audiovisuais.
Quando há suspeita de manipulação de imagens ou vídeos, elas ajudam a responder perguntas básicas como "esta imagem foi adulterada? Foi gerada por IA? Este vídeo mostra um fato que realmente aconteceu?".
Mesmo assim, Blumenfeld ressalta que os detectores não são totalmente confiáveis e devem ser apenas um elemento dentro de um processo mais amplo de verificação. "Os detectores não funcionam. Eles são completamente falíveis", afirma Danya Henninger, diretora editorial da empresa de mídia Technical.ly.
as organizações devem começar perguntando qual problema querem resolver com ferramentas de detecção.
Ela observa que alterar apenas uma frase, ou mesmo algumas palavras, pode mudar completamente o resultado da análise, tornando essas ferramentas fáceis de contornar.
Por isso, a Technical.ly aposta em discussões internas e revisão humana antes da publicação dos textos. Henninger também trabalhou como consultora da startup OKhuman, que registra o processo de escrita para documentar a participação humana, em vez de tentar identificar IA apenas analisando o texto final.
Blumenfeld lembra que a detecção pode ser útil em situações específicas, como para "validar a autenticidade de algo que chega à empresa". A PwC diz que não utiliza detectores, mas não descarta seu uso em casos limitados nos quais sua eficácia tenha sido comprovada.
DETECTORES DE IA NÃO SÃO ÁRBITROS DA VERDADE
Especialistas defendem que organizações devem começar perguntando qual problema querem resolver com ferramentas de detecção.
Para Tuhin Chakrabarty, professor assistente de ciência da computação da Universidade Stony Brook, um detector pode fornecer informações sobre a origem de um texto. Cabe à organização decidir como interpretar esse resultado. "Se você vai usar isso para fazer policiamento moral, essa decisão é sua", afirma.
O Pangram informa que sua taxa de falsos positivos é de aproximadamente um caso a cada 10 mil, com base em avaliações de centenas de milhares de documentos escritos por humanos. Chakrabarty considera a ferramenta altamente precisa, mas reconhece que qualquer sistema baseado em aprendizado de máquina pode produzir erros.
Leia mais: Não é só o slop. Uso de IA está deixando tudo mais parecido
À medida que textos gerados por IA se tornam mais comuns, a discussão sobre transparência também tende a ganhar força. Empresas talvez precisem decidir quando vale a pena informar que determinado conteúdo contou com auxílio da inteligência artificial.
"Existe um viés psicológico muito forte contra o uso da IA na escrita. Muitas pessoas podem nem sequer se envolver com o conteúdo porque pensam: 'Ah, isso é só lixo de IA'", afirma Chakrabarty.
