Como não usar IA: 8 erros que você deve evitar
Da privacidade à checagem de informações, veja os principais cuidados para usar assistentes de IA com mais segurança e eficiência
Se você já passou algum tempo usando o ChatGPT, Claude ou outros assistentes de inteligência artificial, provavelmente já viu algumas das maneiras como eles podem falhar.
A precisão dos grandes modelos de linguagem (LLMs, na sigla em inglês) ainda é um problema e há diversas situações sociais em que suas respostas podem ser inadequadas. Além disso, a IA traz riscos para a privacidade, especialmente porque muitas conversas envolvem informações pessoais.
Os próprios assistentes de IA oferecem pouca orientação sobre o que evitar, o que significa que você acaba tendo que descobrir isso por conta própria. Depois de anos usando essas ferramentas, estas são algumas recomendações que considero importantes.
1. NÃO COLOQUE DADOS SENSÍVEIS SEM PROTEÇÃO
Esse conselho já está se tornando conhecimento comum. Por padrão, a maioria dos assistentes de IA pode usar tudo o que você envia para treinar modelos futuros e também mantém um histórico completo das conversas na barra lateral.
Embora as empresas adotem medidas para remover informações pessoais dos dados de treinamento, o mais seguro é evitar compartilhar qualquer dado sensível.
Se você realmente precisar incluir informações pessoais ou confidenciais em uma consulta, procure primeiro as configurações do aplicativo e desative o uso das conversas para treinamento.
No ChatGPT, por exemplo, essa opção está em Configurações > Controles de Dados > Melhorar o modelo para todos. Também é possível usar conversas temporárias para impedir que elas apareçam no histórico.
2. NÃO ASSUMA QUE SUAS CONVERSAS SÃO PRIVADAS
Como consequência do ponto anterior, as empresas de IA treinam continuamente novas versões de seus modelos com base em conversas anteriores – e isso, às vezes, envolve revisão humana.
Mesmo quando você opta por não participar do treinamento, uma conversa pode ser anali- sada por uma pessoa se a empresa identificar que ela envolve conteúdos perigosos. Além disso, registros temporários costumam ser mantidos por segurança.
Algumas ferramentas prometem não armazenar os dados das conversas – o Proton Lumo é um dos principais exemplos. Ainda assim, se a ideia de um desconhecido ler o que você escreveu ao ChatGPT incomoda, a melhor solução é não incluir esse conteúdo no prompt.
3. NÃO SUPONHA QUE A IA ESTÁ CERTA SÓ PORQUE ELA CITA FONTES
Mesmo sabendo que a IA pode errar, é fácil baixar a guarda quando uma resposta vem acompanhada de links para fontes externas. A presença dessas referências pode dar a impressão de que o trabalho de pesquisa já foi feito. Mas não se deixe enganar.
Com frequência, esses links levam a tópicos aleatórios no Reddit, fóruns ou outras fontes pouco confiáveis. E, mesmo quando apontam para sites respeitáveis, a IA pode misturar informações de diferentes lugares e acabar apresentando fatos incorretos.
Se a precisão for importante, verifique você mesmo as fontes. Você pode até pedir que a IA apresente citações diretas do material original e conferir se elas realmente existem. Tratar a IA não como um amigo, mas como um suspeito durante um interrogatório, costuma produzir informações mais confiáveis.
4. NÃO COMPARTILHE DADOS DEMAIS DA SUA VIDA DIGITAL
As ferramentas de IA incentivam cada vez mais os usuários a conectar fontes externas de dados, como e-mail, agenda e aplicativos de produtividade. Isso permite que a ferramenta consulte informações pessoais e também aja sobre elas, criando eventos na agenda ou redigindo e-mails, por exemplo.
Mas essa integração traz riscos. A IA pode interpretar seus dados de forma equivocada e realizar ações que você não pretendia. Também existe o perigo dos chamados prompt injections, em que invasores escondem instruções maliciosas em e-mails, eventos de calendário ou páginas da web.
Se decidir conectar a IA às suas fontes de dados pessoais, considere fazer isso apenas temporariamente e acompanhe com atenção tudo o que ela fizer.
5. EVITE SOBRECARREGAR A IA
Você pode imaginar que a IA vai lembrar de todos os detalhes da conversa, mas, na prática, ela tende a perder informações importantes à medida que você adiciona mais instruções, arquivos e fontes de dados ao chat.
Por isso, conforme a conversa fica mais longa, não estranhe se a memória da IA começar a falhar. Talvez seja necessário repetir informações mencionadas antes ou lembrá-la de consultar uma determinada fonte de dados.
Se estiver trabalhando em um projeto complexo, como um relatório de pesquisa ou o desenvolvimento de um aplicativo, vale mais a pena dividir o trabalho em tarefas menores do que tentar resolver tudo em uma única conversa.
6. NÃO USE CONTEÚDO GERADO POR IA SEM SABER SE É PERMITIDO
Dependendo do seu local de trabalho, pode haver políticas que proíbam o uso de conteúdo gerado por IA.
A própria Fast Company não permite que seus jornalistas entreguem textos produzidos por IA sem uma revisão substancial e uma rigorosa checagem de fatos. Até o uso da IA para escrever e-mails destinados aos colegas pode ser malvisto em algumas empresas.
Uma boa regra prática é a seguinte: se você pretende entregar algo produzido em grande parte por IA e acredita que admitir isso poderia lhe causar problemas, provavelmente é melhor nem usar esse conteúdo.
7. NÃO DESPEJE RESPOSTAS DA IA EM CONVERSAS ENTRE PESSOAS
Você já percebeu como aumentou o número de pessoas que respondem perguntas simplesmente colando textos ou capturas de tela geradas por IA? Evite fazer isso.
É uma prática irritante por vários motivos: porque a IA pode estar errada; porque transmite aquela sensação passivo-agressiva de "deixe-me pesquisar isso por você"; e porque inserir respostas da IA em conversas humanas parece falta de educação.
Além disso, respostas geradas por IA são como sonhos: normalmente só interessam a quem as produziu.
8. NÃO PROCURE VALIDAÇÃO NA IA
Embora o ChatGPT esteja menos bajulador do que já foi, as ferramentas de IA ainda tendem a concordar com o usuário. Isso quer dizer que você não deve esperar que a IA seja um árbitro imparcial em uma discussão nem um crítico especialmente rigoroso do seu trabalho.
A maioria das ferramentas permite personalizar as respostas para reduzir elogios e concordâncias excessivas, mas esse comportamento ainda aparece de vez em quando. Por isso, não se deixe levar quando a IA elogiar seus instintos ou destacar a qualidade das suas perguntas. Afinal, ela foi treinada para agir dessa forma.
