Como rodar uma IA gratuita e privada no próprio computador

Modelos de IA executados no próprio computador permitem resumir documentos, revisar textos e redigir e-mails sem enviar dados para servidores externos

Como usar IA local para proteger dados sensíveis no trabalho
Créditos: Thirdman/ Pexels/ Eric Krull/ Unsplash

Doug Aamoth 4 minutos de leitura
Favoritar no Google

Todo vez que você copia uma proposta confidencial de um cliente, um planejamento de produto ainda não anunciado ou uma planilha financeira privada e cola tudo em um chatbot de IA baseado na web, provavelmente uma vozinha no fundo da sua mente pergunta: será que eu deveria mesmo colocar isso na nuvem?

O departamento de TI da sua empresa, na certa, acha que não. Só que usar inteligência artificial para lidar com tarefas repetitivas de edição de texto, formatação e resumos é um dos maiores ganhos de produtividade do dia a dia.

A solução não é abandonar a IA quando o trabalho envolve informações sensíveis, mas executar modelos pequenos e rápidos diretamente no seu computador. Graças a aplicativos gratuitos e fáceis de usar, Macs e PCs com Windows podem rodar modelos abertos compactos totalmente offline.

Assim, nenhum dado sai do seu computador, nenhum servidor na nuvem acessa seus arquivos e você ainda obtém respostas quase instantâneas. Veja algumas tarefas burocráticas que vale a pena delegar a uma IA local, além de um guia de configuração que leva apenas dois minutos.

MONTE SUA PRÓPRIA IA LOCAL

Hoje, você não precisa mais ter formação em ciência da computação nem dominar a linha de comando para rodar IA localmente.

Basta instalar um aplicativo gratuito, com interface amigável, como o LM Studio ou o Jan.ai, disponíveis para macOS, Windows e Linux. Eles funcionam como qualquer outro programa de desktop e cuidam de toda a execução em segundo plano.

ferramenta de IA personalizada Jan,ai

Na aba de busca do aplicativo, procure modelos leves para baixar, como Llama 3.2 3B, Mistral 7B ou Phi-3. Eles rodam sem dificuldade em Macs com Apple Silicon (M1 ou superior) e em PCs com Windows equipados com uma placa de vídeo dedicada ou pelo menos 16 GB de memória RAM.

Depois de baixar o modelo, você pode até desligar o Wi-Fi para comprovar. O aplicativo continuará gerando respostas normalmente, sem qualquer conexão com a internet.

Agora, veja algumas formas de aproveitar sua nova IA.

RESUMA PDFs CONFIDENCIAIS

Ler um contrato de 30 páginas com um fornecedor ou um relatório interno de auditoria para identificar datas importantes e cláusulas de responsabilidade pode consumir muito tempo. Além disso, enviar esses documentos para servidores de terceiros pode até violar acordos de confidencialidade da empresa.

Em vez disso, copie o texto do PDF para o aplicativo local e use um comando como "extraia todos os prazos importantes, obrigações financeiras e condições de cancelamento deste texto e organize tudo em uma lista com marcadores."

Como todo o processamento acontece na memória do seu computador, você obtém um resumo executivo sem expor informações confidenciais à nuvem.

ORGANIZE TRANSCRIÇÕES DE REUNIÕES E ANOTAÇÕES

Aplicativos de gravação de voz e serviços de transcrição registram tudo o que foi dito, mas normalmente geram grandes blocos de texto cheios de repetições, desvios de assunto e palavras de preenchimento.

Cole a transcrição no aplicativo e use um comando como "revise esta transcrição, remova palavras desnecessárias, corrija erros gramaticais e destaque as três principais ações definidas, indicando seus responsáveis."

Um modelo local de sete bilhões de parâmetros consegue limpar uma transcrição de cerca de duas mil palavras em cerca de 15 segundos.

TRANSFORME TEXTOS DESORGANIZADOS EM TABELAS

Quem já herdou uma planilha na qual nomes, cargos e e-mails aparecem misturados em um único campo de texto sabe quanto tempo se perde organizando tudo manualmente.

Cole o conteúdo no modelo local e peça: "converta o texto abaixo em uma tabela Markdown com três colunas: Nome completo, Cargo e Endereço de e-mail."

Depois, basta copiar a tabela gerada e colar no Excel ou no Google Sheets.

ESCREVA RESPOSTAS PARA E-MAILS SENSÍVEIS

Responder a um cliente insatisfeito ou enviar um feedback delicado a um fornecedor costuma causar bloqueio criativo. Você quer ajuda para encontrar o tom certo, mas o e-mail contém informações que não podem ser compartilhadas com ferramentas públicas de IA.

Nesse caso, forneça apenas seus tópicos principais e peça: "reescreva estes tópicos como uma resposta por e-mail educada, firme e profissional. Mantenha um tom calmo e limite o texto a 150 palavras."

Em poucos segundos, você terá várias versões refinadas prontas para uma revisão final.

REVISE POLÍTICAS E DOCUMENTOS INTERNOS

Antes de distribuir um novo procedimento operacional ou um manual interno para a equipe, vale a pena eliminar frases complexas demais, jargões e construções na voz passiva.

Cole o documento aos poucos e use um comando como "atue como editor. Identifique frases muito complexas ou escritas na voz passiva e sugira versões mais claras, utilizando a voz ativa."

Modelos locais costumam ser especialmente eficientes nesse tipo de revisão, porque tarefas de estilo e gramática dependem mais de regras linguísticas do que de acesso à internet.


SOBRE O AUTOR

Doug Aamoth é diretor de produção de mídia da Sophos News. saiba mais