Google lança IA que “participa” de reuniões de negócios. Será confiável?
O acesso ao Duet IA custa US$ 30 por usuário para grandes empresas e pode economizar tempo para as organizações, mas a que preço?
O Google acaba de lançar uma ferramenta de IA que anota e resume automaticamente os principais pontos de discussão em reuniões e que, além disso, cria apresentações com base nos dados brutos das empresas.
“O Duet AI pode criar uma apresentação completa, incluindo textos, gráficos e imagens, a partir do conteúdo no seu Drive e Gmail”, afirmou Aparna Pappu, gerente geral e vice-presidente do Google Workspace, em um post no blog da empresa anunciando o recurso. “Com ele, estamos ajudando as pessoas a se concentrarem nas partes mais interessantes de seus trabalho, aquelas que exigem criatividade, habilidade e conhecimento humano.”
Considerando que o Duet AI está disponível gratuitamente em caráter experimental para os três bilhões de usuários do Google Workspace (com custo de US$ 30 por usuário para grandes empresas), é provável que a ferramenta tenha uma ampla – e rápida – adoção. Há apenas um problema: ele é alimentado por IA generativa, que tem o hábito desagradável de gerar informações falsas.
Diante da ameaça da concorrência, o Google aderiu à revolução da IA. No mês passado, a empresa anunciou a ferramenta “SGE while browsing”, que utiliza inteligência artificial para resumir o conteúdo de sites enquanto o usuário está navegando.
A questão é que não há garantia de que, ao usar a ferramenta, a inteligência artificial não gere conteúdo falso. Além disso, ao contrário da maioria de nós, que admitimos erros quando pressionados, a IA generativa tende a insistir em suas respostas, negando que tenha inventado alguma informação.
será que realmente precisamos incorporar a IA generativa em tudo?
Isso pode ser um grande problema com o Duet. Quando você pede que analise dados comerciais vitais, como balanço ou lucros e perdas de uma empresa, há o risco de a IA interpretá-los erroneamente e fazer inferências incorretas.
Para Beth Singler, antropóloga e professora assistente da Universidade de Zurique, a empolgação em torno do Duet AI destaca alguns dos riscos envolvidos em depositar muita confiança na inteligência artificial.
“Há um enorme problema em confiar em resumos criados por IA”, diz ela. “Esses resumos adicionam uma camada a mais de interpretação, uma criada com base em probabilidades de combinação de palavras, não no entendimento real.”
VERIFICAÇÃO É INDISPENSÁVEL
Em resposta a essa questão, Ross Richendrfer, porta-voz do Google, afirma: “estamos cientes das limitações dos grandes modelos de linguagem [LLMs] e estamos adotando uma abordagem cuidadosa, incluindo conscientizar os usuários sobre elas.”
"Estamos lançando nossos novos produtos de IA generativa com salvaguardas integradas desde o início e submetendo os LLMs a testes rigorosos, tanto internos quanto externos, para garantir que atendam às necessidades dos usuários e aos elevados padrões de segurança”, acrescenta.
Singler teme que apenas aconselhar as pessoas a verificar os resultados produzidos por ferramentas de IA não seja suficiente para evitar erros potencialmente catastróficos, em parte devido à maneira como a inteligência artificial vem sendo promovida para o grande público.
As pessoas tendem a confiar nas respostas da máquina em vez de em suas próprias intuições e experiências.
“As histórias de ficção científica e as narrativas sobre a IA frequentemente destacam o quão mais inteligente e racional ela é em comparação com os humanos”, observa a antropóloga.
A forma quase mítica como a inteligência artificial tem sido apresentada faz com que os usuários tenham mais chance de acreditar que estão errados do que achar que o erro é da ferramenta de IA. “As pessoas tendem a confiar nas respostas da máquina em vez de em suas próprias intuições e experiências, repetidas vezes”, diz Singler.
Sasha Luccioni, cientista de pesquisa na empresa de IA Hugging Face, questiona: “será que realmente precisamos incorporar a IA generativa em tudo?”. Ainda assim, considerando o panorama geral, Luccioni se preocupa menos com esse tipo de uso do que com outros, como buscas.
“No geral, vejo isso como um dos usos não tão problemáticos da IA generativa”, ela comenta. “Mas é importante realizar uma verificação minuciosa antes de usar qualquer informação gerada.”
