A IA quer lembrar de todas as nossas conversas. E se quisermos esquecer?
Pulseiras, óculos e outros dispositivos prometem registrar cada palavra, mas levantam dúvidas sobre privacidade e o futuro das interações humanas
Um número cada vez maior de empresas está apresentando produtos de hardware com inteligência artificial como solução para uma das fraquezas mais antigas da humanidade: o esquecimento.
O lançamento mais recente desse tipo vem da Amazon. Sua subsidiária Bee apresentou uma pulseira chamada Bee Frontier. Parecido com uma pulseira fitness sem tela, o dispositivo consegue gravar reuniões e outras conversas por meio de dois microfones embutidos.
Depois, os usuários podem acessar transcrições e resumos das conversas pelo celular ou computador. A Amazon também está se preparando para vender um acessório da Bee para telefones, capaz de registrar as ligações.
A proposta da empresa é que esses dispositivos ajudem a acompanhar os muitos detalhes que, de outra forma, acabariam esquecidos – tudo isso, segundo a companhia, preservando a privacidade por meio de criptografia.
A Amazon não é a única empresa interessada em registrar conversas de trabalho e particulares. Em setembro, a Apple anunciou um novo recurso chamado Siri Recap para os modelos mais recentes do Apple Watch, capaz de resumir conversas captadas pelo relógio.
Uma nova marca de óculos inteligentes, a Vonder, quer registrar o que você diz em todas as conversas. E vários dispositivos de gravação com IA voltados ao ambiente profissional prometem acompanhar tudo o que é dito no escritório.
É claro que esses aparelhos levantam preocupações sobre privacidade. Mas, além do receio de que uma conversa específica possa ser ouvida por terceiros, há uma questão mais ampla a considerar com o surgimento desses dispositivos: como as interações humanas vão mudar se cada palavra que dissermos puder ser captada por um microfone com IA e preservada para sempre?
LUZES DE LED NÃO SÃO GARANTIA DE PRIVACIDADE
É preciso reconhecer que a Amazon tem tentado enfrentar diretamente as preocupações com a privacidade relacionadas aos produtos da Bee. O áudio captado pelos dispositivos é processado em tempo real e apagado imediatamente.
As transcrições e os resumos são processados e armazenados em um ambiente privado de computação criptografado, ao qual nem mesmo os funcionários da Amazon têm acesso. Além disso, sempre que um dispositivo Bee é usado para captar uma conversa, uma luz de LED se acende.
Vários outros dispositivos vestíveis com IA, incluindo os óculos Ray-Ban com IA da Meta, também usam luzes de LED para sinalizar às pessoas próximas que uma gravação está em andamento. Mas defensores da privacidade argumentam que isso não é suficiente.
“Essa luz de LED pode indicar a algumas pessoas que uma câmera ou um microfone está ligado e em uso, mas isso não significa que todos saibam o que ela representa”, afirma Sara Geoghegan, consultora jurídica Centro de Informação sobre Privacidade Eletrônica. “Ela é pequena e as pessoas podem não percebê-la.”
Além disso, alguns usuários dos Ray-Ban modificaram as luzes de LED para gravar outras pessoas sem que elas soubessem. Segundo relatos, isso levou a Meta a desativar remotamente milhares de óculos adulterados.
Leia mais: “Óculos de tarado”: Zuckerberg responde às críticas contra os smart glasses da Meta
Em geral, as empresas deixam a cargo dos próprios usuários a tarefa de avisar às pessoas que estão sendo gravadas. Isso pode ser mais difícil do que parece, mesmo para quem tem boas intenções. “Obter consentimento de um grupo de pessoas talvez seja impossível, ou, no mínimo, muito mais difícil”, argumenta Geoghegan.
GRAVADORES COM IA EM ESPAÇOS PÚBLICOS
Nem todos estão tão preocupados com a possibilidade de esses dispositivos gravarem pessoas sem que elas saibam. “Acho que o consentimento recebe importância demais”, afirma Viktor Mayer-Schönberger, professor da Universidade de Oxford.
Sua preocupação é outra: o impacto mais amplo da gravação onipresente com inteligência artificial. “A efemeridade dos espaços públicos desapareceu”, alerta.
Antes, era possível ir a um museu ou a um bar sem se preocupar com a possibilidade de tudo o que você dissesse ser gravado e analisado. “Havia uma espécie de esquecimento automático nos espaços públicos”, diz Mayer-Schönberger.
Se você fizesse uma piada ruim ou pronunciasse uma palavra incorretamente, era provável que o episódio fosse esquecido pouco tempo depois. A IA pode preservar esse comentário para sempre. Isso o leva a perguntar: em quais espaços públicos poderemos apenas ser nós mesmos, sem precisar nos preocupar com as consequências futuras?
A gravação onipresente pode, em última instância, levar as pessoas a se afastarem dos espaços públicos, como muitas vezes acontece em sociedades autoritárias.
“Nas democracias liberais, participar dos espaços públicos é fundamental para a estrutura da sociedade”, afirma Mayer-Schönberger. “É justamente esse afastamento que me preocupa.”
como as interações humanas vão mudar se cada palavra que dissermos puder ser captada por um microfone com IA?
Tudo isso fica ainda mais complicado porque alguns dispositivos com IA capturam dados mesmo quando, em tese, não estão gravando.
Os Ray-Ban da Meta, por exemplo, podem ser usados para traduzir as falas de uma pessoa com quem você está conversando. Nesse caso, a luz de LED fica apagada, já que os dispositivos não salvam nenhuma gravação no rolo da câmera do celular.
Mas os servidores da Meta podem armazenar transcrições das conversas traduzidas por até um ano, caso os usuários não as apaguem manualmente. Os novos óculos com IA da empresa que não têm câmera sequer contam com uma luz de LED, o que os torna praticamente indistinguíveis de óculos comuns.
DISPOSITIVOS DE IA DEMANDAM NOVAS REGRAS DE CONVIVÊNCIA
Os fabricantes de dispositivos com IA sabem que as pessoas estão preocupadas com a privacidade e algumas foram além das luzes de LED para tentar resolver o problema. Os óculos inteligentes Vive Eagle, da HTC, interrompem a captura de áudio e imagens quando alguém próximo diz “pare de gravar”.
A Limitless, fabricante de pingentes com IA, chegou a exigir o consentimento verbal das pessoas antes de gravar suas vozes quando lançou o dispositivo, em 2024. Desde então, a empresa foi adquirida pela Meta, que não incorporou esse recurso específico a seus próprios aparelhos com IA.
“Os mecanismos e recursos capazes de obter consentimento precisam fazer parte da própria tecnologia”, afirma Geoghegan. “As empresas de tecnologia têm, sem dúvida, um papel a desempenhar para garantir que os produtos que vendem sejam seguros.”
Mayer-Schönberger concorda que as empresas deveriam assumir um papel mais ativo, mas também acredita que a sociedade precisa ter voz na definição das regras para o uso de dispositivos vestíveis com IA. “É necessário negociar cuidadosamente, no âmbito da sociedade, o que é permitido e o que não é”, afirma.
Sem debate público, esses dispositivos podem continuar sem regulamentação até que algo grave aconteça. Nesse momento, os órgãos reguladores inevitavelmente poderão reagir de forma excessiva.
“Não existe uma solução rápida. Por isso, teremos uma espécie de espetáculo regulatório relativamente extremo”, diz o professor de Oxford. “Pense em ter de tirar os sapatos na segurança do aeroporto, só que em uma versão muito mais radical.”
