Dispositivos com IA: nós os controlamos ou somos controlados por eles?
Não estamos nem perto de estar prontos para a era da IA vestível
A inteligência artificial está se infiltrando cada vez mais no nosso dia a dia. Entusiastas insistem que ela deveria estar sempre presente, em todos os lugares, para ser realmente útil aos usuários. Eles até a estão vendendo como uma maneira de termos mais controle sobre nossas vidas.
Mas, dado o atual cenário de temores em relação à IA, ela precisa chegar ao consumidor de uma maneira “amigável” e tranquilizadora, com um formato adequado e atraente. Para ter sucesso, a inteligência artificial deve ser apresentada como uma escolha de estilo de vida e, aparentemente, também deve ser vestível.
Ter uma IA sempre consigo pode ser uma ideia atraente para as grandes empresas de tecnologia, pois certamente oferece um incrível potencial de negócios, aumentando drasticamente a quantidade de dados que podem ser coletados e disponibilizados para treinar esses sistemas.
No entanto, o medo da IA é generalizado. Como o primeiro dispositivo comercial de IA a entrar no mercado, a Humane apresenta um produto pequeno, charmoso e relativamente discreto com seu Pin – um dispositivo preso à lapela com ímãs que ouve suas solicitações como a Siri, pesquisa na internet, traduz sua fala e projeta uma interface diretamente na sua mão.
Mas sua ambição não é nada modesta, como afirma em seu elegante vídeo de demonstração.
Por US$ 24 por mês, seremos capazes de “levar o poder da IA para todos os lugares” e fazê-la “se integrar perfeitamente em nossas vidas”. Pode ser um produto inovador à primeira vista, mas surgem questões relacionadas a poder e controle. As escolhas de design estão fortalecendo ou minando nosso senso de autonomia? Elas nos empoderam ou nos enganam?
Pense nos smartphones. Seu pequeno formato passa uma sensação de controle, pois temos a autonomia de guardá-lo e retirá-lo do bolso sempre que quisermos. Mas isso se revelou uma ilusão, já que eles parecem ter tomado conta das nossas vidas. Será que uma combinação inteligente de IA, voz e projeção poderia alterar essas dinâmicas de poder, ou também não passaria de uma ilusão?
DESIGN COMO MEIO DE CONTROLE
A característica mais marcante do Pin é uma espécie de dobra que se inclina ligeiramente para a frente ao longo do topo do dispositivo e é marcada com um círculo amarelo. Este elemento de design serve a um propósito muito prático, pois abriga os LEDs que fornecem feedbacks importantes: comunica quando o dispositivo está ligado e ouvindo e também alerta sobre mensagens recebidas.
Esses recursos são essenciais para o usuário. Mas, para o resto de nós, criam a impressão de que o dispositivo está sempre prestando atenção, inclinando-se para frente e ouvindo tudo ao redor (mesmo quando, tecnicamente, não está).
Como metáfora, os crachás inteligentes têm fortes associações com controle, vigilância e fiscalização. Eles são usados para nos identificarmos e ganhar acesso a espaços físicos, raramente por escolha. Essa linguagem de controle é reforçada pelo recurso mais inovador do Pin: uma projeção
Para ter sucesso, a IA deve ser apresentada como uma escolha de estilo de vida e, aparentemente, também deve ser vestível.
a laser embutida e interação gestual que se combinam para criar um controlador parecido com o do filme “Minority Report”.
No entanto, embora transmita uma crescente sensação de poder e controle à medida que as informações são manipuladas no ar como um maestro, os usuários estão controlando apenas elementos triviais na superfície, como pular músicas em uma lista de reprodução ou apagar uma mensagem de texto.
Qualquer sensação de controle é, na verdade, uma ilusão, já que toda a inteligência computacional ocorre na nuvem – e fica inacessível para nós. O Pin afirma oferecer “poder eterno” graças a suas baterias hot-swap (tecnologia que permite a substituição sem desligar o sistema), dando-lhe a capacidade técnica de ser um dispositivo de vigilância sempre ativo que grava e transmite continuamente nossos dados pessoais para uma enorme plataforma de IA.
Mas será que podemos apagar todos os dados que foram enviados para o sistema deles? Ou desativar o rastreamento de localização? Claro que a Humane argumentaria que isso tornaria mais difícil alavancar sua plataforma inteligente. Mas essa escolha não deveria ser deixada para nós, ao invés de decidida por eles?
Enganar os consumidores certamente não é a intenção, mas a arquitetura básica de controle e vigilância está incorporada no design de seu primeiro produto. Empresas de hardware precisam de muitos recursos, especialmente as bilionárias. O que acontece se a Humane for adquirida pelo Google ou pela Amazon?
Qualquer sensação de controle é ilusão, já que toda a inteligência computacional ocorre na nuvem e fica inacessível para nós.
É difícil imaginar um mundo em que a ampla adoção de câmeras e microfones pequenos, inteligentes e conectados seja um passo positivo para a sociedade como um todo – algo que nos fará sentir mais, e não menos, no controle de nossas vidas.
Como designers, nossa solução para um enorme problema que ajudamos a criar não pode ser simplesmente acoplar uma tecnologia de vigilância alimentada por IA à lapela de todos. Como meu querido amigo Allan Chochinov constantemente lembra a seus alunos de design de produtos: “só porque você pode projetar algo, não significa que deveria”.
