Avatares, assistentes virtuais, chatbots. Já são várias as interfaces que permitem a interação entre pessoas e máquinas. Um dos objetivos das empresas que utilizam este tipo de tecnologia é a humanização das relações. No entanto, essa interação também traz desafios vividos na realidade, dentre eles, o assédio. Isso mesmo, muitos usuários replicam atitudes de violência verbal contra assistentes que, em sua maioria, possuem nome e voz femininas. No ano passado, a Unesco criou a iniciativa “Hey Update My Voice”, com o objetivo de combater o assédio cibernético.  A própria Unesco, por meio do estudo “I’d Blush If I Could”, “Ficaria Corada se Pudesse”, em tradução livre, identificou o alto índice de preconceito de gênero sofrido pelas assistentes que, na maioria das vezes, é respondido com frases tolerantes, subservientes e passivas.

No vídeo que circula desde o início da semana, o Bradesco expõe casos reais de assédio direcionado à BIA (Crédito: Reprodução)

Inaiara Florêncio, diretora criativa da Adventures, que participou do projeto da Unesco na época que atuava na SunsetDDB, destaca a urgência para que as marcas não mais permitam que isso ocorra. “A publicidade, enquanto indústria, precisa assumir de vez o seu papel como importante ferramenta para melhorar a sociedade. E a tecnologia pode ser usada para educar a atual e a futura geração sobre esse e outros temas urgentes”, diz Inaiara. Neste contexto, o Bradesco aderiu, na última semana, ao movimento e lançou um vídeo mostrando que a BIA, seu sistema de inteligência artificial, passará a dar respostas contundentes a esse tipo de comportamento a partir de agora. Toda a campanha, bem como o movimento #AliadosPeloRespeito são de criação da agência Publicis.

“Temos um time de linguistas, redatores, roteiristas e voicer UX. Essa pluralidade permite que a capacidade de resposta da BIA seja sensível”
Marcio Parizotto, CMO do Bradesco

A BIA começou a ser testada em 2016 e se tornou pública em 2018. Em seu primeiro ano de funcionamento superou 100 milhões de interações. Marcio Parizotto, diretor de Marketing do Bradesco, explica que, para que a BIA mude de padrão de respostas existe um trabalho humano de curadoria e análise diário. “Estes profissionais, com base em interações reais, mapeiam exemplos de conversas e ensinam a BIA o que é uma sentença ou palavra isolada que possa indicar um assédio. Apesar de serem assuntos muito diferentes, é a mesma técnica que treina a inteligência artificial para identificar interações relacionadas à transferência ou a pagamento”, explica.

Inaiara Florêncio, diretora criativa da Adventures e responsável pela campanha “Hey Update My Voice”, feita com a Unesco e SunsetDDB, no ano passado (Crédito: Divulgação)

TREINAMENTO CONTRA O ASSÉDIO

O CMO do Bradesco explica que a dinâmica para treinar a BIA sobre o que pode ser considerado assédio se assemelha a como ensinar uma criança sobre como se portar de acordo com cada situação. “Temos um time multidisciplinar, que envolve linguistas, redatores, roteiristas e voicer ux, além das equipes de curadoria, negócio e tecnologia. Essa pluralidade permite que a capacidade de resposta da BIA seja sensível de acordo com as demandas. Na prática, esses profissionais se antecipam às possíveis interações manifestadas pelas pessoas para que a BIA tenha o maior repertório possível de respostas programadas. Esse repertório leva soluções financeiras, mas também contorna situações como as de assédio, por exemplo”, explica.

“Além da estrutura gramatical, entender uma conversa exige compreensão de contexto, significado, intenção, eventos anteriores e tudo o que engloba a expressão dessa língua”
Domenico Massareto, CCO da Publicis Brasil

“Especificamente na linguagem do trabalho relacionado à agressão e a assédio, contamos com redatores que estudam o assunto de perto e com a consultoria Think Eva. Isso favoreceu alcançarmos um repertório mais real e profundo em relação ao tema, trazendo respostas de acordo com o propósito do projeto. Esse conteúdo também tem sido utilizado para capacitação dos profissionais das centrais telefônicas”, afirma Parizotto.  Domenico Massareto, CCO da Publicis Brasil, explica que, embora a lógica dos algoritmos seja relativamente simples na teoria, é importante pontuar que a linguagem representa um grande desafio para um computador. “Afinal, ele pode ser ótimo nos cálculos e estatísticas, mas além da estrutura gramatical, entender uma conversa exige compreensão de contexto, significado, intenção, eventos anteriores e tudo o que engloba a expressão dessa língua. Se até para nós humanos é um desafio entender recursos como a ironia ou as gírias, por exemplo, para a máquina é uma fronteira ainda mais distante a ser alcançada.”

No caso da BIA, segundo Domenico, já foi captado uma base relevante de dados baseada em conversas reais em seus últimos anos com os correntistas do Bradesco. “É assim que ela vai ficando cada vez mais fluente. Embora, teoricamente, seja simples listar para a BIA os termos e as frases ofensivas que se encontram em seu banco de dados para que ela os detecte, são as sutis ‘nuances’ e novas microagressões que surgirão no futuro que representam o desafio constante de aprendizado para a máquina. Assim como nós, ela nunca deixará de aprender. Existe uma série de algoritmos e métodos distintos, cada um com sua estratégia, para tentar fazer com que computadores entendam de fato a língua”, diz Domenico.

Simone Kliass, embaixadora do Women in Voice e pesquisadora de tecnologias orientadas à voz (Crédito: Divulgação)

VOZ E ASSÉDIO

Desde o início do desenvolvimento das assistentes de voz, bem como a popularização da tecnologia, a predominância da voz e nomes femininos como Siri, Alexa e outras se tornou um ponto importante de debate. O livro “Wired for Speech”, do professor Clifford Nash, da Stanford, documentou anos de pesquisa sobre elementos psicológicos e de design das interfaces de voz. Simone Kliass, embaixadora do Women in Voice, reforça que, nos últimos anos foram criadas várias iniciativas, desde o  Google que passou a usar vozes variadas, passando pela própria Unesco que sugere o uso de assistentes com gênero neutro e o anúncio, por exemplo, em 2021, de que a a Siri não tem mais a voz feminina como default.

O livro “Wired For Speech” traz algumas teses sobre o uso de vozes femininas pelas interfaces de voz

“Na Women in Voice sugerimos que os times envolvidos no desenvolvimento das assistentes sejam diversos. Dessa forma vários vieses são reduzidos desde o início do projeto, evitando e minimizando retrabalho. Diversos não só em relação ao gênero, mas também nas questões raciais, culturais, religiosas. As assistentes precisam reconhecer sotaques diversos, regionalismos e têm que responder a todo tipo de pergunta de uma forma mais inclusiva, sem segregar grupos”, explica lembrando que o historiador Yuval Harari alerta sobre a necessidade de treinamentos de ética para os coders de AI. “As mudanças nas assistentes só aconteceram por pressão da sociedade e especialmente de movimentos feministas. Muito se discute sobre isso em países onde elas já fazem parte mais ativamente da realidade. Nos EUA, um tema também presente é o comportamento das crianças em relação às assistentes de voz. Muitas delas reproduzem as falas secas e duras com figuras femininas como mães, tias e professoras. Algumas crianças acreditam que as assistentes são parte da família. E vão reproduzir esse tipo de fala com mulheres”, explica Simone.

SOBRE O AUTOR

Luiz Gustavo Pacete é editor-contribuinte da Fast Company Brasil