Planos de IA do Google para salas de aula reacendem discussões éticas
Sundair Pichair, CEO do Google, fez dois anúncios na I/O Developers Conference, em maio. Ambos sugerem que a organização mais poderosa do mundo em educação agora é o Google. Pichai celebrou o fato de a Big Tech ter sido capaz de “ajudar alunos e professores a continuar aprendendo em qualquer lugar” durante a pandemia e apresentou a plataforma de Inteligência Artificial LaMDA (Language Model for Dialogue Applications, ou Modelo de Linguagem para Aplicativos de Diálogo, em tradução livre).
O plano da empresa é incorporar o LaMDA em seu pacote Workspace de ferramentas, software e produtos de computação em nuvem. O case específico para uso letivo é parte central do planejamento estratégico de longo prazo do Google para IA.
“Se um aluno quisesse descobrir mais sobre o espaço”, escreveu o CEO no blog da empresa, “o modelo daria respostas sensatas, tornando o aprendizado ainda mais divertido e envolvente. Se aquele aluno quisesse mudar para um tópico diferente”, acrescentou,“ o LaMDA poderia continuar a conversa sem qualquer retreinamento”.
As declarações de Pichai apontam para o investimento em negócios destinados à educação, após a consolidação das plataformas do Google durante a pandemia. Entre pesquisadores de privacidade e ativistas, entretanto, surgem questionamentos éticos sobre a integração de IA ao ensino e aprendizagem, além do acesso ilimitado a dados de alunos e escolas.
A SALA DE AULA GLOBAL DO GOOGLE
Com a reabertura de escolas em todo o mundo, o Google pretende garantir e sustentar os resultados obtidos em 2020, ano em que o número de usuários do Classroom saltou para 150 milhões. Um novo “roteiro” foi anunciado para a plataforma no início de 2021, conforme os alunos voltam às salas de aula físicas em vez de virtuais.
“À medida que mais professores usam o Classroom como seu ‘hub’ de aprendizagem durante a pandemia, muitas escolas o estão tratando como seu sistema de gerenciamento de aprendizagem (LMS)”, escreveu o gerente do programa do Classroom. “Embora não tenhamos pretendido criar um LMS, o Classroom está empenhado em atender às necessidades em evolução das escolas.”
O roteiro para o Classroom as a school LMS foi um dos planos estabelecidos na sua conferência anual Learning with Google, que também incluiu o lançamento de 40 novos modelos de laptop Chromebook e atualizações de recursos dos produtos didáticos.
Desde o lançamento de seu primeiro software gratuito para educação em 2006, a vantagem competitiva em hardware e software consagrou a marca, juntamente com diversas controvérsias sobre o alcance das plataformas.
Há cinco anos, a ONG de liberdades digitais Electronic Frontier Foundation entrou com uma reclamação oficial junto à Federal Trade Commission, alegando que o Chromebooks e Google Apps for Education é utilizado para coletar dados pessoais de crianças em idade escolar. Pesquisadores da Universidade de Boras, na Suécia, destacaram como a política de privacidade do Google Apps for Education (renomeado como Workspace for Education) ocultou seu modelo de negócios, tornando quase impossível determinar quais dados foram coletados sobre os alunos e para qual finalidade são utilizados.
Em fevereiro de 2020, o Chromebooks foi novamente processado. O procurador-geral do Novo México declarou que a privacidade de alunos usuários do software viola tanto leis federais, quanto o Student Privacy Pledge, da qual o próprio Google é signatário. Segundo o procurador, a empresa havia se comprometido apenas a coletar, manter, usar e compartilhar dados de alunos expressamente para fins educacionais, mas continuava a explorá-los para fins comerciais.
Apesar das ações judiciais, o domínio da plataforma continuou a se expandir pelos sistemas educacionais nos meses subsequentes, inclusive, com o apoio de organizações internacionais como a OCDE e departamentos de educação ao nível estadual ou nacional em diversos países.
Uma equipe de acadêmicos da Austrália e do Reino Unido publicou uma pesquisa destacando como centenas de fornecedores externos de tecnologia educacional são integrados ao Classroom por meio de um “mercado” de “complementos”, que permite ao Google estender a extração de dados para muito além da plataforma.
O roteiro anunciado na Learning with Google, explicita planos de extensão dessas integrações. No setor de tecnologia educacional, a big tech se torna um portal central com controle escalonável, pois define as regras para que outros fornecedores terceirizados se integrem ao Google Classroom e para a troca de dados entre eles.
O modelo de negócios de extração de dados do Google ajudou a estabelecer um modelo global para o futuro da escolaridade. Com a expansão do Classroom, a coleta e troca de dados dos alunos entre outras plataformas ocorre através do Google Cloud. Juntos, é cada vez mais difícil identificar a distinção entre finalidade comercial e finalidade educacional desses empreendimentos.
AUDITORIA TECNO-ÉTICA
A educação não será o único setor da sociedade afetado pela interface de IA de conversação do Google — embora, como Sundar Pichai deixou claro, a educação é um caso de uso óbvio para tais tecnologias.
No final do ano passado, um artigo produzido por pesquisadores, incluindo dois co-líderes da equipe Ethical AI do próprio Google, mostrou que as tecnologias de IA para linguagem incorporavam modelos que disseminam ideias prejudiciais, preconceitos e informações enganosas. Posteriormente, o Google demitiu os autores de sua equipe ética de IA, levando a uma condenação generalizada e sérias questões sobre as implicações éticas de longo prazo.
No I/O, Pichai garantiu que “justiça, precisão, segurança e privacidade” fossem incorporadas ao LaMDA antes da implementação completa, mas a demissão dos especialistas em ética de AI e o risco de desinformação dentro das instituições de ensino enfraquece a credibilidade dessas afirmações.
De acordo com os autores de um novo artigo de pesquisa, “Don’t Be Evil: Should We Use Google in Schools?” (Não seja mau: devemos usar o Google nas escolas?), “A empresa merece um escrutínio muito maior antes de qualquer expansão futura na educação”. Usando um método de “auditoria tecno-ética”, a equipe de pesquisa da University of North Texas relatou que “o Google extrai dados pessoais dos alunos, evita leis destinadas a protegê-los, ofusca a intenção da empresa em seus Termos de Serviço, recomenda informações prejudiciais e distorce o conhecimento dos alunos. ”
A auditoria tecno-ética é uma etapa importante para lidar com o papel crescente do Google na educação. Mas o potencial de novas plataformas de IA e computação em nuvem permanece depende da influência das empresas privadas de tecnologia, que alteram práticas e prioridades nos sistemas de educação públicos e estaduais.
O Google produziu hardwares, softwares e sistemas de nuvem dos quais os sistemas educacionais são cada vez mais dependentes. As implicações tecnológicas e éticas das plataformas emergentes, IA e sistemas de dados cruzam fronteiras geográficas, políticas e continentais. Essas questões precisam ser tratadas no nível regulatório, por meio de discussões democráticas e coletivas sobre o futuro das escolas além da pandemia, e não podem ser delegadas apenas a educadores e líderes escolares.
