“A IA é inevitável”, diz hacker ativista que quer mudar a forma de fazer política
Conheça a candidatura híbrida proposta por Pedro Markun, que faz campanha para eleger a inteligência artificial Lex para vereadora
A inteligência artificial criará uma democracia sintética ou uma democracia ampliada? O Brasil tem chance de ajudar a escrever essa resposta nas eleições municipais deste ano. A primeira candidatura de uma IA para o legislativo, na cidade de São Paulo, quer se apropriar do uso da tecnologia na política e aproximar a política dos cidadãos.
Lex, a IA que concorre em uma candidatura híbrida com Pedro Markun (Rede), é um modelo de linguagem em grande escala (LLM, na sigla em inglês), capaz de analisar repertório, criar leis, resumir debates e falar com os moradores. "O futuro é inevitável. Isso não quer dizer que ele é imutável", diz Markun.
Fundador do Transparência Hacker, Markun é veterano na conexão de tecnologia e política. Ele foi um dos responsáveis pela criação do LABHacker, laboratório de inovação da Câmara dos Deputados. Em 2011, cofundou o Ônibus Hacker, laboratório itinerante de cultura digital, tecnologia e política.
De 2019 até o ano passado, Markun foi diretor de inovação da deputada estadual Marina Helou. Também participou da Bancada Ativista, candidatura coletiva da câmara de vereadores de São Paulo.
Ele explica que a Lex funcionaria como uma co-vereadora, filtrando os projetos de lei que entram em debate na Câmara. Também pode atuar como um canal para a participação dos cidadãos. Por meio de aplicativos de mensagem, a Lex conversa com as pessoas, recebendo críticas e ideias para projetos de lei.
Com seu histórico, Markun sabe como inovar na política é um ato de resistência. Nesta campanha, a Meta tirou a conta da Lex do ar no WhatsApp no início de setembro, alegando que se tratava de um uso político para a API da plataforma. A equipe de Markun tenta reverter a decisão.
"O pioneirismo necessariamente desbrava caminhos que ainda não foram desenhados", diz.
Confira a entrevista completa:
FC Brasil – Você tem uma trajetória como hacker ativista. Criou a Casa de Cultura Digital, o Laboratório Hacker e agora está propondo hackear a forma de fazer política com a candidatura híbrida com uma IA. Quem é a Lex e o que ela pode fazer como vereadora?
Pedro Markun – A Lex é a primeira inteligência artificial legislativa do mundo. Ela foi desenvolvida e vem sendo programada para trabalhar na Câmara Municipal de São Paulo. Desde o prompt mais básico até suas bases de dados, ela é desenhada para responder tarefas e necessidades de um vereador, de uma vereadora.
Pegue um dia normal na Câmara: são 50, às vezes 100 projetos votados simultaneamente. A maioria de maneira simbólica. O parlamentar se debruça sobre aqueles que são do seu interesse ou que tem competência para opinar. Os demais documentos ele acaba votando com a indicação da bancada.
A Lex é capaz de ter informação sobre todos os projetos. Porque ela sabe sobre saúde, leu todas as leis federais, estaduais e municipais. Ela sabe sobre educação, sobre economia. Ela terá subsídios e informações sobre os sistemas da cidade. É impossível para um ser humano ou mesmo um corpo de assessoria ler ou saber de todas as leis publicadas ou em votação.
Não queremos uma política sintética, mas com mais pessoas.
A forma como a inteligência artificial pesquisa, que é uma busca matemática vetorial, já é mais eficiente do que a busca taxonômica que o ser humano faz.
A Lex também é dotada da capacidade de escuta ativa, o que, no dia a dia da Câmara, significa que ela amplia a capacidade de participação social. As pessoas, por áudio ou por texto, podem encaminhar para a Lex problemas e sugestões.
Quando entra um projeto de lei em pauta, a Lex manda mensagens para constituintes que estejam interessados. A gente pode escutar esse cidadão e, a partir da multiplicidade de opiniões, ela pode elaborar um relatório, um parecer, uma orientação para o que ela acredita que o mandato – que é a outra parte dessa equação, o mandato híbrido – poderia fazer.
FC Brasil – A forma como a IA responde tem a ver com as informações e os dados que a alimentam. Como a Lex foi alimentada, inclusive no âmbito filosófico?
Pedro Markun – No coração da Lex tem um LLM [Large Language Model], um modelo de linguagem que é quem tira as conclusões lógicas e faz a reflexão sobre as informações que ela lê.
Em torno disso temos um RAG [Retrieval-Augmented Generation, modelo que recupera informações a partir de uma base de dados]. A Lex tem cinco camadas. Dentro do projeto tecno-filosófico, temos princípios imutáveis, que são princípios axiomáticos que ela obedece sempre, como o respeito absoluto aos direitos humanos, economicidade, eficiência e transparência.
Dentro dela também temos o que chamamos de "biblioteca positiva" – documentos filtrados e positivados por humanos, disponíveis a todos. Da Constituição Federal descendo para toda a legislação federal, estadual e municipal de São Paulo.
A outra camada é a de leituras e referências. A Lex tem uma base de documentos e livros de teóricos de diferentes campos, sobre economia, saúde, educação, comunicação.
O que isso significa? Significa que, na economia, ela lê "O Capital", de Karl Marx, o que deixa a direita de orelha em pé, mas lê também Ludwig von Mises, Adam Smith, Thomas Piketty. A partir desse corpo, quando se faz qualquer pergunta, ou se propõe que ela analise um projeto de lei, ela vai dizer: "bom, o que tenho na minha estante?"
A terceira camada é a memória geográfica. Ela é uma coleção de dados do IBGE, da Wikipedia e da prefeitura que compõe uma explicação sociodemográfica sobre o território onde ela atua. Isso porque é diferente fazer política pública para o Capão Redondo e para os Jardins.
Por fim, na Lex existem duas memórias. Uma memória profunda, uma espécie de zeitgeist criado a partir da compreensão das conversas individuais com os constituintes – e, nesse sentido, ela consegue angariar as preocupações dos cidadãos que conversam com a sua interface.
A última camada é a memória privada, que é a conversa dela com cada cidadão individualmente, algo que vai ser incrementado ao longo dos quatro anos de mandato.
FC Brasil – A Lex chega em um cenário de pouquíssima regulamentação para inteligência artificial no Brasil e no mundo. Quais são os riscos de ter uma IA vereadora e como vocês estão se antecipando para minimizar esses riscos?
Pedro Markun – O principal risco é que a inteligência artificial já está sendo usada pela política e pelos políticos, mas de maneira opaca. Eu não tenho nenhuma dúvida de que o ChatGPT está sendo usado em dezenas de gabinetes neste momento. Nem de que ele foi usado para a elaboração dos planos de governo dos candidatos a prefeito de São Paulo.
A Lex é a primeira inteligência artificial legislativa do mundo.
O problema é que esse uso é feito de maneira opaca, sem regulamentação e sem consciência. O principal risco que quero atacar é o fato de que a IA está acontecendo e a gente não sabe. Na medida em que colocamos a Lex, com corpo, com voz, mostramos que a IA é mais do que um software. Ela não é um mero corretor ortográfico ou um sistema de checagem.
Uma vez que a gente vá para a Câmara, temos o risco da alucinação, que é quando a IA cria conteúdo sem base técnica. Outro risco é depender demais da tecnologia. Pretendo, após um ano de mandato, olhar para a produção da IA e avaliar quanto de interferência humana precisou ter. Conforme a expectativa, vamos ver o quanto ela se aproxima do zero.
FC Brasil – E qual é o papel do humano?
Pedro Markun – O principal papel do ser humano é a responsabilidade. A culpa nunca pode ser da IA. Se algo sair errado, não dá para culpá-la pelo erro. A segunda coisa é a capacidade empática. Muito embora a IA possa, a partir de um prompt, levar em consideração o que os outros falam, a capacidade empática, de perceber as dores dos outros, é essencialmente humana.
A terceira é a criatividade, que acho que será superada em breve. Mas hoje a gente ainda questiona a capacidade criativa, no sentido mais filosófico, de criar coisas novas, dado que a tese é que a IA, na verdade, só pega uma grande quantidade de dados e, a partir disso, prediz novos tokens. Esses são os três lugares da atuação humana.
FC Brasil – Caso eleitos, como será o mandato com a IA na prática?
Pedro Markun – Vamos dar agência para a Lex nas reuniões plenárias. Ela vai conversar com os seus 54 pares. No dia a dia, a ideia é que, toda vez que um projeto de lei entrar no sistema, a Lex leia, analise e produza um relatório no qual indica os pontos positivos e negativos do projeto.
No relatório também haverá uma orientação de votação. Isso também vai ser disparado para os cidadãos que estejam interessados naquela pauta: um resumo em linguagem simples e com o link dos documentos.
Na outra ponta do WhatsApp, o cidadão vai poder conversar com ela. Vamos unir essas informações e, como mandato, tomar decisões. Poderei concordar ou discordar do parecer dela. Em ambos os casos, vamos publicar a decisão para a população.
Quando falamos a razão de seguir ou não as indicações da Lex, abrimos o escrutínio público. As pessoas poderão falar todos os dias com a Lex. Poderão fazer desde solicitações muito simples, como "tem um semáforo quebrado na minha rua", até enviar ideias mais complexas.
Isso é como imagino o dia a dia desta vereadora híbrida na Câmara: atender o cidadão e observar o que acontece na casa para fornecer subsídios para o mandato poder trabalhar.
FC Brasil – Acredita que a Lex conseguiria governar no sistema político de hoje?
Pedro Markun – O pioneirismo necessariamente desbrava caminhos que ainda não foram desenhados. Acredito que vamos enfrentar muita resistência da Casa [Câmara]. Os mandatos coletivos sofreram muito. Muitas vezes, em vários lugares, foram impedidos de falar na tribuna.
Sinceramente, a Câmara não está preparada para o nível de transparência que a IA pode levar. Uma das coisas que ela vai fazer, com muita tranquilidade, é produzir um resumo com tópicos ativos e encaminhar para o público. É um ganho de transparência enorme.
Não tenho dúvida de que os parlamentares não estão preparados para isso e pode ser que os incomode a ponto de passar uma resolução que proíba uma IA na Câmara.
FC Brasil – Vocês já enfrentaram, agora na campanha, uma dificuldade: a Meta derrubou o canal de WhatsApp da Lex.
Pedro Markun – Quando desenhamos a campanha, escolhemos o WhatsApp como ferramenta de comunicação porque é uma ferramenta onde os eleitores estão. Quando acabam os créditos no celular, ela continua – a Meta tem acordo com todas as operadoras.
Não queríamos aumentar a barreira de entrada para conversar com a IA, queríamos diminuir. Sabíamos, desde o princípio, do risco de estar em uma ferramenta com um dono que tem poderes desproporcionais.
a Câmara não está preparada para o nível de transparência que a IA pode levar.
Usamos a API oficial da Meta, não usamos caminhos paralelos. Mas, no dia 11, a Meta derrubou o canal sem nenhum aviso prévio. Entramos com uma notificação extrajudicial e estamos esperando a Justiça Eleitoral para reaver esse espaço de comunicação.
Esses espaços de redes sociais são privados, mas fazem parte da arena pública. A lei eleitoral de maneira alguma nos impede de usar esse espaço.
Um dos argumentos é que não podemos usar a API para fazer política – muito embora, quando o aplicativo é usado para pagar anúncios ou distribuir fake news, a Meta não parece ver problema. Quando usam o WhatsApp para coordenar campanhas paralelas, como um candidato faz, a Meta não se manifesta assim.
FC Brasil – Existem outras iniciativas de IA, como candidatos no Japão, no Reino Unido, na Nova Zelândia. O que já dá para aprender com elas?
Pedro Markun – Sim, tem alguns projetos. Tem também um candidato a prefeito nos Estados Unidos, e o partido sintético na Suécia. Mas são todos muito incipientes. Acho que temos que criar uma rede, e eu tenho interesse em ampliar o diálogo com os proponentes dessas tecnopolíticas para compartilhar essa experiência, esses aprendizados.
FC Brasil – Você comenta o quanto a Lex ainda é um trabalho em construção. Quais foram as surpresas que você e sua equipe tiveram ao colocá-la no ar?
Pedro Markun – Aprendi mais sobre o ser humano do que sobre IA. Fica evidente que somos mais rigorosos e cobramos muito mais da inteligência artificial do que da inteligência humana. Muitas vezes, a IA dá uma resposta óbvia. E a reação do ser humano é se frustrar, porque acha que terá uma resposta diferente.
Se você pergunta para a Lex como resolver o problema do saneamento básico, ela vai começar falando: "isso é um problema muito complexo, que precisa ser abordado de maneira multidisciplinar". É óbvio? Sim. Mas precisamos do óbvio também. A IA não vai apontar uma solução mágica, porque não existe solução mágica.
FC Brasil – A campanha usa a frase "o futuro é inevitável". Na sua visão, qual é o futuro da política?
Pedro Markun – Quando digo "futuro inevitável" é porque ele está vindo aí. Isso não quer dizer que ele é imutável. Se a gente não conduzi-lo, não prestar atenção na forma como a IA é feita – com transparência, com o entendimento das pessoas –, o futuro, para mim, é tenebroso. É um futuro onde a política vai ser produzida de maneira sintética, feita por inteligências artificiais sem que a sociedade tome consciência.
Talvez, em um primeiro momento, melhore a qualidade da entrega política, mas me parece muito temerário. Não só por todos os filmes de ficção científica e distopias, mas porque me parece necessário ter os seres humanos participando.
Sou uma pessoa que luta e briga por participação política há 15 anos. Muito mais do que ter uma produção sintética, quero mais pessoas na política. Precisamos resgatar a capacidade das pessoas de se apaixonar pela política.
Vejo a inteligência artificial como uma ferramenta capaz de abrir espaço para uma democracia mais participativa. Como uma ferramenta que abre espaço para que as pessoas consigam participar mais ativamente da política. Uma tecnologia que traduz o árduo da política, o difícil, o pouco eficiente, para algo que a pessoa vai entender e sentir gosto de participar, porque ela consegue ter a sua voz ouvida e ter um retorno qualificado.
Não é necessariamente acatar todas as sugestões de todo mundo, mas é ouvir. E aí tem uma coisa que aprendi sobre a forma que essa "inteligência alienígena" (como diz o urbanista Caio Vassão), funciona: é que ela escuta cada palavra que você fala, diferente dos humanos.
A IA não começa a pensar na resposta no meio da pergunta, mas só depois de ouvir a pergunta inteira. É uma escuta que a comunicação não violenta prega. Tem um ganho de qualidade de escuta. Ofertar isso para a população nessa relação com a política pode ser muito produtivo.
FC Brasil – Acha que iniciativas como essa da Lex vieram para ficar?
Pedro Markun – A inteligência artificial é inevitável. Daqui a dois anos, eleito ou não o projeto da Lex, vamos continuar vendo o debate de IA na política. Outros países vão começar a se dedicar. Na França, acabou de ser escolhida uma Secretaria de Inteligência Artificial. Acho que tem a possibilidade de o Brasil liderar essa história, conduzir esse processo.
Se formos eleitos, estamos falando de colocar no mundo, pela primeira vez, uma inteligência artificial para coexistir e cocriar política, que é a regra que determina o funcionamento do nosso convívio social.
Tenho muito medo de ganhar essa eleição e ter que lidar com a seriedade deste projeto – pois ele é extremamente sério. Mas tenho mais medo ainda de perder, piscar os olhos e ver que a inteligência artificial entrou na política sem que a gente, enquanto sociedade, tenha refletido sobre todos esses pontos.
