'Inevitável', inteligência artificial se entranha no cotidiano da política

No mundo da educação e no da guerra, no mundo dos negócios e na vida cotidiana, a IA está cada vez mais presente e, agora com a candidatura de Markun, pode entrar de vez para a política. "É inevitável", diz o candidato do Rede Sustentabilidade.

À Sputnik Brasil, Pedro Markun disse ser fã desse formato de candidaturas coletivas, sendo candidato pela Bancada Ativista em 2016 e um dos colaboradores de 2018. "A coletividade das inteligências é benéfica."

Em vez de recorrer a um mandato coletivo com outras pessoas, este ano Markun optou por dividir seu possível mandato com a Lex, IA desenvolvida por ele mesmo. A ideia, diz o candidato, "não é retirar a inteligência humana da equação".

"O que não dá é negar que surgiu nos últimos anos um novo tipo de inteligência, a IA generativa, capaz de ler, processar e capturar milhões de dados e informações ao mesmo tempo."

Segundo o ativista, essa ferramenta vai potencializar o trabalho do legislador, dando-o não só o acesso a toda legislação federal, estadual e municipal de maneira simples, mas também a bases de dados, como do Instituto Brasileiro de Geografia e Estatística (IBGE) e da prefeitura, e à vasta literatura científica que pode ajudar na formulação de políticas públicas eficientes.

É nesse último ponto, ressalta Markun, que está o grande trunfo da Lex: sua transparência.

Diferente de IAs como o ChatGPT da OpenAi e a Gemini do Google, treinados a partir de qualquer dados coletados on-line, a IA criada por Markun terá sua biblioteca aberta, de modo que o cidadão poderá entender de onde vieram suas opiniões sobre temas como saúde, educação e economia.

Em 2016, a Microsoft lançou a Tay, um chatbot de inteligência artificial, que, em menos de um dia, começou a proferir frases racistas e nazistas devido ao aprendizado que teve a partir de interações com os usuários.

Esse é o risco, aponta Markun, de fazer uma IA sem que seja pensada de maneira explícita essa relação. "Risco de pegar todos os problemas que sabemos que a IA tem, como vieses cognitivos, alucinação, falta de contexto, e injetarmos dentro da política."

"Demos a ela uma ampla gama, limitando pelos princípios imutáveis como os direitos humanos. Portanto, ela não lê 'Minha luta', do Hitler [...]. A Lex não acredita que a Terra é plana ou que o homem não foi para a Lua. Tudo o que é consenso na comunidade científica pertence à Lex."

A IA de Markun está disponível para conversar com o eleitor 24 horas por dia pelo WhatsApp. De acordo com o ativista, isso representa uma revolução que coloca São Paulo não só na fronteira da inovação tecnológica, como também "refina o futuro da participação cidadã".

Apesar de tanto otimismo, o criador da Lex afirma que a era da governança das máquinas não deve chegar tão rápido assim, pelo menos não nos próximos 20 anos. "É um cenário improvável, mas os primeiros sinais de que isso vai acontecer estão aí."

Filipe Medon, professor da Fundação Getulio Vargas (FGV) Direito Rio, destaca que a IA já está sendo usada na administração pública em diversos âmbitos, não só para a formulação de políticas públicas, mas também como forma de dar maior celeridade às atividades do dia a dia das repartições.

"A inteligência artificial pode ser muito boa em identificar correlações entre dados aparentemente desconexos e indicar bons caminhos, além de poder ser útil para direcionar verbas identificando lacunas e áreas prioritárias."

No entanto, o professor destaca que o fator humano ainda é a grande limitação dessas ferramentas. "Nada disso pode ser feito sem intervenção humana. Qualquer uso de inteligência artificial pelo poder público é muito sério."

Atualmente, essas tecnologias ainda incorrem em erros previníveis ou remediáveis com a supervisão apropriada. É o caso das ferramentas de reconhecimento facial que, no Rio de Janeiro, classificou erroneamente um cidadão como fugitivo da Justiça.

Ainda há risco de a IA apontar correlações espúrias. Por exemplo, existe uma associação entre dois temas desconexos, como o lançamento de filmes estrelados por Nicolas Cage e a quantidade de pessoas que morrem afogadas em uma piscina. "Apesar de estarem na mesma taxa estatística, não têm nenhuma relação de causa e efeito."