Isaac Kofi Medeiros escreve artigo sobre o impacto da inteligência artificial generativa nas eleições municipais de 2024 no Brasil, destacando os desafios trazidos pela disseminação de deep fakes e a regulamentação imposta pelo TSE para lidar com essas inovações tecnológicas.
Maringá, janeiro de 2024. Circula nos principais grupos de WhatsApp da cidade um áudio de Sílvio Barros, pré-candidato a Prefeito do terceiro maior município paranaense, dado como favorito, com cerca de 45% de intenção de votos contra 8% do segundo colocado. Coisa de primeiro turno. Daí porque o áudio espanta: Barros sinaliza que pode desistir da corrida e apoiar seu adversário.
O caso foi parar na Polícia e na Justiça Eleitoral. Era fake. Fosse simplesmente boato, seria um problema tão antigo quanto a própria democracia. Mentiras sempre estiveram no cardápio de estratégias políticas. Problema é que era deep fake. O áudio reproduzia o timbre do pré-candidato e espalhava sem muita desconfiança um fato político que mexia no tabuleiro.
É isso que nos espera pelo Brasil nos próximos dias.
As eleições municipais de 2024 são primeiras que o Brasil realiza depois da difusão massiva de aplicativos de inteligência artificial generativa, aquela capaz de gerar conteúdos e ideias de texto, imagem, som e vídeo. A Argentina foi a primeira a experimentar os potenciais agridoces da IA na eleição presidencial do ano passado, gerando debate sobre a necessidade da sua regulamentação.
No Brasil, o TSE – provavelmente indo além do que a Constituição o autoriza – regulamentou o uso de IA nas eleições da seguinte forma: pode usar, mas o eleitor precisa ter ciência. Se a IA produz áudio, o áudio deve informar que é IA. Se é vídeo, deve ter marca d’água e audiodescrição, e assim sucessivamente. A regulação traçada pelo TSE é boa por não subestimar a inteligência do eleitor, diferente de outras regras do Direito Eleitoral, como aquela que proíbe propaganda capaz de criar “estados mentais, emocionais ou passionais” na opinião pública, herança do entulho autoritário da legislação pré-Constituição de 1988.
A única exceção a essa lógica de não subestimar o eleitor é a estranha ideia do TSE de proibir o deep fake positivo. Proibir o uso de deep fake para atacar adversários é muito intuitivo. Nisso, o TSE acertou. Mas a Corte foi além e determinou que o deep fake não pode sequer ser utilizado para promover candidaturas. Por exemplo, um vídeo de um candidato defendendo a revitalização de um parque, com voz e imagem sintetizadas, pode acarretar cassação do registro ou perda do mandato. Considerando que o deep fake é feito por IA, isso parece contrariar o princípio geral de que o eleitor – sendo avisado do uso da tecnologia – pode decidir o que é melhor para ele.
Apesar da iniciativa do TSE, o direito vem a reboque da tecnologia. Como no rio de Heráclito, nenhum país participa da mesma eleição duas vezes. No biênio seguinte, nem as eleições nem a sociedade serão as mesmas em virtude das alterações tecnológicas e as mudanças de costume que lhes acompanham. A ver se a regulamentação atual será suficiente para manter minimamente íntegras as condições da democracia ou se será revisada de novo, fazendo dela uma colcha de retalho ao sabor dos novos desafios.
Isaac Kofi Medeiros é doutor em Direito pela USP com doutorado-sanduíche (CAPES) na Sapienza Università di Roma, sócio da Menezes Niebuhr Sociedade de Advogados e membro da Academia Brasileira de Direito Eleitoral e Político – ABRADEP.
