A preocupação com o uso da inteligência artificial (IA) nas eleições fez o Tribunal Superior Eleitoral (TSE) aprovar, na última terça-feira (29), uma regra que pode levar à cassação de candidato pelo uso irregular da técnica. Em Crissiumal, no noroeste do Estado, um caso de fraude foi parar na polícia.

Um áudio deepfake feito com inteligência artificial usava a voz do prefeito Marco Aurélio Nedel (PL) em uma mensagem que tratava servidores da Secretaria de Obras como “pessoal analfabeto”. A reportagem é do Grupo RBS.

— Eu não tinha ideia do estrago que isso aí poderia causar. Mas, nos dias seguintes, isso foi se espalhando pelo WhatsApp, pela cidade, e eu fui me dando conta da gravidade do caso — afirma Nedel.

O termo “deepfake” se refere ao conteúdo produzido por inteligência artificial que reproduz falsamente a voz e/ou a imagem de pessoas reais.

Assim que soube da fraude, o prefeito registrou um boletim de ocorrência, e a Polícia Civil confirmou que se tratava de uma farsa.

— A gente espera que a Justiça dê uma resposta rápida para que outros não se sintam encorajados a ir por esse caminho, de criar fatos que não correspondem à realidade e, com isso, tentar tirar proveito político e tirar da disputa candidatos — diz o prefeito.

Fiscalização
As normas aprovadas pelo TSE determinam a identificação do conteúdo manipulado por IA, a proibição dos deepfakes e o uso limitado de chatbots (robôs de conversa) e avatares.

— A inteligência artificial não está vedada. Ela foi regulamentada pela resolução. Ela é lícita, desde que ela seja rotulada de uma forma explícita e expressa que aquela propaganda utiliza inteligência artificial — explica o secretário judiciário do Tribunal Regional Eleitoral (TRE) do Rio Grande do Sul, Rogério Vargas.

Para o Ministério Público Eleitoral, as próprias campanhas vão fiscalizar o uso de IA entre os candidatos.

— Nós acreditamos que vai haver um controle recíproco dos candidatos em relação a esses fatos que, eventualmente, transbordem a regra da legalidade. Nós vamos ficar atentos às denúncias que chegarem para dar os encaminhamentos devidos — comenta o promotor Rodrigo Zilio.

Regra do TSE sobre IA

• Conteúdos manipulados por inteligência artificial deverão ser identificados como tal;
• Chatbots e avatares para intermediar a comunicação da campanha devem ter uso limitado. Não poderá haver qualquer simulação de conversa do chatbot e avatar com candidato ou pessoa real;
• Proibição absoluta ao uso de deepfake.