A inteligência artificial e o futuro das eleições: riscos e oportunidades
O que o uso de avatares alimentados por IA na Coreia do Sul nos ensina
Na última quarta-feira, num evento organizado pelo Instituto Brasileiro de Direito Eleitoral (IBRADE), pelo Instituto Brasileiro de Ensino, Desenvolvimento e Pesquisa (IDP) e pelo Grupo de Pesquisa Ethics4AI (IDP e Mackenzie) eu e vários especialistas em inteligência artificial, direito eleitoral e democracia nos juntamos para debater alguns pontos críticos da relação entre IA e eleições.
Neste artigo trago algumas reflexões que fizeram parte da minha apresentação nesse evento e comento um caso que me levou a refletir de maneira mais profunda sobre como a IA pode se entrelaçar com as questões eleitorais.
Sabemos que uma coisa que torna a inteligência artificial uma tecnologia singular é sua capacidade de influir nas mais diversas áreas da atividade humana. Assim, ela também traz importantes repercussões para o processo eleitoral e o funcionamento dos regimes democráticos.
Há alguns anos já sabemos que as tecnologias mais recentes como a IA têm tido um impacto, para o bem e para o mal, nas eleições a nível global. Mas é interessante notar a rápida mudança de percepção da mídia e da opinião pública sobre isso. Inicialmente, o lado positivo chamava a atenção: eventos como a primavera árabe e as manifestações de junho de 2013, no Brasil foram possíveis por causa da capacidade de comunicação e organização que ferramentas como o Facebook e o Whatsapp colocavam à disposição das pessoas. Com essas ferramentas, o mundo caminharia numa direção de maior democracia.
No entanto, apenas 3 anos depois, em 2016, a percepção em relação ao papel da tecnologia e mais precisamente das redes sociais teve uma virada brusca com o escândalo da Cambridge Analytica. A partir daí a impressão geral em relação ao papel da tecnologia nas eleições passou a ser negativa: pessoas começaram a sair de redes sociais, reportagens passaram a denunciar seu efeito negativo sobre a formação da vontade do eleitor, artigos e livros foram escritos apontando os prejuízos que as redes poderiam causar para a Democracia.
Os avatares dos candidatos a Presidente da Coreia do Sul
Um caso recente que demonstra o enorme potencial da IA para ser utilizada nas eleições aconteceu na Coreia do Sul, nas eleições presidenciais de 2022. Esses eventos são exemplos do que poderemos ter, com o que teremos que lidar ou o que teremos que evitar nas futuras eleições de democracias como a brasileira.
Três candidatos a Presidente da Coreia do Sul utilizaram avatares criados por inteligência artificial para se comunicarem com os eleitores. O precursor dessa estratégia foi justamente o candidato vitorioso e atual presidente do país, Yoon Suk-yeol.
Segundo o The Korea Times, aparecendo em um videoclipe reproduzido durante a cerimônia, o avatar de Yoon disse: “vocês estão surpresos porque eu sou igual ao candidato Yoon? AI Yoon é o começo da inovação nas eleições, visitarei todos os cantos do país". AI Yoon foi o apelido que recebeu a versão digital de Yoon Suk-yeol, construída a partir da IA, que tinha a mesma voz do candidato, seu sotaque e palavras que ele costuma utilizar.
Segundo o The Batch, uma empresa chamada DeepBrainAI, com sede em Seul, criou o avatar de Yoon usando 20 horas de áudio e vídeo do candidato capturados em frente a uma tela verde, totalizando cerca de 3.000 frases. Todos os dias durante dois meses antes da eleição, a equipe de campanha de Yoon selecionava uma pergunta e roteirizava uma resposta a ser entregue pelo avatar.
No início, AI Yoon fez comentários sobre política, mas os roteiros se tornaram mais casuais quando AI Yoon contou aos espectadores sobre seu tipo de personalidade Meyers-Briggs e suas músicas de karaokê favoritas. O avatar também insultou o oponente de Yoon, Lee Jae-myung, e o presidente em exercício. Lee que de início havia menosprezado o AI Yoon, acabou lançando seu próprio avatar, que, ao contrário do AI Yoon, foi baseado em gravações de comícios de sua campanha.
Um terceiro candidato Kim Dong-yeon também apresentou seu porta-voz cibernético alimentado por IA, chamado de AiDY, assim como seu próprio avatar, WinDY. O AiDY se assemelhava a personagens de videogame e também funciona como um chatbot, enquanto o WinDY era uma representação realista de Kim.
O papel desses avatares na campanha ainda é limitado. Segundo o The Korea Times, eles leem roteiros preparados ou realizam gestos simples – porque os personagens ainda precisam aprender a fundo as características da linguagem dos candidatos. Mas como isso é só o início, é possível imaginar eleições em que esses personagens digitais passem a atuar de forma mais independente do candidato real, realizando tarefas mais importantes, como propor uma agenda política.
Até que ponto avatares podem participar de uma campanha e o que eles podem fazer é, portanto, um tema importante a se discutir para o futuro.
Além disso, o sucesso de Yoon pode apontar para um futuro em que avatares ou falsificações digitais sejam feitos sob medida e utilizados por campanhas políticas para convencer grupos específicos de eleitores. Isso, evidentemente, corrói o debate público, uma vez que os argumentos de uma campanha passam a ser não para a sociedade como um todo, mas para o grupo ou os grupos decisivos para a vitória eleitoral.
Esse uso da IA nas campanhas eleitorais é tão recente que é ainda difícil de encontrar a terminologia adequada para se referir a ele. Algumas reportagens classificaram isso como deepfake, mas pode se argumentar que, como o eleitor era informado que estava assistindo a uma animação feita por computador, isso não é exatamente um deepfake, já que nenhum dos avatares tinham o propósito de enganar o eleitor.
Mas a coisa é mais complexa: o avatar de Yoon Suk-yeol, o candidato vitorioso, cumpria o propósito de torná-lo mais palatável para eleitores jovens e de disfarçar alguns de seus hábitos, como postura grosseira ao sentar e uso excessivo de cacoetes verbais enquanto fala. É verdade que isso não deixa de ser uma forma de ludibriar o eleitor, mas a propaganda eleitoral – como toda propaganda – também faz exatamente isso: esconde certas características indesejadas, constrói uma imagem que o público pode mais facilmente aceitar...
Olhando por esse lado um avatar como utilizado por campanhas na Coreia do Sul não seria muito diferente de uma peça publicitaria e talvez pudesse ser utilizado em eleições como as brasileiras. Mas deixemos a legislação brasileira mais para frente.
Outra questão fundamental presente no uso da IA como se deu na Coreia do Sul é a questão ética. O potencial ilusório, de levar os eleitores ao engano que personagens criados por IA que exibem apenas conteúdo audiovisual previamente preparado, bem como a extrema dificuldade de identificar se a imagem é real ou falsa são fatores que recomendam prudência e muita discussão antes de eventualmente permitir seu uso em campanhas políticas.
Como afirma o Professor Ko Sam-seog,
“Mesmo quando uma pequena empresa contrata um funcionário, ela exige que o candidato a emprego apareça em uma entrevista para ver como ele fala e escreve. Uma pessoa que pretende ser Presidente de um país, mas pede aos eleitores que interajam com seu avatar e depois votem no candidato estabelece algo próximo a uma farsa”.
Além disso, como a tecnologia pode ser usada para criar qualquer cena desejada, é muito difícil que não apareçam clipes falsos de candidatos dizendo o que nunca disseram, fazendo coisas que nunca fizeram ou prometendo políticas absurdas. Isso acabaria por diminuir a confiança do público em outras formas de mídia que apresentam os candidatos em carne e osso.
Por outro lado, há alguns argumentos dos desenvolvedores coreanos em defesa do avatar. A tecnologia é útil em áreas de campanha onde o candidato não pode comparecer pessoalmente. Assim, mostrar clipes do avatar em telas montadas em veículos aproximaria o candidato de seus eleitores. Além disso, o porta-voz de IA poderia reduzir profundamente o custo de uma campanha eleitoral, substituindo viagens de candidatos e mobilização de todo o pessoal que o acompanha, como vemos nas campanhas eleitorais convencionais, que consomem muito dinheiro dos contribuintes.
E no Brasil? Seria possível usar um avatar como os da Coreia do Sul nas campanhas do nosso país? Nem a Lei 9.504 nem a Resolução TSE 23.610, que estabelecem normas sobre as eleições, fazem menção a esses tipos de avatar ou a chatbots. A Resolução trata da desinformação na propaganda/ eleitoral e seu art. 9º-A afirma que “É vedada a divulgação ou compartilhamento de fatos sabidamente inverídicos ou gravemente descontextualizados que atinjam a integridade do processo eleitoral”. Divulgar deepfakes é, portanto, uma das práticas que o art. 9º-A veda.
No entanto, como vimos, é discutível caracterizar como deepfake o que aconteceu na Coreia do Sul. Dadas as nuances do uso de avatares como se deu nas eleições coreanas, imagino que a tentativa de realizar algo parecido no Brasil suscitaria intensos debates nos Tribunais.
Conclusão
É interessante notar como ao longo dos últimos anos a opinião pública sobre a tecnologia alterna momentos positivos e negativos. Isso aconteceu, por exemplo, com o uso da IA pelo sistema criminal nos EUA. As primeiras iniciativas nesse sentido datam de 2008 e, naquela época, havia um consenso de que a tecnologia era importante para combater os vieses presentes nas decisões de juízes humanos.
Menos de 10 anos depois, impelida pelo relatório da ProPublica sobre o Sistema Compas, a opinião muda e prevalece o discurso de que os sistemas de IA são perigosos porque podem apresentar vieses. Mas os seres humanos também, não é verdade?
O mesmo se deu com as redes sociais — que funcionam a partir de algoritmos de IA — e as questões políticas: da esperança passamos a uma sensação de catástrofe.
Faço referência a esses eventos para argumentar que é preciso ter cuidado com afirmações categóricas sobre os efeitos da IA. Sempre me incomodo quando ouço um discurso sobre a IA que se limita a realçar os problemas, os riscos, o potencial negativo. É o que prevalece hoje.
Essas coisas, evidentemente, são uma realidade. Mas é preciso lembrar que estamos diante de uma tecnologia que também traz enormes potenciais de nos trazer benefícios.
Assim, ao lado do problema que o uso de IA pode trazer para a qualidade do debate público numa democracia, é interessante tentarmos enxergar como ela também pode nos ajudar. Seu potencial para reduzir os custos das campanhas eleitorais por exemplo é algo que poderíamos explorar?
Penso que tentarmos ver essas coisas de uma maneira mais equilibrada é, a longo prazo, vantajoso para toda a sociedade. A IA não vai desaparecer — ela vai se tornar cada vez mais integrada a nossa vida. Num cenário como esse, é fundamental conseguir explorar o potencial que a IA traz da forma mais benéfica possível.
Meu novo curso está lançado! O curso explica a inteligência artificial e seus riscos jurídicos e éticos usando 12 casos de aplicação dessa tecnologia, selecionados por mim nos últimos meses.
Abordo temas como algoritmos de pricing, reconhecimento facial, uso de IA para demissão de funcionários, apps que usam o ChatGPT, apps que usam a IA generativa para criar relacionamentos digitais, uso de IA generativa para cometer fraudes e o debate sobre IA generativa, direitos autorais e scraping.
As inscrições podem ser feitas por esse link.
Há algum tempo eu queria fazer um curso que explica a IA de uma maneira prática e dinâmica. O resultado está aí. Tudo foi pensado com muito cuidado e carinho. Espero que vocês gostem! 🙂