Plataforma de Estudo

Tema

Áudio do capítulo
0:000:00

12. Deepfakes e IA ​

Um áudio no silêncio eleitoral ​

Em 28 de setembro de 2023, uma quinta-feira, a Eslováquia estava a dois dias de eleger o seu Parlamento. Pela lei do país, vigorava o período de silêncio eleitoral: nas 48 horas anteriores à votação, as campanhas não podiam fazer propaganda nem, na prática, responder a ataques com a mesma liberdade de sempre. Foi nesse intervalo que começou a circular nas redes sociais, principalmente no Facebook, no Telegram e no TikTok, um áudio de pouco mais de dois minutos. Nele, duas vozes conversavam sobre como fraudar a eleição. Uma parecia a de Michal Šimečka, líder do partido liberal Eslováquia Progressista, que disputava o primeiro lugar nas pesquisas. A outra parecia a de Monika Tódová, jornalista do diário Denník N. O diálogo sugeria que os dois planejavam comprar votos de uma minoria, a população romani, em troca de dinheiro.

O áudio era falso. Šimečka e o jornal disseram isso imediatamente, e as equipes de checagem de fatos, entre elas a da agência AFP, apontaram sinais de que a gravação havia sido gerada ou manipulada por inteligência artificial. A fala soava pouco natural, com pausas estranhas e uma qualidade parecida com a de uma ligação de telefone ruim, o que, aliás, é uma maneira comum de esconder imperfeições de síntese. Dias antes, outro clipe falso do mesmo político, em que ele supostamente prometia dobrar o preço da cerveja, havia sido notificado pela Meta aos verificadores de fatos do país. Os dois conteúdos circularam apesar dos desmentidos.

No dia 30, a eleição aconteceu. O partido Smer, do ex-primeiro-ministro Robert Fico, venceu com 22,9% dos votos, e o Eslováquia Progressista ficou em segundo, com 18,0%. A pergunta que todos fizeram a seguir era se o áudio tinha decidido a eleição. A resposta honesta, até hoje, é que ninguém sabe. Não há estudo que isole o efeito do clipe do voto, o autor do material não foi identificado de forma conclusiva até onde pude verificar em outubro de 2026, e uma diferença de cinco pontos percentuais em uma eleição polarizada tem muitas explicações possíveis. Mas o episódio virou referência por outra razão. Ele mostrou, em tempo real, as peças de um problema novo: um áudio crível, produzido a baixo custo, lançado no momento em que a vítima tinha menos capacidade de reagir, circulando por canais que checadores demoram a alcançar.

Este capítulo trata do que as ferramentas de inteligência artificial generativa mudam na propaganda e na desinformação, e do que não mudam. O livro todo defende que as técnicas são antigas e o que mudou foi o custo, a escala e a velocidade. Nada ilustra melhor essa tese do que um clone de voz. Mas a tese tem um corolário incômodo: o maior risco dos deepfakes talvez não seja o que as pessoas acreditam por causa deles, e sim o que deixam de acreditar por medo deles.

Uma observação sobre método. Em todo este capítulo, a regra do livro sobre não ensinar o que é perigoso vale em dobro. Você vai encontrar aqui o que ocorreu, como funciona o mecanismo em princípio, o que a lei diz e como se defender. Você não vai encontrar instruções de produção, nomes de serviços para esse fim nem receitas para driblar plataformas. E, seguindo o método do livro, cada falsificação descrita vem depois do fato verdadeiro e é nomeada uma única vez.

O que você vai levar deste capítulo ​

Síntese de voz, imagem e vídeo baixou o custo de fabricar uma prova falsa, mas a maior parte do dano eleitoral documentado até agora veio de peças simples, e o efeito sobre o voto continua sem medição confiável.

A defesa mais importante é de procedimento: a janela entre o lançamento de um conteúdo falso e a sua checagem é onde ele faz estrago, e instituições e pessoas podem encurtá-la.

A lei brasileira proíbe o deepfake em propaganda eleitoral e exige rótulo para o uso legítimo de inteligência artificial, e o tribunal tem aplicado a regra a campanhas de lados opostos, com divergência interna sobre onde termina a sátira.

O "dividendo do mentiroso" é o efeito colateral: quanto mais se sabe que tudo pode ser falsificado, mais fácil fica negar o que é verdadeiro.

O que mudou de fato, e o que não mudou ​

Falsificar um documento, uma foto ou uma gravação nunca foi novidade. O capítulo 3 mostrou a campanha soviética sobre a origem da aids, com carta anônima e estudo pseudocientífico. O capítulo 1 mostrou Bernays montando um evento de imprensa. A história da propaganda é também a história da prova forjada: cartas falsas, fotos retocadas, discursos editados. A pergunta correta, então, é o que as ferramentas atuais acrescentam.

Elas acrescentam, em primeiro lugar, uma queda brusca de custo e de habilidade exigida. Fabricar uma gravação convincente da voz de uma pessoa, que antes pedia estúdio, tempo e técnico, passou a exigir, em poucos anos, uma amostra curta de áudio e um software disponível comercialmente ou em código aberto. A barreira técnica caiu. Em segundo lugar, acrescentam velocidade e volume: é possível produzir dezenas de variações, em vários idiomas, quase sem custo adicional. O capítulo 9 documentou isso, com operações de influência que passaram a usar modelos de linguagem como ferramenta de produtividade, e com resultados de alcance geralmente modestos. Em terceiro lugar, acrescentam personalização: uma mensagem pode ser ajustada para um grupo, uma região ou um perfil, o que o capítulo 7 já discutia na versão de 2016.

O que não mudou é o resto da cadeia. Para fazer efeito, um conteúdo falso precisa de uma audiência disposta a acreditar, de um canal que o espalhe, de um momento em que a checagem demora, de um mensageiro confiável para o público e de alguma repetição. Um deepfake sem distribuição é um arquivo no disco de alguém. E a pesquisa que existe sugere que, até aqui, a distribuição tem sido o gargalo. Análises feitas por checadores em eleições de 2024, por exemplo na Índia, relataram que só uma pequena fração das peças de desinformação verificadas envolvia inteligência artificial; um levantamento citado pelo dossiê deste capítulo, do veículo indiano Boom Live, contava 12 casos em 258 checagens eleitorais. Esse número não foi reconferido por mim, e a metodologia do levantamento não está aberta, então vale como indício, não como medida. O padrão que se repete nas análises é este: o conteúdo mais comum continua sendo o velho, uma foto verdadeira com legenda falsa, um vídeo de outro lugar e outro ano, um trecho de fala cortado para mudar o sentido.

Essa observação tem uma consequência prática que aparece em um dos casos brasileiros adiante. Quando um áudio verdadeiro é tirado de contexto e depois descrito como "falsificado com IA", ou quando um conteúdo comum é rotulado como deepfake para parecer mais grave, o problema deixa de ser técnico e volta a ser o de sempre: de que modo se enquadra, se corta e se rotula uma prova.

A técnica: por que o áudio é o formato mais perigoso ​

Entre os formatos sintéticos, o áudio é o mais traiçoeiro por motivos que vale entender, porque ajudam a escolher a defesa. Uma gravação de voz não tem rosto para conferir. É fácil esconder imperfeições numa qualidade ruim de telefone, como a que parece comum em uma ligação gravada às escondidas. Circula bem em aplicativos de mensagens fechados, onde, como mostrou o capítulo 8, a checagem pública chega devagar. E combina com o tipo de escândalo mais eficaz, a conversa privada flagrada, que o público já está disposto a acreditar existir.

O momento de lançamento também faz parte da técnica. Peças dessa natureza tendem a aparecer na janela em que a vítima pode menos se defender: véspera de votação, silêncio eleitoral, madrugada de fim de semana. Pelo desenho, o objetivo nem sempre é convencer a maioria. Pode bastar plantar dúvida num grupo pequeno e decisivo, ou apenas gastar o tempo e a atenção da campanha atingida. A medida de sucesso para quem lança o material, portanto, é diferente da medida de quem o estuda. Para o autor, vale a dúvida produzida na hora certa. Para o pesquisador, importa a mudança de voto, que quase nunca se consegue medir.

O caso: o telefonema com a voz de Biden ​

Em 21 de janeiro de 2024, dois dias antes das primárias presidenciais do Partido Democrata em New Hampshire, milhares de eleitores do estado receberam uma ligação automática, um robocall, com uma voz que imitava a do presidente Joe Biden. A mensagem pedia que os eleitores guardassem o voto para novembro, com uma frase que o Departamento de Justiça de New Hampshire transcreveu: o voto faria diferença em novembro, e não naquela terça-feira. O número que aparecia no identificador de chamadas fora adulterado para parecer o de uma dirigente local do partido. O conteúdo era falso: Biden não gravou aquilo, e o voto na primária era legítimo e válido.

A investigação avançou rápido. Em fevereiro, o Departamento de Justiça estadual identificou a origem técnica das chamadas em uma empresa do Texas e apontou a operadora Lingo Telecom como a transmissora. O consultor político Steve Kramer, que prestava serviços a um candidato rival na primária, admitiu publicamente ter encomendado a mensagem. A Comissão Federal de Comunicações, a FCC, agiu em duas frentes. Em agosto de 2024, fechou acordo com a Lingo Telecom, com multa de 1 milhão de dólares e um plano de adequação para verificação de identidade de chamadas. Em setembro de 2024, fixou em 6 milhões de dólares a multa contra Kramer, calculada sobre 3.000 chamadas verificadas, ao valor de 2 mil dólares cada; a agência registrou, no total, 9.581 chamadas ligadas ao esquema. Na decisão, a FCC afirmou que Kramer usou tecnologia de IA para clonar a voz do presidente e enganar eleitores.

O desfecho criminal foi diferente. Kramer foi processado em New Hampshire por supressão de voto e por se passar por candidato, 22 acusações no total, 11 de cada tipo. Em 13 de junho de 2025, um júri o absolveu de todas. Segundo a imprensa, Kramer declarou que não pagaria a multa da FCC, que é de natureza civil e continua de pé. Os motivos da absolvição não cabem a este livro adivinhar, e o veredito do júri não significa que o telefonema fosse legítimo. Significa que a acusação não convenceu os jurados, nos termos exigidos pela lei criminal, de que o réu cometeu os crimes específicos pelos quais foi acusado. Segundo relatos, a defesa sustentou que a ação tinha caráter de alerta sobre os riscos da inteligência artificial; não consegui verificar o conteúdo exato da tese nem como o júri a recebeu.

Há três lições nesse caso. A primeira é que o mecanismo mais efetivo de resposta foi regulatório e sobre o canal: a FCC atingiu a operadora e o consultor com instrumentos que já existiam para ligações automáticas, sem precisar de uma lei específica sobre IA. A segunda é que a punição criminal de uma peça enganosa é difícil, porque exige provar intenção e se encaixar em tipos penais pensados para outro tipo de conduta. A terceira é que a escala do dano é incerta: as estimativas sobre quantos eleitores receberam e foram influenciados variam, e a própria FCC calculou a multa sobre as 3.000 chamadas que conseguiu verificar, bem abaixo do total que registrou. Não há evidência pública de que o telefonema tenha mudado o resultado da primária.

O caso: a resposta brasileira e a Resolução 23.732 ​

O Brasil escolheu regular o tema antes de ter um escândalo de grande porte. Em 27 de fevereiro de 2024, o Tribunal Superior Eleitoral aprovou a Resolução 23.732, que alterou a norma geral de propaganda eleitoral, a Resolução 23.610 de 2019, em vista das eleições municipais daquele ano. O texto, publicado no começo de março, fez três coisas principais.

Primeiro, admitiu o uso de inteligência artificial na propaganda, com a condição de que o conteúdo sintético seja identificado de forma explícita e destacada, com indicação da tecnologia utilizada. Em materiais impressos, a regra exige a mesma declaração. Segundo, proibiu o deepfake. Pelo art. 9º-C, é vedado usar, para prejudicar ou favorecer candidatura, conteúdo sintético em áudio, vídeo ou ambos, gerado ou manipulado digitalmente para criar, substituir ou alterar imagem ou voz de pessoa viva, falecida ou fictícia. Segundo a interpretação de decisões do tribunal, essa vedação é objetiva: independe de provar que o eleitor foi enganado. Terceiro, previu sanções que chegam à cassação do registro ou do mandato de quem usar a técnica. Em 2 de março de 2026, segundo as fontes que consultei, o tribunal publicou nova resolução, a 23.755, que atualiza as de 2019 e 2024; não consegui verificar todas as alterações, e o leitor que precisar do texto vigente deve consultá-lo no portal do TSE.

O debate de fundo é o do capítulo 10, com um ângulo novo. Quem defende a regra argumenta que a imitação realista da voz de um candidato, em qualquer direção, corrói o terreno comum da disputa, e que esperar a prova de dano concreto significaria agir tarde. Quem a critica argumenta que a vedação objetiva e ampla pode alcançar a sátira, a paródia e a crítica política, formas tradicionais e protegidas de expressão, e que a resolução, escrita pelo tribunal que depois a aplica, dá a um órgão só o papel de legislador e de juiz. Os dois argumentos são sérios, e a jurisprudência recente mostra o tribunal tentando acomodá-los, como se verá.

O caso: deepfakes nas eleições municipais de 2024 ​

A primeira eleição sob a nova regra rendeu casos de pequeno porte, que são úteis justamente por isso. Em Costa Rica, no Mato Grosso do Sul, um pré-candidato foi multado em 10 mil reais por uma justiça eleitoral local por um áudio atribuído ao então prefeito, divulgado num grupo de mensagens. Segundo a cobertura da época, o material ofendia moradores e a juíza concluiu que a semelhança da voz com a do prefeito decorria de inteligência artificial. Mas a reportagem especializada registrou um detalhe importante: o conteúdo não passou por perícia, e o que se descreveu foi uma montagem que tirava de contexto uma fala verdadeira do prefeito. O réu negou ter sido o responsável pela divulgação. Eu não localizei o resultado de eventual recurso. O caso é o exemplo claro do que o capítulo apontou antes: o mundo real mistura síntese, edição e descontextualização, e o rótulo "deepfake" não tem sempre uma fronteira nítida.

Em Teófilo Otoni, em Minas Gerais, a história é mais grave e ainda mais instável. Um áudio atribuído ao então candidato Tarcirlei Mariniello, do PT, com a frase "nem Deus nos tira essa eleição", circulou no dia da eleição, acompanhado de um vídeo que o ligava ao naufrágio do Titanic. A Polícia Federal concluiu, com 99,8% de certeza, segundo a cobertura, que o áudio era digitalmente manipulado. O prefeito eleito, Fábio Marinho, do PL, e quatro aliados foram multados em primeira instância por uso de conteúdo falso. Em 12 de novembro de 2025, o Tribunal Regional Eleitoral de Minas Gerais anulou a sentença por cerceamento de defesa, e o processo voltou à fase de provas, com dezenas de testemunhas a ouvir. Se houver condenação futura, a lei permite cassação do mandato e inelegibilidade. Até a data de fechamento deste capítulo, não encontrei decisão final, e a regra do livro é inequívoca: o prefeito e seus aliados são acusados, não condenados por esses fatos, e a sentença original foi anulada. A reportagem que consultei também não explica a ligação entre Marinho e o autor do áudio, e o capítulo não vai preenchê-la.

O padrão de 2024 foi, em suma, de poucos casos, de baixo alcance e de processos lentos. Isso é compatível com a hipótese cética de que a técnica ainda tem dificuldade de se transformar em ataque efetivo. É compatível também com a hipótese oposta, de que a detecção e a responsabilização são tão lentas que o efeito já terá ocorrido muito antes da multa. A evidência disponível não permite escolher entre as duas.

O caso: 2026, o mesmo árbitro, lados trocados ​

A eleição geral de 2026 trouxe o tema para o centro do embate presidencial. Os fatos a seguir estão datados, e nenhum deles trata de resultado eleitoral. O estado descrito é o de 30 de outubro de 2026.

Em 20 de agosto, o ministro André Mendonça determinou a remoção, em 24 horas, de um vídeo no Instagram do perfil "Brasil Sátira do Poder", a pedido do Partido Liberal. O vídeo usava inteligência artificial para mostrar o senador Flávio Bolsonaro, candidato do PL à Presidência, em situações que não aconteceram, associando-o a Daniel Vorcaro, fundador do Banco Master, com imagens ligadas a dinheiro, e vinha com a legenda de que era uma sátira musical. Mendonça classificou o conteúdo como deepfake, porque as imagens eram fotorrealistas, e observou que o vídeo não informava claramente o uso de IA. Disse também que o humor pode ser relevante na análise, mas não afasta a caracterização de conteúdo sintético. A questão da propaganda antecipada negativa ficou para depois da defesa do responsável pelo perfil, que afirmou que o material já fora retirado.

Em 1º de setembro, o plenário do TSE julgou o caso inverso. A Federação Brasil da Esperança, composta por PT, PCdoB e PV, pedia multa contra Flávio Bolsonaro por um vídeo exibido na convenção do PL que oficializou a candidatura dele, em que uma recriação por inteligência artificial da imagem e da voz de Jair Bolsonaro manifestava apoio ao filho. Por 4 votos a 3, o tribunal rejeitou a multa. O relator, o presidente do TSE, ministro Kassio Nunes Marques, foi acompanhado por André Mendonça, Dias Toffoli e Antonio Carlos Ferreira, e a maioria entendeu que a manifestação, ocorrida em convenção partidária, não configurava propaganda eleitoral antecipada, e que a transmissão pela internet não a transforma, por si só, em propaganda dirigida ao eleitorado. Ficaram vencidos Cueva, Floriano de Azevedo Marques e Estela Aranha.

O julgamento fixou também um critério de definição, por 5 votos a 2: só é deepfake o conteúdo com grau de realismo capaz de parecer um registro autêntico, e conteúdos de caráter artificial evidente, como memes, caricaturas e animações, não são deepfake apenas por usar IA. Segundo a cobertura, a proibição específica só vale quando o conteúdo se caracteriza como propaganda eleitoral. Cueva e Floriano de Azevedo Marques ficaram vencidos nesse ponto. A cobertura que li não informa se o vídeo exibido na convenção tinha rótulo de IA nem se permaneceu no ar.

Em outubro, os casos continuaram a chegar dos dois lados. Segundo reportagem de 14 de outubro, o ministro Marco Aurélio Bellizze determinou que Jorge Messias, identificado pelo veículo como ministro da Advocacia-Geral da União, apagasse em 24 horas um vídeo feito com IA em apoio à reeleição do presidente Lula, divulgado no sábado 10 de outubro, a pedido da campanha de Flávio Bolsonaro. O ministro entendeu que a peça era propaganda eleitoral com conteúdo sintético, sem a identificação exigida, e registrou que "o idoso, a criança, o cenário e as vozes não correspondem ao registro de uma cena real". O caso foi enviado ao plenário para avaliar se houve intenção de prejudicar a campanha do adversário. Em outro processo, segundo reportagem que li apenas em resumo, o presidente do tribunal considerou que um clipe de jingle da campanha do candidato Romeu Zema, mostrando Lula e ministros do Supremo em trajes de presidiário, não era deepfake, porque a animação não tentava reproduzir de forma realista as pessoas, embora tenha mandado retirá-lo por outra razão. Também em outubro, ainda segundo noticiário, o tribunal mandou remover conteúdo de IA que associava o presidente a organizações criminosas.

O quadro é suficiente para fazer o teste de simetria. Pelos fatos que apurei, o tribunal decidiu contra conteúdo sintético que atingia o candidato do PL, contra conteúdo sintético que beneficiava o candidato do PT, e a favor do PL no caso da convenção, em decisão apertada. Também aplicou a ideia de que a ausência de rótulo, e não a mera presença de IA, é o ponto de falha, nos casos de Mendonça e Bellizze, e a ideia de que a sátira evidente fica fora do conceito, no critério de setembro. A tabela abaixo organiza o que foi dito, sem pretender medir quem fez mais.

Data (2026)ConteúdoQuem pediuDecisão
20 de agostoIA com Flávio Bolsonaro e Vorcaro, "sátira"PLRemoção em 24 horas (Mendonça), sem rótulo
1º de setembroIA de Jair Bolsonaro na convenção do PLFederação PT, PCdoB e PVMulta rejeitada por 4 a 3; critério de realismo
OutubroIA pró-Lula, "carreata do Lulinha"Campanha de Flávio BolsonaroRemoção em 24 horas (Bellizze), sem rótulo

Duas ressalvas pedem registro. Primeira: o número de casos conhecidos por mim é uma amostra de notícias, não um levantamento dos autos, e mostrar que a regra foi aplicada aos dois lados em alguns casos não prova que a aplicação foi equilibrada no conjunto, tal como o capítulo 10 já advertiu sobre contagens de decisões sem denominador. Segunda: a diferença de resultado entre os casos não decorre apenas do lado político. Depende do tipo de conteúdo, do realismo, do rótulo, do pedido feito e do ministro sorteado, e quatro votos a três, no caso da convenção, mostram que o próprio tribunal não tem consenso sobre onde fica a linha.

O dividendo do mentiroso ​

Em 2019, os professores de direito Robert Chesney e Danielle Citron publicaram na California Law Review um artigo sobre os desafios dos deepfakes para a privacidade, a democracia e a segurança nacional. Entre as ideias do texto, a que mais circulou depois foi a que eles chamaram de "dividendo do mentiroso": à medida que o público aprende que vídeos e áudios podem ser falsificados, quem foi flagrado em algo verdadeiro ganha uma desculpa nova, a de dizer que a prova é falsa. Os autores escreveram que os deepfakes tornam mais fácil, para quem mente, escapar da responsabilização por coisas que de fato aconteceram.

O mecanismo é o inverso do deepfake comum e, em certo sentido, mais econômico. Não exige fabricar nada. Basta lançar a dúvida sobre a autenticidade. O exemplo mais claro que consegui verificar não envolve gravação nenhuma, mas uma fotografia. Em agosto de 2024, o então ex-presidente Donald Trump afirmou numa rede social que a foto de uma multidão num comício da candidata Kamala Harris, em um aeroporto do estado de Michigan, havia sido criada por inteligência artificial e que não havia ninguém lá. A foto era real. Foi publicada primeiro por uma integrante da campanha da candidata, a campanha negou qualquer alteração por IA, o perito em forense digital Hany Farid analisou a imagem e não encontrou evidência de manipulação, e vídeos e fotos de outras origens, incluindo agências de notícias, mostravam uma multidão similar. A única alteração documentada na versão que circulou foi de brilho e recorte. A cobertura jornalística chamou a afirmação de falsa.

Este exemplo é útil por três motivos. Primeiro, serve de lembrete de simetria: a tática de negar com "foi IA" não pertence a um partido nem a um país, e qualquer pessoa com poder pode usá-la, de qualquer lado. Segundo, mostra por que a verificação de autenticidade precisa ser feita com método, e não com palpite: o perito não olhou a imagem e opinou, rodou análise e cruzou com outras fontes. Terceiro, expõe o dilema da educação: ensinar o público a duvidar de áudios e vídeos aumenta a defesa contra a falsificação e aumenta também o espaço para a negação oportunista. Citron e Chesney admitem esse paradoxo, e a saída que propõem, em linhas gerais, é ensinar ao mesmo tempo que a falsificação existe e que a prova verdadeira pode ser autenticada. A dúvida educada e a dúvida preguiçosa são coisas diferentes.

Vale um cuidado sobre o que o exemplo não demonstra. Ele não prova que o "dividendo" seja um fenômeno de grande escala nem que tenha funcionado: a afirmação de Trump foi desmentida e, pelo que sei, não alterou o resultado de nenhum processo. Trata-se de um mecanismo plausível e documentado em episódios isolados, não de um efeito medido.

Proveniência, marcas d'água e o que a tecnologia resolve ​

A resposta técnica mais discutida é a de rotular a origem do conteúdo. Há duas famílias de abordagem. A primeira é a das credenciais de conteúdo, em que a ferramenta que cria ou edita um arquivo anexa a ele um registro assinado digitalmente com a sua origem e as alterações feitas. O padrão mais conhecido nessa linha é o da Coalizão para Proveniência e Autenticidade de Conteúdo, a C2PA, um consórcio de empresas de tecnologia e de mídia. A segunda é a das marcas d'água, sinais incorporados ao próprio arquivo, em geral imperceptíveis, que permitem identificar que algo foi gerado por determinada ferramenta. As versões mais recentes do padrão C2PA combinam as duas, usando marca d'água para recuperar as credenciais quando os metadados se perdem.

As limitações merecem ser ditas sem rodeios. Credenciais podem ser removidas, intencional ou acidentalmente, quando um arquivo é recomprimido ou republicado numa rede social. Marcas d'água podem ser degradadas ou contornadas, e dependem de que o criador da ferramenta as use, o que não vale para modelos de código aberto nem para ferramentas de quem não tem interesse em se identificar. Mais importante, um selo de proveniência diz de onde o arquivo veio, não se o que ele mostra é verdadeiro. Uma foto autêntica pode ser enganosa, e uma imagem sintética pode ser inofensiva ou legítima. Por isso, essas tecnologias servem melhor como prova positiva de autenticidade para quem quer ser acreditado, como uma redação ou uma instituição, do que como detector de falsificação. Os críticos acrescentam o custo de adoção e o risco de concentração do sistema em poucas empresas.

A detecção automática de conteúdo sintético tem um problema de natureza parecida, que o relatório de um estudo de caso da organização Partnership on AI sobre eleições chamou de dilema da detecção: divulgar como se detecta ajuda quem quer evitar a detecção. Na Eslováquia, um classificador foi usado depois da divulgação do áudio para confirmar a manipulação, o que mostra utilidade, mas também mostra o atraso. O resultado é uma corrida em que a detecção raramente chega antes da circulação.

Na regulação, a União Europeia fixou no art. 50 da Lei de Inteligência Artificial, adotada em 2024, obrigações de transparência para conteúdo sintético, incluindo a de informar que um deepfake foi gerado ou manipulado artificialmente. Segundo as fontes secundárias que consultei, essas obrigações passaram a valer em 2 de agosto de 2026, com prazo adicional para marcação legível por máquina em sistemas já no mercado, mas as fontes divergem sobre datas, e a leitura do regulamento original é indispensável a quem precise de precisão. No Brasil, além da norma eleitoral, a Lei 15.123, de abril de 2025, aumentou em metade a pena do crime de violência psicológica contra a mulher quando praticado com uso de inteligência artificial ou tecnologia que altere a imagem ou o som da vítima. A lei é específica: não criminaliza todo deepfake nem todo nu falso fora desse tipo penal, e a interpretação jurídica continua em formação.

Fora do Brasil, os registros de 2024 mostram casos de natureza distinta. Na Índia, vídeos falsos de atores de Bollywood criticando o primeiro-ministro e pedindo voto na oposição circularam em abril, segundo a agência Reuters. Na Indonésia, o partido Golkar divulgou um vídeo recriando o ex-ditador Suharto, morto em 2008, pedindo votos, e o partido o descreveu como um lembrete cívico, de acordo com a CNN. Essas referências vêm do dossiê, não foram reconferidas, e servem apenas para dizer que o fenômeno é global e que os usos não se limitam a ataques: campanhas também fabricam apoio, inclusive de pessoas mortas, o que levanta uma questão própria sobre consentimento e memória.

Verdades desconfortáveis ​

A primeira é que a maior parte do que você vai ver chamado de deepfake não é. Boa parte é edição comum, corte de contexto, imitador, legenda errada. Pesquisadores e advogados usam o termo de forma elástica, e jornais também. Quem aprende a ver deepfake em tudo perde a capacidade de discernir o que é mais barato de fazer e mais frequente, que é a mentira simples.

A segunda é que a proibição eleitoral, por mais bem intencionada, entrega ao tribunal o poder de decidir o que é realista, o que é sátira e o que é propaganda, em prazos de horas e em pleno período de campanha. Quem celebra a decisão quando o alvo é o adversário deveria perguntar o que acharia dela quando o alvo fosse o seu lado, e as decisões de 2026 mostram os dois cenários.

A terceira é que a regulação por rótulo tem um limite. Quem quer enganar não rotula. A obrigação funciona com quem já tem alguma disposição de cumprir a lei, e serve mais para criar base de responsabilização depois do fato do que para impedir o fato.

A quarta é que a tecnologia de proveniência pode virar um instrumento de poder. Se só circula como confiável o conteúdo assinado por certas empresas e instituições, quem não está nesse circuito, um cidadão filmando um abuso, um jornalista independente, passa a ser menos acreditado. A defesa da autenticidade não pode se tornar um monopólio da credibilidade.

A quinta é que o dividendo do mentiroso torna a vítima real de uma gravação verdadeira mais vulnerável do que a vítima de uma falsa. Um fato que existiu pode ser descartado como "IA". O remédio é a cadeia de custódia, a perícia e o jornalismo de confirmação, que são caros e lentos, e é por isso que a defesa institucional vale mais do que a pessoal.

Como se defender ​

Para você, como pessoa:

  • Desconfie do que chega com urgência, sobretudo às vésperas de votação: o objetivo declarado ou implícito de muitas dessas peças é agir antes que a checagem chegue.
  • Diante de um áudio ou vídeo chocante, pare antes de repassar. Procure a mesma notícia em veículos que verificam, na conta oficial da pessoa e em agências de checagem. A ausência de confirmação em minutos é informação.
  • Não use "parece falso" nem "parece verdadeiro" como critério. A percepção humana é um detector fraco de síntese, e confiar nela dá falsa segurança. Prefira a origem: quem publicou primeiro, com que contexto, com que registro.
  • Em ligação com voz familiar pedindo dinheiro ou ação urgente, desligue e retorne por um número que você já tinha. Combine com a família uma palavra de segurança, que só vocês conhecem.
  • Quando alguém negar uma gravação dizendo "é IA", peça o que sustenta a negação. A dúvida precisa de método tanto quanto a acusação.
  • Evite repassar mesmo para desmentir, se o desmentido reproduz a peça inteira; descreva a falsificação em palavras e aponte a fonte da checagem.

Para redações, campanhas, plataformas e instituições:

  • Tenha um canal rápido e conhecido para o público confirmar o que é seu, e um protocolo de resposta para os dias de silêncio e de fim de semana. A janela entre o lançamento e a checagem é o ponto crítico.
  • Redações: ao tratar um áudio ou vídeo suspeito, registre origem, tempo de circulação, perícia solicitada e nível de certeza. Escreva "não confirmado" quando for o caso, em vez de decidir pelo faro.
  • Campanhas: rotule todo conteúdo sintético que usar, inclusive o favorável, e guarde registro de como foi produzido. A regra vale para os dois lados, e o rótulo protege quem o usa.
  • Plataformas: trate denúncias de conteúdo sintético eleitoral com prioridade e tempo de resposta medido em horas, e publique balanços do que removeu e do que manteve.
  • Instituições públicas e empresas que dependem de voz e imagem para autorizar operações: não aceite identificação só por voz ou vídeo em transações importantes, e exija uma segunda via de confirmação.

Sinais de alerta ​

  • O conteúdo aparece no último dia ou na última hora, quando a vítima não pode responder.
  • A voz soa limpa demais ou, ao contrário, vem com ruído de telefone suspeitamente conveniente, e o áudio não tem origem identificável.
  • A peça só circula em mensagens encaminhadas, sem fonte primária ou veículo que a tenha obtido.
  • A gravação confirma exatamente o que o público já queria acreditar sobre a pessoa.
  • Quem defende a autenticidade ou a falsidade da peça é, por coincidência, o maior beneficiado por ela.
  • O rótulo "deepfake" ou "IA" é aplicado a um conteúdo por quem tem interesse em desqualificá-lo, sem perícia nem análise.

Exercícios ​

  1. Escolha um dos casos do capítulo (Eslováquia, New Hampshire, Costa Rica, Teófilo Otoni, uma das decisões de 2026). Reconstrua em uma página: o que foi divulgado, quando, por qual canal, quem respondeu, em quanto tempo, e o estado atual do processo, com a data em que você conferiu. Marque cada afirmação como confirmada em fonte primária, confirmada em reportagem ou não confirmada.

  2. Aplique o teste de simetria às decisões de 2026. Escreva, em cinco linhas, os fundamentos de cada uma das três decisões da tabela. Depois troque o candidato beneficiado e o candidato atingido e releia. Anote se os fundamentos se sustentam sem alteração.

  3. Monte um protocolo de uma página para uma campanha ou redação fictícia responder a um áudio suspeito nas 12 horas antes de uma votação. Defina quem decide, quais fontes consulta, que perícia pede, o que publica e com que palavras. O protocolo trata de resposta, não de produção.

  4. Leia o texto da Resolução 23.732 do TSE e a decisão do critério de realismo de 1º de setembro de 2026. Escreva dez linhas dizendo onde, na sua opinião, deveria ficar a fronteira entre sátira e deepfake, e que caso do capítulo ficaria do outro lado da sua fronteira. Entregue com uma objeção que alguém da posição oposta faria.

  5. Escreva uma explicação de 150 palavras sobre o "dividendo do mentiroso" para alguém que nunca ouviu o termo, com o exemplo do comício de 2024 e a ressalva sobre o que o exemplo não demonstra.

Prompt de estudo ​

Vou colar a descrição de uma decisão judicial ou administrativa sobre conteúdo sintético em campanha eleitoral. Extraia em tópicos: quem pediu, qual o conteúdo, qual a norma aplicada, qual o critério de decisão (realismo, rótulo, intenção, contexto), se houve voto divergente e o estado processual na data da decisão. Em seguida, aponte que argumentos os defensores da regulação e os defensores da liberdade de expressão fariam, com o mesmo peso. Não gere nem reescreva o conteúdo contestado.

Analise o texto abaixo, que descreve uma suposta gravação vazada. Liste, sem tentar reproduzi-la, as perguntas que um jornalista deveria responder antes de publicar: origem, cadeia de custódia, quem se beneficia, possibilidades de edição ou síntese, perícia necessária, e como redigir um texto que descreva a dúvida sem amplificá-la.

Fontes e leituras ​

Consultadas em 30 de outubro de 2026. Links só quando confirmados em busca; os demais itens vão por título e data.