Entenda como diferenciar o real do sintético e como a IA pode ser empregada para espalhar desinformação
Longe do tempo em que Inteligência Artificial (IA) era um conceito ambicioso, presente apenas em filmes de ficção científica, hoje em dia seu uso é amplo, aplicado até a tarefas cotidianas. E uma das formas mais populares e difundidas dessa tecnologia é a IA generativa. Ferramentas como ChatGPT, Gemini e outras são capazes de criar novos textos, imagens e até vídeos a partir de comandos do usuário, com base em dados previamente inseridos durante seu desenvolvimento. Com enorme potencial para se tornar uma aliada da produtividade e criatividade humana, a popularização da IA também traz preocupações.
Imagine o seguinte: você recebe um áudio encaminhado por um colega, em um aplicativo de mensagens, com uma fala inaceitável de um político local, supostamente gravada por alguém de seu gabinete. Você não pode confirmar a veracidade da gravação, mas a voz é idêntica, e a pessoa que encaminhou a mensagem é confiável. Você acreditaria na mensagem? Encaminharia para outras pessoas?
A situação citada poderia se tratar de deepfake, imagens e sons que imitam pessoas reais, mas criados por IA, sem qualquer envolvimento das pessoas representadas. Além de vídeos com músicas engraçadas e animais inusitados, ou montagens de pessoas abraçadas com suas celebridades favoritas, a IA pode ser utilizada para espalhar desinformação. Montagens e textos que antes demandavam muito tempo, esforço e recursos técnicos sofisticados, não acessíveis a qualquer um, agora podem ser feitos em poucos minutos com a ferramenta escolhida. Isso acaba facilitando a criação de conteúdo falso com propósitos lesivos.
Como identificar textos gerados por IA
Apesar de existirem ferramentas para detecção de textos escritos por máquina, muitas elaboradas com a própria IA, o fato é que elas podem não ser confiáveis e têm baixo índice de sucesso. Textos feitos por IA são por vezes difíceis de apontar, mas é possível desconfiar daqueles com informações incoerentes, ou que apresentem informações incorretas com muita confiança – as chamadas “alucinações”.
Esses textos costumam abusar dos clichês, ao mesmo tempo em que evitam o uso de metáforas e expressões de sentido figurado, ou as definem incorretamente. Desenvolvimento falho de ideias, generalizações constantes e conclusões imprecisas também são comuns.
Assim, um texto aparentemente bem escrito, sem erros de ortografia e gramática grosseiros, mas com muitos clichês, repetições e incoerências pode ser fruto de IA.
Como identificar imagens geradas por IA
O sinal mais óbvio de que uma imagem foi gerada por IA é normalmente encontrado nas mãos. Seis dedos e posições anormais não são raras, mas as ferramentas estão cada vez melhores em replicar mãos humanas com fidelidade, então é importante reconhecer outros sinais.
A textura da pele chama atenção, é excessivamente lisa, como se houvesse um filtro sobre a imagem. Além disso, um grande ponto fraco de imagens e vídeos gerados por IA são os textos, que quase sempre aparecem como caracteres ilegíveis e distorcidos. Logos de marcas também aparecem embaralhados.
Como identificar vídeos gerados por IA
Além das dicas dadas para identificação de imagens, é possível citar detalhes específicos dos vídeos. Sincronia dos lábios com as palavras sendo ditas, microexpressões faciais pouco naturais, objetos que desaparecem e reaparecem, ou ações que quebram as leis da física são os maiores fatores para reconhecimento de um vídeo sintético.
Muitos deles incluem imagens e narrações, ambas feitas com IA. As vozes da narração podem ser robóticas, os títulos sensacionalistas e o conteúdo usar linguagem alarmista sem citar fontes precisas.
É recomendável utilizar a busca reversa para imagens e frames de vídeos quando se duvida da veracidade dos fatos. Ao inserir a imagem em uma ferramenta de busca, serão mostrados outros sites em que ela foi publicada, se houver.
Esforços coletivos e individuais
A Justiça Eleitoral passou a disciplinar a utilização de IA em propagandas eleitorais com a Resolução nº 23.732/2024, proibindo deepfakes e tornando obrigatória a sinalização de emprego de IA nas peças de campanha. O artigo 9-E da norma ainda estabelece responsabilização solidária de provedores que não retirem do ar, imediatamente, materiais com desinformação, discurso de ódio e antidemocrático, entre outros. O Tribunal Regional Eleitoral de São Paulo produziu uma cartilhainformando quais condutas são permitidas pela lei eleitoral.
A IA está constantemente se aperfeiçoando e os detalhes que podem alertar sobre a sua presença estão cada vez mais sutis. Como o acesso a ferramentas de detecção de IA é limitado, é necessário que existam políticas públicas focadas em educação midiática e informacional.
O Glossário de termos-chave do Programa de Combate à Desinformação do STF define educação midiática como uma forma de desenvolver a capacidade para lidar criticamente com produções digitais. Já a educação informacional busca fortalecer a capacidade de avaliar a credibilidade da informação.
Na esfera individual, o mais importante é que exista uma mudança de postura em cidadãs e cidadãos, usuários assíduos de redes sociais e grupos de aplicativos de mensagem. É saudável nutrir um pouco de ceticismo, aquela pulga atrás da orelha, pensar criticamente sobre cada conteúdo que se apresenta on-line. Ao prestar atenção aos detalhes, é possível identificar padrões que revelam a origem artificial, ou sintética do material.
Justiça Eleitoral contra a desinformação
No combate ativo contra a desinformação, a Justiça Eleitoral disponibiliza a cidadãs e cidadãos o Sistema de Alertas de Desinformação Eleitoral (SIADE). A ferramenta possibilita a qualquer pessoa denunciar desinformação, inclusive aquela propagada com o uso de IA, ameaças à democracia e discurso de ódio. O SIADE é parte do Programa Permanente de Enfrentamento à Desinformação da Justiça Eleitoral (PPED), que inclui uma coalizão para checagem de notícias falsas relacionadas ao processo eleitoral, a página Fato ou Boato, que centraliza verificações de informações falsas pertinentes ao sistema eleitoral, e mais. Da mesma forma, o TRE-SP mantém uma página em seu site que desmente notícias falsas e boatos relativos ao estado de São Paulo, o Verifica TRE-SP.
Em janeiro, a Revista Eletrônica de Direito Eleitoral e Sistema Político (Redesp) trouxe em sua 15ª edição o artigo “Eleições e desinformação: como a inteligência artificial influencia as campanhas e as propagandas eleitorais?”, explorando o impacto da IA nas campanhas eleitorais com base em estudo de casos recentes. A publicação é organizada pela Escola Judiciária Eleitoral Paulista (Ejep).
Saiba como identificar fake news ou desinformação
Revista de direito eleitoral do TRE-SP traz análises sobre uso da inteligência artificial nas campanhas e participação de idosos e mulheres negras na política
Fake news x desinformação: entenda qual é a diferença entre os termos
Mais informações: imprensa@tre-sp.jus.br
Veja mais notícias do TRE-SP.
