A evolução da tecnologia mudou a dinâmica das campanhas políticas e está influenciando o resultado das eleições. As mídias sociais e as postagens online se tornaram essenciais na formação da opinião pública. E a inteligência artificial está tendo um impacto significativo, especialmente quando fraudadores usam deepfakes para influenciar e enganar os eleitores.
A eleição de 2024 já está esquentando e promete ser particularmente combativa, com declarações falsas e gritos de “notícias falsas” enquanto oponentes políticos difamam uns aos outros. E falsificações digitais ameaçam a integridade da realidade apresentada por cada candidato político. Espere ver uma onda de deepfakes se tornando virais pela internet enquanto gerentes de campanha e potências estrangeiras se esforçam para influenciar o resultado da eleição.
O que é Microsegmentação?
Microsegmentação é uma estratégia que transmite mensagens especificamente projetadas para influenciar eleitores falando sobre interesses ou vulnerabilidades pessoais, uma prática política amplamente considerada antiética. Esta técnica permite que os candidatos direcionem suas mensagens de forma altamente personalizada, aumentando a eficácia de suas campanhas. No entanto, a microsegmentação também levanta questões éticas, pois pode ser usada para manipular eleitores de maneira enganosa.
Impacto da Microsegmentação nas Campanhas Políticas
A microsegmentação tem se tornado uma ferramenta poderosa nas campanhas políticas modernas. Com o avanço da tecnologia e a disponibilidade de grandes volumes de dados, os candidatos podem segmentar seus eleitores com uma precisão nunca antes vista. Isso permite que as mensagens sejam altamente personalizadas, aumentando a probabilidade de ressonância com o eleitorado.
No entanto, a microsegmentação também tem um lado sombrio. A capacidade de direcionar mensagens de forma tão precisa pode ser usada para explorar vulnerabilidades pessoais e influenciar eleitores de maneira enganosa. Isso levanta questões éticas importantes sobre a manipulação e a privacidade dos dados dos eleitores.
Exemplos de Microsegmentação em Campanhas Políticas
Um exemplo clássico de microsegmentação é a campanha de Barack Obama em 2008. A equipe de Obama usou dados detalhados sobre os eleitores para criar mensagens altamente personalizadas. Isso incluiu o uso de e-mails, anúncios online e até mesmo contatos diretos para alcançar eleitores específicos com mensagens que ressoavam com suas preocupações e interesses.
Outro exemplo é a campanha de Donald Trump em 2016. A equipe de Trump usou dados de mídias sociais e outras fontes para segmentar eleitores e direcionar mensagens específicas para diferentes grupos. Isso incluiu o uso de anúncios no Facebook que eram altamente personalizados para diferentes segmentos do eleitorado.
Desafios Éticos da Microsegmentação
A microsegmentação levanta várias questões éticas. Uma das principais preocupações é a manipulação dos eleitores. A capacidade de direcionar mensagens de forma tão precisa pode ser usada para explorar vulnerabilidades pessoais e influenciar eleitores de maneira enganosa. Isso pode levar a uma erosão da confiança pública nas instituições democráticas.
Outra preocupação é a privacidade dos dados. A microsegmentação depende da coleta e análise de grandes volumes de dados pessoais. Isso levanta questões sobre como esses dados são coletados, armazenados e usados. A falta de transparência nesse processo pode levar a preocupações sobre a privacidade e a segurança dos dados dos eleitores.
Perigos da Vida Real de Deepfakes e Desinformação
A tecnologia deepfake usa IA generativa para alterar sons e imagens, criando fabricações realistas que são frequentemente indistinguíveis do original. O termo deepfake descreve tanto a tecnologia quanto o resultado, e geralmente envolve alterar uma imagem, vídeo ou áudio, mudando o conteúdo para personificar alguém ou alterar sua mensagem.
Exemplos de Deepfakes
Um dos deepfakes mais recentes e mais divulgados foi o falso sorteio de utensílios de cozinha da Taylor Swift, onde uma renderização deepfake da estrela pop oferece utensílios de cozinha gratuitos para os fãs como um chamariz de uma empresa de tecnologia. Um exemplo mais perturbador é o deepfake liberação do presidente Volodymyr Zelenskyy pedindo aos soldados ucranianos que se rendessem aos russos.
Impacto dos Deepfakes nas Eleições
Os deepfakes têm se tornado especialmente prevalentes na web para enganar consumidores e eleitores, muitas vezes com consequências perigosas. Jordan Peele até criou um anúncio de serviço público deepfake com um Presidente Obama gerado por computador para ilustrar o realismo dos deepfakes.
Atores mal-intencionados estão usando tecnologia de IA generativa como arma para disseminar desinformação e influenciar a opinião pública usando conteúdo alterado para personificar figuras políticas como o presidente Joe Biden. A mesma tecnologia deepfake está sendo usada para gerar conteúdo da web, robocalls e outros conteúdos disseminados em vários canais de mídia.
Como Você Pode Confiar no que Vê?
Como a GenAI cria confusão durante as eleições, é importante entender como a tecnologia pode ser usada tanto para o bem quanto para o mal. A GenAI pode ser inestimável para qualquer programa de marketing, incluindo campanhas políticas. A IA é uma maneira econômica de criar anúncios direcionados e programas de marketing personalizados, como gerar e-mails personalizados.
A IA generativa também é útil para segmentação de mercado, simplificando a segmentação por demografia, renda, geografia e outros critérios. Quando aplicada apropriadamente, a IA permite que até mesmo as menores campanhas aumentem seu impacto por meio de publicidade direcionada.
Desafios da IA Generativa
A mesma tecnologia, no entanto, pode ser usada para enviar desinformação direcionada. Deepfakes podem ser usados para disseminar endossos falsos para propaganda política enganosa. E com os mesmos eleitores que são alvos de mensagens deepfake também recebendo e-mails de campanha legítimos, a confusão e a desconfiança dos eleitores estão aumentando.
Campanhas políticas também precisam ser cautelosas com vieses inerentes a sistemas de IA. Modelos de IA generativa usam grandes conjuntos de dados para treinar respostas, incluindo dados históricos, informações públicas e conteúdo da web — incluindo os vieses inerentes a essas fontes.
Atores ruins também usam IA generativa para criar bots, ou contas automatizadas em mídias sociais projetadas para espalhar desinformação. Por exemplo, em 2017, bots de mídia social misturaram informações falsas em uma campanha contra Emmanuel Macron, inundando a mídia social antes das eleições francesas.
Como as Empresas e os Governos Estão Reagindo
Deepfakes representam a mais recente fraude digital, e a detecção é um problema contínuo. O primeiro passo para combater deepfakes políticos é reconhecer o problema e se comprometer com uma solução.
Iniciativas das Principais Empresas de Tecnologia
As principais empresas de tecnologia já estão se destacando. Na Conferência de Segurança de Munique, Adobe, Amazon, Google, IBM, Meta, Microsoft, OpenAI e TikTok se comprometeram a adotar uma estrutura voluntária para responder a deepfakes projetados para enganar eleitores.
Algumas organizações, como a Attestiv, fornecem tecnologias de solução deepfake que são eficazes para proteger organizações como seguradoras e empresas de mídia. O acordo exige que os participantes detectem e rotulem deepfakes em suas plataformas em vez de bani-los e removê-los. Esta não é uma solução, mas é um primeiro passo para facilitar a identificação de mensagens deepfake.
Legislação e Regulação
Embora ainda não haja legislação federal proibindo anúncios políticos deepfake, houve algum progresso. Alguns governos estaduais estão trabalhando para controlar deepfakes por meio de legislação. Os estados já têm leis que tornam a representação ilegal, mas a maioria foi promulgada antes da internet.
Muitos estados estão promulgando nova legislação proibindo especificamente o uso de “deepfakes”, “mídia sintética” ou “mídia enganosa” em campanhas políticas. No ano passado, Minnesota foi um dos primeiros estados a tornar crime o uso de deepfakes para influenciar eleições. A Comissão Federal de Comunicações também decidiu que chamadas de voz geradas por IA ou robocalls são ilegais.
Como a IA Pode Detectar Adulteração
Detectar deepfakes ainda é uma questão crítica. Autoridades policiais, plataformas de mídia e eleitores precisam estar vigilantes e atentos à tecnologia predatória. Questionar o que você vê online ou em tópicos de mídia social é um começo. No entanto, precisa haver um teste decisivo para autenticidade.
Tecnologia de Detecção de Deepfakes
Ironicamente, a mesma tecnologia responsável por gerar deepfakes também pode ser usada para detectá-los. Assim como a IA generativa pode ser usada para alterar fotos, vídeos e áudio, ela também pode ser usada para analisar conteúdo em busca de anomalias que revelem quando o conteúdo foi alterado ou se há anomalias em seus metadados. A tecnologia alimentada por IA pode escanear conteúdo e destacar seções que podem ter sido alteradas, até mesmo fornecendo uma pontuação de confiança para refletir a probabilidade de adulteração.
Fingerprint e Marca D’água
Essa tecnologia também pode fazer fingerprint ou marca d’água em conteúdo digital como autêntico ou gerado por IA. Embora os padrões e soluções estejam progredindo para facilitar a identificação de arquivos de foto, vídeo, áudio ou documento, é improvável que seu uso seja generalizado em 2024, e é ainda menos provável que sejam usados por partes que desejam espalhar desinformação.
Mantenha-se Criterioso Nesta Temporada Eleitoral
Identificar e rotular deepfakes pode ajudar a combater a desinformação durante uma eleição, mas o volume de conteúdo deepfake está crescendo, e apenas fontes de mídia selecionadas provavelmente adotarão a detecção de deepfakes. Em última análise, a melhor defesa contra deepfakes é a educação e o uso de ferramentas de detecção disponíveis.
Educação e Conscientização
Para o primeiro, o público deve estar mais ciente de deepfakes e mais criterioso sobre informações digitais. Assim como os consumidores aprenderam a identificar tentativas de phishing, os eleitores devem aprender a identificar desinformação. Um lugar para começar é confiar apenas em fontes confiáveis de informação. Também vale a pena verificar conteúdo questionável em outros sites confiáveis. Candidatos políticos também podem revidar com campanhas de conscientização pública.
Ferramentas de Detecção
Para o último, agora é a hora de construir uma defesa de ferramentas para ajudar a discernir as falsificações. A tecnologia está permitindo novos canais para alcançar os eleitores e fornecendo novas ferramentas para enganar os eleitores com informações fabricadas. Combater os deepfakes exigirá uma combinação de tecnologia e educação pública.
Líderes de tecnologia e empresas de mídia social devem ser mais agressivos na identificação, rotulagem e remoção de deepfakes. Os eleitores também devem ter cuidado para distinguir entre informações genuínas e falsas nesta era de IA em rápida evolução.
Perguntas Frequentes
1. O que são deepfakes e como eles afetam as eleições?
Deepfakes são fabricações realistas criadas usando IA generativa para alterar sons e imagens. Eles podem ser usados para enganar eleitores e influenciar a opinião pública, ameaçando a integridade das eleições. Deepfakes podem personificar figuras políticas e alterar suas mensagens, criando confusão e desconfiança entre os eleitores.
2. Quais são os perigos da microsegmentação nas campanhas políticas?
A microsegmentação é uma estratégia que transmite mensagens especificamente projetadas para influenciar eleitores falando sobre interesses ou vulnerabilidades pessoais. Embora eficaz, a microsegmentação levanta questões éticas sobre a manipulação e a privacidade dos dados dos eleitores. A capacidade de direcionar mensagens de forma tão precisa pode ser usada para explorar vulnerabilidades pessoais e influenciar eleitores de maneira enganosa.
3. Como a tecnologia de IA generativa pode ser usada para detectar deepfakes?
A tecnologia de IA generativa pode ser usada para detectar deepfakes analisando conteúdo em busca de anomalias que revelem quando o conteúdo foi alterado ou se há anomalias em seus metadados. A tecnologia alimentada por IA pode escanear conteúdo e destacar seções que podem ter sido alteradas, até mesmo fornecendo uma pontuação de confiança para refletir a probabilidade de adulteração.
4. Quais são as iniciativas das principais empresas de tecnologia para combater deepfakes?
As principais empresas de tecnologia, como Adobe, Amazon, Google, IBM, Meta, Microsoft, OpenAI e TikTok, se comprometeram a adotar uma estrutura voluntária para responder a deepfakes projetados para enganar eleitores. Essas empresas estão desenvolvendo tecnologias de solução deepfake que são eficazes para proteger organizações como seguradoras e empresas de mídia.
5. Como os eleitores podem se proteger contra deepfakes durante as eleições?
Os eleitores podem se proteger contra deepfakes sendo mais cientes e criteriosos sobre informações digitais. Eles devem confiar apenas em fontes confiáveis de informação e verificar conteúdo questionável em outros sites confiáveis. Candidatos políticos também podem revidar com campanhas de conscientização pública. Além disso, os eleitores devem usar ferramentas de detecção disponíveis para ajudar a discernir as falsificações.
Conclusão
A evolução da tecnologia mudou a dinâmica das campanhas políticas e está influenciando o resultado das eleições. As mídias sociais e as postagens online se tornaram essenciais na formação da opinião pública. E a inteligência artificial está tendo um impacto significativo, especialmente quando fraudadores usam deepfakes para influenciar e enganar os eleitores.
A eleição de 2024 já está esquentando e promete ser particularmente combativa, com declarações falsas e gritos de “notícias falsas” enquanto oponentes políticos difamam uns aos outros. E falsificações digitais ameaçam a integridade da realidade apresentada por cada candidato político. Espere ver uma onda de deepfakes se tornando virais pela internet enquanto gerentes de campanha e potências estrangeiras se esforçam para influenciar o resultado da eleição.
Para combater os deepfakes, é importante que as empresas de tecnologia e os governos reconheçam o problema e se comprometam com uma solução. As principais empresas de tecnologia já estão se destacando, desenvolvendo tecnologias de solução deepfake que são eficazes para proteger organizações como seguradoras e empresas de mídia.
Embora ainda não haja legislação federal proibindo anúncios políticos deepfake, houve algum progresso, com alguns governos estaduais trabalhando para controlar deepfakes por meio de legislação.
Detectar deepfakes ainda é uma questão crítica. Autoridades policiais, plataformas de mídia e eleitores precisam estar vigilantes e atentos à tecnologia predatória. Questionar o que você vê online ou em tópicos de mídia social é um começo. No entanto, precisa haver um teste decisivo para autenticidade.
A mesma tecnologia responsável por gerar deepfakes também pode ser usada para detectá-los. Assim como a IA generativa pode ser usada para alterar fotos, vídeos e áudio, ela também pode ser usada para analisar conteúdo em busca de anomalias que revelem quando o conteúdo foi alterado ou se há anomalias em seus metadados.
Identificar e rotular deepfakes pode ajudar a combater a desinformação durante uma eleição, mas o volume de conteúdo deepfake está crescendo, e apenas fontes de mídia selecionadas provavelmente adotarão a detecção de deepfakes. Em última análise, a melhor defesa contra deepfakes é a educação e o uso de ferramentas de detecção disponíveis.
Para o primeiro, o público deve estar mais ciente de deepfakes e mais criterioso sobre informações digitais. Assim como os consumidores aprenderam a identificar tentativas de phishing, os eleitores devem aprender a identificar desinformação. Um lugar para começar é confiar apenas em fontes confiáveis de informação. Também vale a pena verificar conteúdo questionável em outros sites confiáveis. Candidatos políticos também podem revidar com campanhas de conscientização pública.
Para o último, agora é a hora de construir uma defesa de ferramentas para ajudar a discernir as falsificações. A tecnologia está permitindo novos canais para alcançar os eleitores e fornecendo novas ferramentas para enganar os eleitores com informações fabricadas.
Combater os deepfakes exigirá uma combinação de tecnologia e educação pública. Líderes de tecnologia e empresas de mídia social devem ser mais agressivos na identificação, rotulagem e remoção de deepfakes. Os eleitores também devem ter cuidado para distinguir entre informações genuínas e falsas nesta era de IA em rápida evolução.
Saiba Mais! 
