05. Os Impactos das Tecnologias Digitais na Democracia

Os Impactos das Tecnologias Digitais na Democracia

• Interferência tecnológica na democracia, propaganda computacional e o risco de totalitarismo tecnológico, incluindo as máquinas de mentiras.

Interferência Tecnológica na Democracia em 2020

• A manipulação da opinião pública através das redes sociais é uma ameaça para a democracia.
• Industrialized Disinformation: 2020 Global Inventory of Organized Social Media Manipulation aponta a manipulação de media sociais organizada.
• Isso se manifesta no contexto do DEMTECH(Programme on democracy and Technology) e no Oxford Internet Institute.

Propaganda Computacional

• Propaganda consiste na criação de notícias e informações enganosas ao serviço de interesses políticos.
• As informações são distribuídas por algoritmos nas redes sociais.
• Em 81 países, há evidências do uso ferramentas, capacidades, estratégias e recursos para manipular a opinião pública, através de cyber-troops.
• Cyber-troops são agentes governamentais ou de partidos políticos cuja missão é manipular a opinião pública online (evolução entre 2016 e 2020).

Países com Evidências de Propaganda Computacional

• Angola, Argentina, Arménia, Austrália, Áustria, Azerbaijão, Barém, Bielorrússia, Bolívia, Bósnia e Herzegovina, Brasil, Camboja, China, Colômbia, Costa Rica, Croácia, Cuba, República Checa, Equador, Egito.
• El Salvador, Eritreia, Etiópia, Geórgia, Alemanha, Gana, Grécia, Guatemala, Honduras, Hungria, Índia, Indonésia, Irão, Iraque, Israel, Itália, Cazaquistão, Quénia, Quirguizistão.
• Kuwait, Líbano, Líbia, Macedónia, Malásia, Malta, México, Moldávia, Myanmar, Países Baixos, Nigéria, Coreia do Norte, Omã, Paquistão, Filipinas, Polónia, Qatar, Rússia.
• Ruanda, Arábia Saudita, Sérvia, África do Sul, Coreia do Sul, Espanha, Sri Lanka, Sudão, Suécia, Síria, Taiwan, Tajiquistão, Tailândia, Tunísia, Turquia, Ucrânia.
• Emirados Árabes Unidos, Reino Unido, Estados Unidos, Usbequistão, Venezuela, Vietname, Iémen e Zimbabué.

Tendências na Atividade de Desinformação

• A utilização crescente de redes sociais para difundir propaganda informática e desinformação sobre política.
• Empresas de redes sociais tomaram medidas para combater o uso indevido de suas plataformas.
• Anúncios do Facebook e Twitter (jan/2019 – dez/2020) revelam que mais de 317.000 contas e páginas foram removidas.

Ações de Elon Musk e Mark Zuckerberg em 2025

• A Administração Trump, com Elon Musk (X) e Mark Zuckerberg (Meta), desativaram os mecanismos independentes de verificação de factos por terceiros (third party fact-checking programs).
• Substituíram os programas por um modelo de verificação chamado "Community Notes model”, alegando defesa da liberdade de expressão.
• Facebook, Instagram e WhatsApp vão deixar de ter fact checks para "voltar às raízes da liberdade de expressão".

Estudo em Berkeley sobre discurso de ódio

• Um estudo revelou um aumento persistente do discurso de ódio na plataforma X.
• Há ainda a utilização da rede social X, por parte de Musk, para influenciar o sistema político do Reino Unido.
• Empresas privadas fornecem cada vez mais campanhas de manipulação, com 48 casos em 2019 de propaganda paga.
• Desde 2018, mais de 65 empresas ofereceram este serviço, com US$ 60 milhões gastos desde 2009.

Monitorização da Atividade de Propaganda Digital

• Election Watch for the Digital Age avalia a vulnerabilidade dos países a disrupções à liberdade.
• Criação de contas falsas operadas por bots durante a invasão da Ucrânia (2022).
• Durante a invasão russa, houve uma campanha coordenada de desinformação no Twitter, com 20% das contas que espalhavam mensagens pró-Rússia sendo bots criados no início da invasão.
  • Eles operaram em países que se abstiveram na votação da ONU (ex: Índia, África do Sul e Paquistão), buscando enfraquecer o apoio global a sanções e à Ucrânia.

Recursos Adicionais

• A Tech Accord to Combat Deceptive Use of AI in 2024 Elections e o ISCTE MediaLab são recursos adicionais.
• A desinformação torna as eleições portuguesas as mais monitorizadas na Europa.
• Combater interferência estrangeira nas eleições é um tema importante.
• Mesa redonda sobre IA e democracia promovida pelo 2.º Simpósio Português Sobre Filosofia e Inteligência Artificial.

Técnicas de Propaganda Computacional

• Algoritmos em plataformas sociais e search engines: segmentação/profiling automáticos a partir de dados comportamentais.
• Bots em contas automatizadas e IAs generativas: contas automatizadas programadas para interagir como utilizadores, especialmente nas redes sociais. Existe um mercado negro para redes de bots reutilizáveis.

Resposta aos Bots

• Em resposta à crescente preocupação com o impacto dos bots de desinformação, o Twitter suspendeu até 70 milhões de contas entre maio e junho de 2018.
• Facebook removeu 583 milhões de contas falsas no primeiro trimestre de 2018.
• A próxima geração de bots usa processamento de linguagem natural, dificultando identificá-los.
• Espera-se desativação em 2025 dos sistemas de fact checking por Musk e Zukerberg.
• Trolls (online bullies), agentes humanos, por vezes patrocinados por Estados, assediam outros utilizadores ou publicam conteúdos polémicos.
• IA, MADCOMs (Machine-driven communications) e deep fakes podem utilizar chatbots (processamento de linguagem natural) para envolver utilizadores ou ameaçar pessoas.
• Spear phishing: emails com anexos ou ligações infectadas são enviados para obter informações confidenciais.
• Distributed denial of service (DDoS): Ataques DDoS enviam grandes quantidades de informação para tornar sites inoperacionais.
• Brute force attacks on internet of things (IoT) devices: Lançamento general de testes para assumir o controlo dos dispositivos para recolher informações áudio ou visuais na Finlândia

Totalitarismo segundo Hannah Arendt (1906-1975) para regimes como o Nazi ou Estalinista

• Assume-se como instrumento de uma lei Natural ou Histórica para melhorar a humanidade de acordo com essa lei.
• Elimina o interesse pessoal em favor do interesse global da pretensa forma de humanidade a atingir, sacrificando as "partes" em favor do "todo".
• Agrega todos os indivíduos numa estrutura social coesa, sem espaço para ação livre (the iron band of terror).
• Utiliza uma ideologia que explica tudo a partir de uma premissa, combinando abordagem científica com resultados de relevância filosófica.
• Parte do princípio de que uma ideia é suficiente para explicar tudo, sem necessidade de experiência.
• Utiliza a solidão dos indivíduos para os instrumentalizar a favor da ideologia.
• Solidão é o estado humano próprio de irrelevância e não pertença, diferente de solitude (querer estar sozinho).

Risco de um Totalitarismo Tecnológico (AI Totalitarianism)

• Forma possível de totalitarismo sustentada por um sistema económico capitalista universal, dedicado a aumentar ilimitadamente as margens de capital.
• Por uma ideologia universal, afirmando que a ciência explicará e resolverá todos os problemas humanos.
• Por um sistema de vigilância tecnológica universal, composto por IAs interligadas, recolhendo informação sobre e recomendando comportamentos.

Propriedades Possíveis de um Totalitarismo Tecnológico

• Invasão da esfera mental com recomendações omnipresentes, conduzindo interesses pessoais, saúde, finanças, crenças, competências e experiência.
• Tira partido da velocidade vertiginosa da informação nos feeds para baixar a atenção racional e o espírito crítico.
• Promove a hiper-sociabilidade, procurando relevância e atenção de terceiros, criando solidão tecnologicamente organizada.
• Instrumentaliza mentes com feeds dirigidos e ruído mediático, alienando da realidade.
• Reconfigura conceptualmente a verdade externa ao ambiente digital a partir do digital.
• Para contrariar, é essencial promover “The Right to be Wrong” (O direito a estar errado).
• Princípio ético que cada pessoa tem de se desviar de uma norma social, imposta por uma IA através dos seus mecanismos de recomendação

O Que é uma Máquina de Mentiras (Lie Machine)?

• É um sistema social e tecnológico que difunde mentiras políticas para subverter a confiança pública.
• A China emprega dois milhões de pessoas para escrever 448 milhões de mensagens por ano.
• A presidência mexicana tinha setenta e cinco mil contas automatizadas apoiando políticas presidenciais.
• O Vietname formou dez mil estudantes para atuarem como tropas cibernéticas contra dissidência online.

Três Componentes das Máquinas de Mentira

• O produtor que serve uma ideologia de elites políticas (candidatos, equipas de campanha, partidos e agências de governos autoritários).
• O distribuidor que usa os algoritmos das redes sociais (Facebook, Instagram, Twitter, WhatsApp) e os dados das preferências políticas.
• O comerciante que lucra com a venda, amplificação e promoção da desinformação (empresa de consultoria, lobista ou político).

Questão Para o Debate da Próxima Aula

• Contas falsas nas redes atacam políticos e figuras públicas.
• Agentes maliciosos publicam teorias da conspiração para promover convicções distorcidas.
• Campanhas políticas criam perfis falsos para atrair jovens e indecisos.
• A atenção é desviada pelas tecnologias digitais, envenenando o diálogo político.
• "As tecnologias digitais conduzem inevitavelmente ao fim das democracias ocidentais?”
  • Haverá dois grupos para debater.