04. Os impactos das tec. digitais nas desigualdades.

Impactos das tecnologias digitais nas desigualdades

• A apresentação aborda os impactos das tecnologias digitais nas desigualdades, incluindo enviesamento de dados na inteligência artificial (IA), opacidade de redes neuronais, e a neutralidade ética da tecnologia.

Inteligência Artificial

• IA é um sistema computacional baseado em arquiteturas de redes neuronais profundas (deep neural networks).
• A rede é ajustada através de um procedimento de treinamento, expondo-a a um conjunto de exemplos.
• Ao receber um input, a rede neuronal fornece um output.
• Sociologicamente, uma IA é um agente/ator social com recursos, poder e velocidade de atuação maiores que os de agentes sociais humanos.
• IAs possuem uma grande quantidade de informações e conseguem estabelecer interações sociais complexas com diversos agentes.
• IAs têm autonomia, tomam decisões, aprendem e interagem em múltiplos níveis com sistemas, máquinas, outras IAs e humanos e podem manipular a verdade e amplificar mensagens.

Enviesamento de dados em IA

• O enviesamento refere-se à representação distorcida ou incompleta da informação usada para treinar a IA.
• Esse enviesamento tem origem na coleta, pré-processamento dos dados ou em enviesamentos inerentes do comportamento humano capturado.

Exemplos de discriminação social

• Discriminação contra a comunidade cigana em Portugal nas áreas de habitação, educação e emprego.
• Discriminação etária contra trabalhadores com mais de 50 anos, que enfrentam dificuldades para encontrar ou manter empregos devido a estereótipos sobre adaptabilidade e capacidade tecnológica.
• Disparidade salarial de gênero, onde mulheres ganham menos que homens para funções idênticas, juntamente barreiras no acesso a cargos de liderança, conhecido como "teto de vidro"

Conceitos associados ao treino de redes neuronais

• Cultural Embedding: Valores culturais, princípios éticos e normas morais são codificados automaticamente durante o treinamento da IA, tornando-se explícitos nas consultas dos usuários.
• Achatamento cultural: Processo pelo qual informações, bens e imagens produzidos globalmente entram na esfera cultural e simbólica da globalização, muitas vezes associado a valores ocidentais monoculturais, contribuindo para uma diluição das diferenças culturais.
• Hub social ou cultural: IA acessível a falantes da mesma língua, geralmente um LLM, através do qual cultura, ideologia, valores, princípios éticos e normas morais são veiculados.

Opacidade de redes neuronais profundas (DNN)

• Refere-se à impossibilidade de estabelecer uma relação de causa e efeito entre um input e um output da rede.
• É a dificuldade em identificar como um resultado, ação ou decisão ocorreu dentro da rede.
• Opacidade de inferência: Peritos humanos não conseguem explicar porque a rede prevê uma saída com base em uma entrada.
• Opacidade de treino: Peritos não conseguem determinar como os parâmetros da DNN foram reforçados a partir dos dados de treino.

Explicabilidade da IA (XAI)

• Busca garantir um nível mínimo de inteligibilidade atribuível aos outputs da IA, para compreender a fundamentação racional das previsões, decisões ou ações.
• O foco principal é tornar o raciocínio por trás das decisões da IA explícito e claro.

Algoritmos e decisões humanas

• Algoritmos tomam decisões que afetam a existência humana, como na atribuição de cartões de crédito, fianças, liberdade condicional e sentenças criminais.
• Além da privacidade, surgem preocupações sobre justiça, segurança, transparência e ética nessas decisões.
• Os algoritmos diferem de ferramentas simples, pois possuem um poder significativo para tomar decisões sem intervenção humana e são complexos demais para que seus designers prevejam todas as situações.

Potencial malicioso de uma tecnologia

• Define-se pelo potencial inicial de uma dada tecnologia ser aplicada maliciosamente em diversos cenários, produzindo danos significativos.
• Um martelo possui maior potencial malicioso que um pedaço de algodão, mas menor que uma arma atômica.

Maturidade ética de uma tecnologia

• Consiste nos mecanismos ou procedimentos introduzidos numa tecnologia para diminuir ou reduzir o potencial inicial de aplicação maliciosa.
• Um medicamento tem um grau de maturidade ética menor que um carro automático, mas superior ao de um martelo.

Ética e algoritmos

• Tornar um algoritmo mais justo envolve guiar seu processo de otimização, identificando padrões e colocando restrições éticas.
• Essa intervenção resulta em um tradeoff entre a introdução de valores éticos e a precisão do algoritmo.
• Comprometer a precisão de um modelo para evitar o enviesamento pode levar a dificuldades para empresas, reguladores e para a sociedade.

Debate

• É importante quantificar os compromissos entre precisão e bom comportamento dos algoritmos.
• Questão para debate: "As tecnologias de Inteligência Artificial são eticamente neutras?"

Exploração de redes neurais profundas e sua supervisão humana. Análise sociológica do poder e interação da IA. Desmistificação da autonomia e enviesamento de dados em sistemas de IA.