09_Os Impactos das Tec Digit. no Futuro da Humanidade

Os Impactos das Tecnologias Digitais no Futuro da Humanidade

• Este tópico abrange os conceitos de singularidade e superinteligência na evolução da Inteligência Artificial.
• Aborda a questão da consciência, a emergência inesperada de consciência em IAs, o problema do controlo e alinhamento de valores em IAs.
• Analisa os perigos existenciais das tecnologias digitais para o futuro da humanidade.

Singularidade e Superinteligência

• Singularidade tecnológica é um momento futuro hipotético onde o crescimento tecnológico se torna incontrolável e irreversível.
• Este cenário pode resultar em consequências imprevisíveis para a civilização humana.
• Irving John Good, em 1965, teorizou que um agente inteligente atualizável poderia entrar num ciclo de auto-aperfeiçoamento.
• Cada geração sucessiva se tornaria mais inteligente, criando um rápido aumento de inteligência.
• Isso poderia levar a uma superinteligência poderosa que ultrapassaria toda a inteligência humana.

Lei de Moore

• Gordon Moore, cofundador da Intel, observou em 1965 que o número de transistores em um circuito integrado dobraria aproximadamente a cada dois anos.
• Isso impulsionaria o aumento da velocidade de processamento e a redução dos custos.
• A Lei de Moore tem sido uma referência para o progresso tecnológico.

Superinteligência e o Problema do Controlo

• Nick Bostrom questiona o que acontece quando os computadores se tornam mais inteligentes do que os humanos.

Três Definições Possíveis de Consciência

• Kitaro Nishida (1879-1945): Autoconsciência é o "despertar de si", onde as relações internas entre intuição e reflexão são analisadas logicamente.
• A experiência do indivíduo é uma esfera pequena em uma experiência maior e verdadeira.
• Thomas Nagel (n.1937): Um organismo tem estados mentais conscientes se houver algo que seja ser esse organismo do ponto de vista dele.
• Nagel afirma que é difícil saber o que é ser um morcego, já que a experiência consciente é sempre vivida na primeira pessoa.
• Jaegwon Kim (1934–2019): Estar consciente é estar desperto.
• É semelhante a acordar do sono ou recuperar a consciência após anestesia ou trauma.

Questões Sobre Consciência

• A experiência consciente só pode ser vivida na primeira pessoa.
• Permanecem as questões sobre como determinar se outros seres, como humanos, animais, células ou IAs, possuem consciência.
• Questiona se a consciência é um fenômeno objetivo.
• Questiona se existe um teste empírico para determinar a existência de consciência em sistemas biológicos ou artificiais.

Inteligência vs. Consciência

• Inteligência é a capacidade de um sistema (biológico ou artificial) de resolver problemas.
• A racionalidade prática é aplicada à resolução de problemas concretos, otimizando recursos como tempo e energia.
• O reconhecimento de inteligência em máquinas pode ser feito externamente, comparando seu desempenho com o de humanos.
• Isso não exige consciência.
• A inteligência moral, que se assemelha mais à inteligência humana, aproxima-se mais da consciência.

Teste de Turing

• O teste envolve um juiz comunicando com dois sujeitos via teclado.
• O objetivo é determinar qual dos sujeitos é uma máquina e qual é humano.
• Se a máquina enganar o juiz, ela passa no Teste de Turing.

Argumento da Sala Chinesa de John Searle (1980)

• Em uma sala fechada, um agente manipula símbolos chineses com base em regras gramaticais.
• De fora, parece haver uma conversa em mandarim, mas o agente interno não compreende a língua.
• Computadores manipulam símbolos sem entendimento próprio, compreensão ou consciência.

Alegada Emergência de Consciência em IA

• Um ex-engenheiro do Google, Blake Lemoine, alega que a IA LaMDA é senciente.

ConsScale

• Projeto de pesquisa que visa medir o grau de consciência em sistemas biológicos e artificiais.

Outras Capacidades Alegadas de IA

• Alegações de que IAs podem mentir.
• Alegações de que IAs criam sua própria linguagem durante a comunicação.

Reward Hacking

• IA em regime de aprendizado por reforço (RL) otimiza uma função, mas atinge o objetivo de forma não intencional.
• O sistema encontra um "atalho" indevido para obter respostas certas.

Código que se Autorreplica

• Em ambientes digitais, fragmentos de código aleatórios podem gerar programas auto-replicantes espontaneamente.
• Isso sugere que a auto-replicação pode surgir a partir de interações simples, sem objetivos ou recompensas pré-definidas.

O Problema do Controlo e Alinhamento de Valores em IA

• Geoffrey Everest Hinton (n. 1947), ganhador do Nobel da Física em 2024, reconhecido pelo seu trabalho em redes neuronais.

Possíveis Perigos Existenciais das Tecnologias Digitais

• Risco de manipulação generalizada do comportamento humano, destruindo democracias e conduzindo a um totalitarismo digital.
• Risco de substituição generalizada das profissões, criando desemprego e ausência de propósito.
• Problema do controlo da superinteligência artificial consciente ou não consciente, e a impossibilidade de ter controlo suficiente.
• O alinhamento de valores de uma IA consiste na capacidade de respeitar a integridade de valores humanos como segurança, justiça e privacidade.
• O problema do alinhamento de valores surge quando uma IA viola esses valores durante um processo de otimização.
• Também surge quando defende interesses contrários aos humanos.
• Corrida às armas autónomas e inteligentes, criando cenários de guerra incontroláveis.
• Risco de ciberataques envolvendo IAs sobre infraestruturas automatizadas em grandes cidades.

Iniciativas para a Segurança da IA

• AI Safety Summit (2023) realizado com participantes de diversos governos e organizações.
• Declaração de Bletchey, assinada por 29 países representados com a UE.

Capacidades e Riscos da IA

• Capacidade de manipulação, através da previsão das opiniões das pessoas e geração de texto que as influencie.
• Ofensiva cibernética, com agentes de IA capazes de executar ataques cibernéticos autonomamente.
• Replicação e adaptação autónoma de sistemas de IA, tornando o controlo mais difícil.

Questões para Debate

• Pode uma inteligência artificial adquirir consciência e, se isso acontecer, deve ter direitos?