Filo 1 - Tecnología Digital y la Inteligencia Artificial - PDF

Filosofía del Derecho Tema 1 TEMA 1. LA TECNOLOGÍA DIGITAL Y LA INTELIGENCIA ARTIFICIAL Profesor: Jorge Crego I. LA TECNOLOGÍA DIGITAL Y LA INTELIGENCIA ARTIFICIAL 1.1. LAS DINÁMICAS D...

Filosofía del Derecho Tema 1 TEMA 1. LA TECNOLOGÍA DIGITAL Y LA INTELIGENCIA ARTIFICIAL Profesor: Jorge Crego I. LA TECNOLOGÍA DIGITAL Y LA INTELIGENCIA ARTIFICIAL 1.1. LAS DINÁMICAS DE LA TECNOLOGÍA MODERNA Una definición provisional: Para poder evaluar la conexión entre tecnología, ética y derecho se requiere partir de unas ideas provisionales de ambos conceptos. La tecnología es “la aplicación, a través de técnicas de solución racional de problemas, del conocimiento racionalmente adquirido a situaciones materiales, para alcanzar fines libremente elegidos” (Tiles, Oberdiek) La tecnología “antigua”: La tecnología ha estado presente desde los albores de la humanidad. Sin embargo, las dinámicas de la tecnología moderna poco tienen que ver con la tecnología del pasado. Esto afecta a cómo reflexionamos sobre la tecnología. La tecnología lleva existiendo años. Un objeto que se utilizaba para cazar no deja de ser un instrumento tecnológico. ¿Qué cambio hay entre la tecnología antigua y la moderna? La tecnología tiene un papel en la sociedad actual que antes no tenía. Según Jonas, la tecnología en el pasado se caracterizaba por: Carácter estático ya que la tecnología no cambiaba con la velocidad que sí lo hace hoy en día. Generalmente, los avances derivaban de la casualidad (Ej. Mono se da cuenta que cuando deja caer un hueso impacta con más violencia en otros huesos y que puede utilizarlo para atacar a otros monos). Bostrom refleja el cambio de paradigma mostrando cuánto tiempo necesita la humanidad para aumentar la capacidad productiva de modo que se pueda sostener a un millón más de habitantes. Prehistoria → 1.000.000 años Revolución agrícola → 200 años Actualidad → 90 minutos (0,0002años) Puede observarse gráficamente la idea de que ahora el desarrollo tecnológico no es estático y tan lento como en la antigua edad. Características de la tecnología moderna (Jonas): - La tecnología moderna no se dirige a un punto de equilibrio - Propagación a lo largo del planeta (conocimiento y uso). Antes, que algo nuevo formará parte de la tierra tardaba más. EN el mundo actual, un descubrimiento tecnológico se usa casi al instante en toda las partes del mundo, antes no. - Relación circular entre fines y medios. Algunos fines “accidentales” se convierten en “necesidades”, que presionan para nuevos avances. (Ej. La viagra se inventa para el 1 Filosofía del Derecho Tema 1 párkinson y se le descubre otro uso). Actualmente, a veces desarrollamos sistemas tecnológicos que no sabemos para que se van a utilizar o se usan para otra cosa que no era para la que había sido creada. - Progreso como idea descriptiva, aunque con cierto carácter valorativo. Cuando hablamos del progreso no decimos que es “bueno” o “malo”, la sociedad progresa, movimiento de cosas que vamos desarrollando con la tecnología, pero en el fondo tiene carácter valorativo. Cuando se hace uso de “progreso” suele ser asociado como algo positivo. La tecnología moderna: La tecnología moderna se presenta como un medio dirigido a facilitar y promover la consecución de fines de los seres humanos, con una intención de transformación revolucionaria sostenida por una institucionalización de la innovación. Esa idea de institucionalización es interesante para ver la estructuración de sociedades en busca de innovación y porque en esas instituciones la evolución va a tener lugar. 1.2. LA TECNOLOGÍA DIGITAL. Los primeros objetos de la tecnología: Se ha expuesto la dinámica propia de la tecnología moderna, pero... ¿cuáles son los objetos que crea? Originalmente, las nuevas tecnologías creaba los mismos objetos que ya existían con anterioridad. En el pasado, la idea era crear más rápido, más cantidades, menos esfuerzo (Ej. Telar manual o telar mecanizado). Con posterioridad, comienzan a surgir nuevos materiales y nuevas técnicas que ofrecen objetos nuevos (plástico, acero…) (Ej. El plástico pretende imitar otros materiales que se utilizaban en el pasado, supone una transformación). La tecnología digital como única “tecnología”: La tecnología digital ofrece nuevos objetos que alteran las posibilidades de la tecnología antigua. Las tecnologías digitales crean un nuevo objeto que no existía en el pasado. Cambio radical: “Todo lo que vino antes parece tosco, casi natural” (Jonas). Como si en el fondo las tecnologías no digitales no fueran tecnologías y fueran rudimentario. Algo similar ocurre con la IA: los expertos bromean afirmando que la IA es “todo aquello que los ordenadores todavía no pueden hacer a día de hoy”. El pensar que el término “tecnología” o “IA” se va dejando para la novedad y que lo que ya no es novedad no es IA. La información: Objeto de la tecnología digital. Característica fundamental → su objeto es la información (Jonas). Las tecnologías digitales crean información a disposición de quien los opera. No se dirige tanto a potenciar el trabajo humano Jonas cuando habla de la tecnología digital dice que el objeto fundamental de las tecnologías es la información. ¿Qué es la información? (Floridi) Datos: “una distinción que hace una diferencia” Debidamente formados: sintaxis Cargados de significados: semántica Verdaderos (propuesta de Floridi) (Ej. Voy a venir mañana a la facultad y al final no voy). Sería falsa, por lo que para Floridi no sería información. Para Floridi, es información si cumple con esos cuatro elementos. 2 Filosofía del Derecho Tema 1 1.3. LA IA COMO TECNOLOGÍA. Una definición provisional de la IA: Hay que distinguir entre: Inteligencia artificial > Machine learning > Deep learning Definición de IA de dos autores canónicos de la IA: “Para cada secuencia de percepción, un agente racional debería elegir una acción que se prevé que maximizará su medida de desempeño, dadas las pruebas ofrecidas por la secuencia de percepción y cualquier conocimiento incorporado que tenga el agente” (Russell, Norvig) La capacidad de aprender y cierto grado de autonomía son rasgos relevantes La “emergencia” de la IA: Desde el punto de vista del Derecho, quizá la característica más relevante es la de “emergencia” o “autonomía” “Tanto los robots como los agentes de IA crean problemas al Derecho porque no siempre se puede predecir qué harán cuando interactúan con su entorno” (Balkin). De algún modo, los sistemas de IA generan consecuencias que no podemos predecir previamente, sino no habría dificultades para el derecho. Esta emergencia o autonomía genera una novedad en el ámbito jurídico. La idea de “emergencia” es útil para las dos perspectivas de interacción entre Derecho e IA Emergencia y opacidad: ¿Qué implica la idea de emergencia? Algunos autores hablan de cómo los sistemas de IA se convierten en auténticas “cajas negras” (Pasquale) Generalmente se emplea la idea de “opacidad” (Burrell): - El destinatario del output rara vez sabe cómo o por qué una decisión deriva de los inputs - Los inputs mismos son desconocidos, al menos en parte Tipos de opacidad (Burrell): Opacidad como secretismo intencional de la corporación o el estado - “Incomprensibilidad remediable” (Pasquale) Opacidad como analfabetismo técnico - Capacidad para entender el código. Podría resolverse a través de una alfabetización técnica Opacidad derivada de las características de los algoritmos (de ML) y la escala - Páginas de código - Diferentes “manos” tocando el código - Relaciones entre módulos y subrutinas - “Maldición de la dimensionalidad” del ML (Domingos) - Interacción entre código y data set. Opacidad derivada de las características de los algoritmos (de ML) y la escala... ¿es evitable? - “Indagar más allá sobre el ‘por qué’ de una clasificación [ofrece] evidencias sugerentes que parecen suficientes como una explicación, pero esto [impone] un proceso de razonamiento interpretativo humano sobre un proceso matemático de optimización estadística” - Los outputs de los sistemas de inteligencia artificial se determinan sin tener en cuenta la comprensión humana 3 Filosofía del Derecho Tema 1 Resumen: 4