Filosofía del Derecho - Tema 1 y 2 - PDF

Filosofía del Derecho Tema 1 TEMA 1. LA TECNOLOGÍA DIGITAL Y LA INTELIGENCIA ARTIFICIAL Profesor: Jorge Crego I. LA TECNOLOGÍA DIGITAL Y LA INTELIGENCIA ARTIFICIAL 1.1. LAS DINÁMICAS D...

Filosofía del Derecho Tema 1 TEMA 1. LA TECNOLOGÍA DIGITAL Y LA INTELIGENCIA ARTIFICIAL Profesor: Jorge Crego I. LA TECNOLOGÍA DIGITAL Y LA INTELIGENCIA ARTIFICIAL 1.1. LAS DINÁMICAS DE LA TECNOLOGÍA MODERNA Una definición provisional: Para poder evaluar la conexión entre tecnología, ética y derecho se requiere partir de unas ideas provisionales de ambos conceptos. La tecnología es “la aplicación, a través de técnicas de solución racional de problemas, del conocimiento racionalmente adquirido a situaciones materiales, para alcanzar fines libremente elegidos” (Tiles, Oberdiek) La tecnología “antigua”: La tecnología ha estado presente desde los albores de la humanidad. Sin embargo, las dinámicas de la tecnología moderna poco tienen que ver con la tecnología del pasado. Esto afecta a cómo reflexionamos sobre la tecnología. La tecnología lleva existiendo años. Un objeto que se utilizaba para cazar no deja de ser un instrumento tecnológico. ¿Qué cambio hay entre la tecnología antigua y la moderna? La tecnología tiene un papel en la sociedad actual que antes no tenía. Según Jonas, la tecnología en el pasado se caracterizaba por: Carácter estático ya que la tecnología no cambiaba con la velocidad que sí lo hace hoy en día. Generalmente, los avances derivaban de la casualidad (Ej. Mono se da cuenta que cuando deja caer un hueso impacta con más violencia en otros huesos y que puede utilizarlo para atacar a otros monos). Bostrom refleja el cambio de paradigma mostrando cuánto tiempo necesita la humanidad para aumentar la capacidad productiva de modo que se pueda sostener a un millón más de habitantes. Prehistoria → 1.000.000 años Revolución agrícola → 200 años Actualidad → 90 minutos (0,0002años) Puede observarse gráficamente la idea de que ahora el desarrollo tecnológico no es estático y tan lento como en la antigua edad. Características de la tecnología moderna (Jonas): - La tecnología moderna no se dirige a un punto de equilibrio - Propagación a lo largo del planeta (conocimiento y uso). Antes, que algo nuevo formará parte de la tierra tardaba más. EN el mundo actual, un descubrimiento tecnológico se usa casi al instante en toda las partes del mundo, antes no. - Relación circular entre fines y medios. Algunos fines “accidentales” se convierten en “necesidades”, que presionan para nuevos avances. (Ej. La viagra se inventa para el 1 Filosofía del Derecho Tema 1 párkinson y se le descubre otro uso). Actualmente, a veces desarrollamos sistemas tecnológicos que no sabemos para que se van a utilizar o se usan para otra cosa que no era para la que había sido creada. - Progreso como idea descriptiva, aunque con cierto carácter valorativo. Cuando hablamos del progreso no decimos que es “bueno” o “malo”, la sociedad progresa, movimiento de cosas que vamos desarrollando con la tecnología, pero en el fondo tiene carácter valorativo. Cuando se hace uso de “progreso” suele ser asociado como algo positivo. La tecnología moderna: La tecnología moderna se presenta como un medio dirigido a facilitar y promover la consecución de fines de los seres humanos, con una intención de transformación revolucionaria sostenida por una institucionalización de la innovación. Esa idea de institucionalización es interesante para ver la estructuración de sociedades en busca de innovación y porque en esas instituciones la evolución va a tener lugar. 1.2. LA TECNOLOGÍA DIGITAL. Los primeros objetos de la tecnología: Se ha expuesto la dinámica propia de la tecnología moderna, pero... ¿cuáles son los objetos que crea? Originalmente, las nuevas tecnologías creaba los mismos objetos que ya existían con anterioridad. En el pasado, la idea era crear más rápido, más cantidades, menos esfuerzo (Ej. Telar manual o telar mecanizado). Con posterioridad, comienzan a surgir nuevos materiales y nuevas técnicas que ofrecen objetos nuevos (plástico, acero…) (Ej. El plástico pretende imitar otros materiales que se utilizaban en el pasado, supone una transformación). La tecnología digital como única “tecnología”: La tecnología digital ofrece nuevos objetos que alteran las posibilidades de la tecnología antigua. Las tecnologías digitales crean un nuevo objeto que no existía en el pasado. Cambio radical: “Todo lo que vino antes parece tosco, casi natural” (Jonas). Como si en el fondo las tecnologías no digitales no fueran tecnologías y fueran rudimentario. Algo similar ocurre con la IA: los expertos bromean afirmando que la IA es “todo aquello que los ordenadores todavía no pueden hacer a día de hoy”. El pensar que el término “tecnología” o “IA” se va dejando para la novedad y que lo que ya no es novedad no es IA. La información: Objeto de la tecnología digital. Característica fundamental → su objeto es la información (Jonas). Las tecnologías digitales crean información a disposición de quien los opera. No se dirige tanto a potenciar el trabajo humano Jonas cuando habla de la tecnología digital dice que el objeto fundamental de las tecnologías es la información. ¿Qué es la información? (Floridi) Datos: “una distinción que hace una diferencia” Debidamente formados: sintaxis Cargados de significados: semántica Verdaderos (propuesta de Floridi) (Ej. Voy a venir mañana a la facultad y al final no voy). Sería falsa, por lo que para Floridi no sería información. Para Floridi, es información si cumple con esos cuatro elementos. 2 Filosofía del Derecho Tema 1 1.3. LA IA COMO TECNOLOGÍA. Una definición provisional de la IA: Hay que distinguir entre: Inteligencia artificial > Machine learning > Deep learning Definición de IA de dos autores canónicos de la IA: “Para cada secuencia de percepción, un agente racional debería elegir una acción que se prevé que maximizará su medida de desempeño, dadas las pruebas ofrecidas por la secuencia de percepción y cualquier conocimiento incorporado que tenga el agente” (Russell, Norvig) La capacidad de aprender y cierto grado de autonomía son rasgos relevantes La “emergencia” de la IA: Desde el punto de vista del Derecho, quizá la característica más relevante es la de “emergencia” o “autonomía” “Tanto los robots como los agentes de IA crean problemas al Derecho porque no siempre se puede predecir qué harán cuando interactúan con su entorno” (Balkin). De algún modo, los sistemas de IA generan consecuencias que no podemos predecir previamente, sino no habría dificultades para el derecho. Esta emergencia o autonomía genera una novedad en el ámbito jurídico. La idea de “emergencia” es útil para las dos perspectivas de interacción entre Derecho e IA Emergencia y opacidad: ¿Qué implica la idea de emergencia? Algunos autores hablan de cómo los sistemas de IA se convierten en auténticas “cajas negras” (Pasquale) Generalmente se emplea la idea de “opacidad” (Burrell): - El destinatario del output rara vez sabe cómo o por qué una decisión deriva de los inputs - Los inputs mismos son desconocidos, al menos en parte Tipos de opacidad (Burrell): Opacidad como secretismo intencional de la corporación o el estado - “Incomprensibilidad remediable” (Pasquale) Opacidad como analfabetismo técnico - Capacidad para entender el código. Podría resolverse a través de una alfabetización técnica Opacidad derivada de las características de los algoritmos (de ML) y la escala - Páginas de código - Diferentes “manos” tocando el código - Relaciones entre módulos y subrutinas - “Maldición de la dimensionalidad” del ML (Domingos) - Interacción entre código y data set. Opacidad derivada de las características de los algoritmos (de ML) y la escala... ¿es evitable? - “Indagar más allá sobre el ‘por qué’ de una clasificación [ofrece] evidencias sugerentes que parecen suficientes como una explicación, pero esto [impone] un proceso de razonamiento interpretativo humano sobre un proceso matemático de optimización estadística” - Los outputs de los sistemas de inteligencia artificial se determinan sin tener en cuenta la comprensión humana 3 Filosofía del Derecho Tema 1 Resumen: 4 Filosofía del Derecho Tema 2 TEMA 2. EL LUGAR DE LA TECNOLOGÍA EN LA SOCIEDAD Profesor: Jorge Crego I. INTRODUCCIÓN En este tema vamos a ver de qué manera una tecnología cuando es incorporada en la sociedad puede transformar a las sociedades. La tecnología es un modo de interacción entre el ser humano y su contexto (la naturaleza, la sociedad, otros seres humanos) - ¿Cómo afecta a una sociedad la introducción de una tecnología novedosa? - ¿Qué grado de control tiene una sociedad sobre el desarrollo de la tecnología? - ¿Los avances tecnológicos han afectado positiva o negativamente a la sociedad? II. ¿NEUTRAL O CARGADA DE VALORES? ¿Influye la tecnología en las perspectivas morales de una sociedad? Hay 2 visiones: La tecnología es neutral - Cualquier tecnología no es más que una herramienta, un instrumento, que puede emplearse para los más variados fines - “Las pistolas no matan a las personas. Las personas matan a las personas” - Distinción fines/medios y sujeto/objeto La tecnología está cargada de valores - Antigua Grecia → La tecnología tiene unos fines intrínsecos. No podemos imponerles los fines que queramos, es decir, hay que usar las cosas para lo que son y no podemos decirle para lo que son esas cosas. - Actualidad → Cada manifestación tecnología se estructura de tal forma que favorece de algún modo un conjunto de fines sobre otros III. ¿AUTÓNOMA O CONTROLADA POR EL SER HUMANO? Para influir en la realidad, la tecnología tiene que ser utilizada por los seres humanos, pero ¿hasta qué punto los usuarios dominamos a la tecnología? Algunos autores afirman que la tecnología es autónoma: - El desarrollo de la tecnología, sus avances, es independiente de la voluntad humana. - “El technium tiene sus propios deseos [wants]. Desea ordenarse, auto-ensamblarse en niveles jerárquicos”. “Si bien un objeto [tecnológico] puede prohibirse en un lugar, florecerá en otro” (Kelly). Los sistemas tecnológicos van a encontrar una forma en la que poder seguir desarrollandose. - Internet como un “soberano separado que ningún sistema jurídico contemporáneo puede gobernar” (Calo). Hay autores que trataron de defender que internet era incontrolable por los gobiernos y que no hay mecanismos para que los gobiernos lo controlen. Que ningún Estado controla internet del mismo modo que controla su territorio y que le evolucion del internet debería depender de la voluntad de los cibernautas. Se ve el internet como una entidad diferente con sus propias normas y que serán los internautas los que decidan el futuro del internet. La postura opuesta afirma que los seres humanos tenemos el control sobre la tecnología - Podemos decidir por qué caminos se desarrollará la tecnología, y cuál será́ su uso 1 Filosofía del Derecho Tema 2 IV. OPTIMISMO Y PESIMISMO. Desde el punto de vista de la valoración general, hay 2 posturas antagónicas respecto de que buenas o malas son las tecnologías para nuestra sociedad. Los avances de la tecnología, ¿han sido positivos o negativos para las sociedades? - Utopía (Bacon, New Atlantis) → Prometeo1 → tecno- optimismo - Distopía (Matrix) → Ícaro2 → tenco-pesimismo Hay 2 tipos de visiones, aunque puede haber un punto neutro: Tecno-optimismo → La tecnología ayuda. - Tecnología como palanca principal del progreso de la humanidad. Gracias a la tecnología podemos avanzar, elevarnos de situaciones previas y mejorar nuestra estancia en el mundo. - El tecno-optimismo suele estar relacionado con la idea de control + neutralidad - “Ipsa scientia potestas est” (la ciencia misma es poder) (Bacon). Emplea la ciencia como instrumento de poder para alcanzar nuestros fines y objetivos. Tecno-pesimismo → La tecnología nos degrada. - Entiende que la tecnología degrada nuestra existencia en el mundo. - Existen valores ocultos en la idea de “eficiencia”. - Es necesario estudiar el contexto “socio-tecnológico”, no el artefacto aislado. Este Tecno- Pesimismo trata de responder a las ideas más neutralistas, señalando que no podemos quedarnos con una tecnología en concreto, sino que hay que estudiar el contexto socio- tecnológico. - Relacionado con: autonomía + cargada de valores. Esta visión está relacionada con la idea de autonomía y que la tecnología está cargada de valores negativos. - El aprendiz de brujo: No importa las buenas intenciones de usar las tecnologías, al final siempre se nos va a ir de las manos. Recapitulación Feenberg De algún modo, todo esto se puede recapitular en el siguiente esquema: 1 De manera muy resumida, la idea del mito de Prometeo es que los dioses cuando crearon a los seres humanos los dejaron desprotegidos (no tienen garras, dientes de lobos, mecanismos de defensa. Lo que hizo fue robar el fuego de los dioses para dárselos a los seres humanos para que puedan ver por la noche, poder pelear y proteger al ser humano, en definitiva. En esta visión los humanos salen ganando y la tecnología ayudó a protegernos y desarrollarnos en naturaleza hostil. 2 Icaro trata de huir en un laberinto y se crea unas alas con plumas (tecnología) con ceras para tratar de huir. El destino estaba marcado y las alas llevan a Icaro a su propio destino. Si llevaba las alas bajas, las plumas se le empapaban del agua del mar de donde escapaba y si se elevaba mucho, el sol quemaba la cera. La tecnología como un instrumento que nos lleva a la muerte. 2 Filosofía del Derecho Tema 2 V. ¿TIENE LA TECNOLOGÍA UNA ESENCIA UNÍVOCA Y PERMANENTE? Morozov señala que los estudios sobre la tecnología digital y, en particular, internet, presumen un concepto unívoco y permanente. Cuando hablamos de la tecnología digital (él dice internet) es un concepto univoco y permanente. - Unívoco: cualquier uso o aplicación sigue una misma lógica, comparte una idea inherente a la tecnología digital → lógica del “todo o nada” - Permanente: la lógica y la naturaleza inherente a la tecnología digital no pueden alterarse para adaptarse a los intereses humanos Esta visión lleva a tratar cualquier sistema tecnológico como si fuera idéntico al resto. Que toda la tecnología digital es buena o mala, no hay punto medio y que toda la tecnología digital se va a valorar en bloque. Dice que hay que huir de ese pensamiento, no es todo o nada. El defiende que hay matices (ej. instragram no es TikTok o Facebook no es Twitter). Tiene naturaleza diferente que debemos valorar en particular. Lo mismo ocurre con la IA, no podemos hacer una valoración general, hay que ver el caso concreto de las herramientas. Morozov dice que al final, cierta tendencia de esta visión de todo o nada suele ser una postura compartida por optimistas y pesimistas: - Implica una actitud de “todo o nada” con respecto a la tecnología. Ejemplo: Internet es abierto por naturaleza → Actuar contra esa apertura es ir contra la naturaleza de internet. El derecho tiene que enfrentar esta diversidad (Balkin). Cuando el derecho trate de regular los sistemas tecnológicos, ha de tener en cuenta esa diversidad y no puede actuar de manera comprensiva. - Diversidad de sistemas que emplean IA y autoaprendizaje → Cuando vamos regular los sistemas de IA, no podemos regular todos los sistemas de IA de la misma manera, hay que hacer distinciones que nos permitan regular con criterio. - Diversas formas de: Diseño (v.gr., GOFAI v. ML) Uso (v.gr., con o sin revisión humana) Efectos derivados del uso (v.gr., sustituir o potenciar trabajo humano) VI. ¿LA IA IMPONE CAMBIOS EXCEPCIONALES? Resulta evidente que la tecnología produce cambios en la sociedad, pero... - ¿La “revolución digital” supone un cambio cualitativo de los problemas que enfrenta la sociedad? ¿Supone una ruptura radical con el pasado? ¿Hasta qué punto los sistemas de IA implican cambios revolucionarios en la sociedad? “Las perspectivas de continuar en un crecimiento exponencial sostenido palidecen en comparación con lo que pasaría si el mundo experimentase otro cambio significativo en la ratio de crecimiento” (Bostrom) - No es necesario pensar en un momento de singularidad 3 para considerar que la revolución tecnológica podría alterar por completo nuestra realidad Morozov, Edgerton: las nuevas tecnologías no suponen cambios revolucionarias, prácticas antes inimaginables - “La ingeniería genética, y su impacto positivo y negativo, se discute como si nunca hubiese habido otros medios de modificar animales o plantas, aun menos otros medios de aumentar 3Momento en el cual se crean maquinas con capacidad tan elevada que éstas crean maquinas aún más inteligentes que ellas y que terminen supliendo al humano. 3 Filosofía del Derecho Tema 2 la oferta de alimentos. Una historia de cómo se hacían las cosas en el pasado [...] socavará la mayoría de las declaraciones contemporáneas de novedad” (Edgerton) Esta vision excepcionalista se observa por igual en los tecno-optimistas y los tecno-pesimistas. Los problemas generados por las nuevas tecnologías no son nuevos → simplemente se produce un cambio de magnitud Ludismo – Siglo XIX - Actitud reaccionaria ante el avance de la maquinaria, durante la revolución industrial - Sabotaje y destrucción de maquinaria - Defensa de los trabajos que la maquinaria hacía innecesaria y los gremios Excepcionalismo y Derecho (Calo): ¿existe alguna característica de la robótica, la tecnología digital o la IA que requiera que, desde el punto de vista del Derecho, se les trate de forma diferente al resto de realidades? - Excepcionalismo: Internet constituye un soberano separado que ningún sistema jurídico contemporáneo puede gobernar (Johnson y Post) - No excepcionalismo: estudiar “el derecho de internet” sería como estudiar “el derecho de los caballos” (Easterbrook) Ejemplo: Libertad de expresión y NLG Postura intermedia (Calo, Lessig) - Las nuevas tecnologías descubren ambigüedades, lagunas o incertezas “latentes” en los ordenamientos jurídicos - La aplicación práctica del Derecho a estas nuevas realidades permite afinar nuestra comprensión o elaboración del Derecho prexistente - “Una tecnología es excepcional cuando su introducción en la corriente principal requiere un cambio sistemático del Derecho o de las instituciones jurídicas, para reproducir o, de ser necesario desplazar, un equilibrio de valores existente” VII. LA TECNOLOGÍA COMO GENERADORA DE PREMISAS FILOSÓFICAS. ¿Influye la tecnología existente en nuestra forma de comprender el mundo y la sociedad? - Ihering concebía la labor de la filosofía del derecho como análoga a la química - Marx indagar sobre la “forma de valor” equiparando la abstracción a la función de un “reactivo químico” “La tecnología se considera a menudo desalmada, a-filosófica o incluso antitética a la filosofía” (Bunge) Bunge señala que la tecnología produce inputs y outputs filosóficos - Inputs: premisas filosóficas en las que se sustenta la práctica tecnológica - Outputs: “ideas filosóficas sugeridas por el proceso tecnológico” Input epistemológico → Realismo 1. Existe un mundo externo 2. El mundo externo se puede conocer, aunque sea parcialmente 3. Cada fragmento de conocimiento del mundo externo puede mejorarse Input epistemológico en IA - Todo lo que se comporta como un ser inteligente es inteligente (test de Turing) Output metafísico - Con la ayuda de la tecnología el hombre puede alterar ciertos procesos naturales de un modo deliberado y planeado 4 Filosofía del Derecho Tema 2 Impacto ético - El tecnólogo divide la realidad en tres entidades con valores diferenciados: recursos, artefactos y el resto - Auge del utilitarismo (Bunge, Hampshire, Tasioulas) El derecho es una práctica social - Afectada por cómo entendemos la propia práctica - Cuya naturaleza es objeto de disputa entre filósofos del derecho El uso de tecnologías digitales e IA en el mundo del derecho - ¿Altera nuestra concepción del derecho? - ¿Modifica las prácticas preexistentes de aquello que entendíamos como Derecho? - ¿Ayuda a comprender mejor el Derecho? Resumen: 5 Filosofía del Derecho Tema 3 TEMA 3. LA ÉTICA DE LA IA: BASES, PRINCIPIOS E IMPLANTACIÓN Profesor: Jorge Crego I. ÉTICA DE LA IA COMO ÉTICA APLICADA Ética y tecnología pueden relacionarse: Ética y tecnología pueden relacionarse: - Implementar o no una tecnología, cómo implementarla… es fruto de una decisión humana - Su implementación específica afecta en cierto modo a personas y comunidades La tecnología transforma los contextos sociales, altera el modo de relacionarnos los seres humanos y permite cierto grado de valoración ética. Exige determinar si consideramos que una determinada tecnología debe de implantarse una tecnología o no. Evaluación ética de la tecnología: - Establecer qué principios rigen la práctica tecnológica en un lugar y tiempo dados. - Deliberar acerca de qué tecnologías, diseños específicos o usos son moralmente rectos. Las distinciones entre moral y ética no son sencillas. ¿Qué es la “ética”? Moral y ética: Moral → La moral es algo que podemos recopilar empíricamente (las convenciones que tiene una sociedad de qué es lo correcto o incorrecto). Ej. Dentro de la moralidad griega, la esclavitud estaba bien vista, la moral vigente de aquel tiempo se veía como algo bien visto. Opiniones mayoritarias de una sociedad. Convicciones acerca de lo correcto y lo incorrecto o patrones de comportamiento existentes en una sociedad, convenciones existentes en un grupo Ética → La ética es una consideración valorativa, un juicio de ciertas acciones... Consideración de ciertas acciones, patrones de comportamiento o principios morales desde una perspectiva normativa 4 tipos de ética: 1. Ética descriptiva → Descripción de la moral. Intento científico de describir la moral de un determinado grupo. 2. Ética normativa → “Modo práctico de determinar un curso moral de acción mediante el examen de las normas relativas a los actos correctos o incorrectos y la asignación de un valor a determinadas acciones”. Discusión acerca de los grandes grupos de la ética a lo largo de la historia, la discusión de si una determinada acción es buena o no. 3. Metaética → Discusión acerca del significado y referencia de proposiciones normativas. Es un ámbito particular. Ej. De qué manera podemos conocer la bondad o cuál es el significado de la palabra “bueno” o “malo”. No es qué es bueno o malo, sino lo que verdaderamente es bueno o malo. 4. Ética aplicada → Consideración de los actos y principios rectos en un campo concreto del obrar humano (ej. ética médica). Paradigmas de la ética normativa 1 Filosofía del Derecho Tema 3 Grupos de teorías: 1. Teorías deontológicas → Centrados en elementos internos a las acciones (v.gr., intención, principios fundamentales) Basada en la intención. ej. que una acción sea de acorde con un principio como puede ser la universalidad. Si una determinada acción cumple con esa regla, se considera ética. - Kant y el imperativo categórico - Influencia en el principalismo de la ética de la IA (Hagendorff). 2. Teorías consecuencialistas → Centradas en la evaluación de las consecuencias de nuestras acciones Estas teorías se fijan en las consecuencias en vez de en la intención. Aquella acción que maximice la felicidad y minimice la tristeza. Los principios de esta teoría es maxibilizar un resultado derivado de nuestra actuación - Predominante en la ética de la IA según ciertos autores: calculabilidad (Tasioulas). Es mucho más fácil ver que maxibilizar la felicidad que determinar si una acción es moralmente valiosa o no porque cumple con un principio abstracto que debemos de discutir muy complejo. 3. Ética de la virtud → Consideración de ciertas “virtudes” que tendría un “agente moral ideal”. Es la más antigua, sabremos lo que es ético si tratamos de pensar que es lo que haría el agente moral ideal, la persona con principios más depurados y perfeccionados de la época. El agente moral ideal no se guía tanto por reglas, sino que percibe el contexto en el que tiene que tomar la decisión y encuentra la solución ideal. La ética sería llegar a actuar como un agente moral ideal. - Importancia del contexto - El libro: “La tecnología y las virtudes” (Vallor). Dependiendo del punto de vista que tendremos nuestra actuación en el marco de la IA podría variar. Ética de la IA: En el fondo, la ética de la IA sería la rama de la ética aplicada dirigida a estudiar y evaluar normativamente el modo en que el diseño, la implementación y el uso de sistemas de IA afecta a los seres humanos y a las comunidades sociales. - Potencialmente durante todo el ciclo vital de la IA. La discusión ética tiene que extenderse por todo el ciclo vital de la IA. - Potencialmente incluyendo de la forma más amplia posible a todos los grupos implicados. Incluir a todos los grupos implicados por el uso de la IA Ej. La UDC quiere implementar un sistema de IA para ver la asistencia del alumnado, sería interesante que en ese diseño contase con nosotros que nos veremos afectados con eses sistema y traslademos nuestro punto de vista y no con un grupo de informáticos. “Debemos centrarnos menos en la ética y más en el poder” (Crawford). Para saber qué debemos prohibir o no, es preciso una reflexión ética de qué es lo correcto y lo que no, a eso nos referimos con cuando hablemos de la ética de la IA. 4 LOS TRES PERÍODOS DE LA ÉTICA DE LA IA 2 Filosofía del Derecho Tema 3 A continuación, vamos a ver cómo ha ido avanzando la cuestión de la ética de la IA. Hay 3 periodos: - 2016/2019 → El tiempo de los principios cuando fueron empezando las proclamaciones de principios éticos tanto en empresas, etc. - 2019 -... → Ethics-by-design. La ética a partir del diseño, una consideración de que los problemas éticos de la IA son problemas que tienen que resolver los informáticos. Tratamos de resolver los problemas trasteando el diseño. - 2020 -... → “From what to how” (Morley et al.) Comienza a darse la importancia un problema con los principios. Ya sabemos cuales son los principios de la ética de la IA. Sabemos cuales son los principios, pero nos falta hacer que esos principios tengan sentido en problemas concretos. Aquí podemos ver una línea del tiempo con algunos de las propuestas/documentos que recogen principios de la IA. La idea de la gráfica es que hay cada vez más principios conforme avanza el tiempo. La “segunda ola”: contra la “distracción seductiva”. 3 Filosofía del Derecho Tema 3 En el fondo cuando permitimos el desarrollo de la tecnología, lo que estamos haciendo es dar ciertas concesiones que lo único que hacen es reformar el papel de las grandes tecnológicas en la sociedad. Crítica al dominio del “ethics-by-design”. En lugar de centrarse en “mejorar” un sistema de IA: - ¿Tal sistema debiera implantarse o no? - ¿Quién tiene poder para determinar su diseño final? Ciertas “concesiones estratégicas” que refuerzan a las grandes tecnológicas 5 LOS PRINCIPIOS DE LA ÉTICA DE LA IA (DIRECTRICES ÉTICAS PARA UNA IA FIABLE) Este esquema pretende demostrar los principios y elementos fundamentales en materia de IA. Se divide en 4 principios (autonomía humana, equidad, prevención de daño y explicabilidad) y dentro de estos están los requisitos que son más específicos (ej. transparencia, gestión de la privacidad y de los datos, etc.) Las Directrices Éticas para una IA Fiable: Las directrices se publican el 8 de abril de 2019 - 17 julio 2020: Assessment List for Trustworthy Artificial Intelligence (ALTAI). Se trata de un formulario que trata de facilitar la implementación de las directrices. Las directrices tienen un carácter horizontal (no son principios para un único uso, ej. ámbito médico, sino son principios amplios que debería poderse usar en cualquier sistema de IA) y voluntario (aun no es derecho estricto). Entre segunda y tercera etapa de ética de la IA: - Importancia de los “métodos técnicos” - Interés en el “how”: requisitos y ALTAI 4 Filosofía del Derecho Tema 3 “Competitividad responsable” haciendo ver que es importante que asumamos unos principios en conjunto en la UE. - Afecta al modo de concebir la ética de la IA (Powles y Nissenbaum 2018) - “Ethics-washing” Atención a todo el ciclo vital: las directrices habla del “diseño, desarrollo, despliegue, aplicación y uso” del sistema de IA. También habla de las diversas partes interesadas: “empresas, organizaciones, investigadores, servicios públicos, agencias gubernamentales, instituciones, organizaciones de la sociedad civil, particulares, trabajadores y consumidores”. Todos ellos deben poder participar en la discusión ética del diseño, desarrollo, despliegue, etc de los sistemas de IA. Impacto de la idea de los “sistemas sociotécnicos”: Un sistema de IA por sí mismo no es nada, sino que se ensambla en una sociedad creando un sistema sociotécnico. - Soluciones técnicas → xAI y valores-por-diseño... - Soluciones no técnicas → Diálogo social, diversidad en equipos de diseño... Las directrices hablan de la Inteligencia Artificial Fiable (Trustworhty AI) para referirse al objetivo que es: - IA lícita → Cumplimiento de todos los requisitos legales aplicables. - IA ética → Garantía de cumplimiento de todas las normas éticas. - IA robusta → Funcionamiento seguro y fiable. De nada nos sirve que el sistema sea ético si luego es hackeado fácilmente. Esa visión de la IA, está muy conectada con la idea de los derechos fundamentales, la democracia y el estado de derecho (Respeto a la dignidad humana, libertad del individuo, respeto a la democracia, la justicia y el estado de derecho, igualdad, no discriminación y solidaridad, Derechos de ciudadanía, etc.) 5 Filosofía del Derecho Tema 3 Transparencia: Se trata de uno de los principios más importantes es el de transparencia. En el documento de la UE, no llevan ese orden, pero según los autores es el orden más importante. ¿Y si evaluásemos los TFM a través de un sistema de IA? La idea de transparencia se ha asociado a la opacidad. La transparencia es un problema a genuino. Si no respetamos la transparencia, no podemos valorar el resto de los principios. Cuando hablamos de transparencia solemos pensar en el propio modelo, pero en sentido amplio ha de referirse a los datos (de donde han salido) y al sistema de IA y al modelo de negocio. Principio genuinamente de la ética de la IA (Floridi y Cowls: opacidad) Meta-principio: permite o perjudica otras prácticas éticas (Turilli y Floridi) y es fundamental para evaluar el resto de principios (Fjeld; Morley et al.) ¿Qué ha de ser transparente? Datos, sistema de IA y modelo de negocio Transparencia es un concepto muy amplio que incluye la trazabilidad, por ejemplo. Forman el principio de transparencia (transparencia es muy amplio): Trazabilidad: Documentar todos los pasos del proceso de formación del sistema de IA para identificar problemas y sus causas (datasets, procesos, obtención y etiquetado de datos, algoritmos empleados...) Tiene que ver con la trazabilidad de todos los pasos que hay que dar para la creación del sistema. Explicabilidad: la posibilidad de entender qué es lo que esta haciendo el sistema. posibilidad de comprender las operaciones del sistema de IA, especialmente necesaria en decisiones con impacto alto en la vida de las personas - Interpretabilidad ≠ explicabilidad (árbol de decisión /deeplearning) - Explicabilidad técnica y transparencia del modelo de negocio Comunicación: Avisar (ej. este sistema ha sido realizado con IA hemos encontrado una tasa de fallo de x, téngalo en cuenta y apélalo si lo considere) derecho a conocer que estamos interactuando con un sistema de IA. - Derecho a interactuar con un humano si es necesario proteger derechos fundamentales - Derecho a conocer las limitaciones y capacidades de la IA Otro principio es: Diversidad, no discriminación y equidad: Titular de la noticia: “Twitter detecta que algoritmo tiende a recortar personas negras y hombres de las fotos”. Asociado al principio de equidad (fairness) y a la problemática de los sesgos Cuando subes una foto larga a Twitter, el sistema la recorta y enfoca la cosa más “importante” de la foto. En vez de coger aleatoriamente o el espacio blanco del centro lo que hacía es coger a la persona blanca. El sesgo aquí sería que funciona mejor con personas blancas que de color. Si yo he entrenado a mi sistema con distintas fotos de objetos y personas, si las personas en las fotos siempre eran blancas, para el sistema todas las personas que no sean blancas no son personas. 6 Filosofía del Derecho Tema 3 Diversidad y no discriminación: Necesidad de evitar sesgos injustos (unfair): tanto en el dataset como en la programación del algoritmo ▪ Dataset: o sesgos históricos (los datos con los que lo entreno e incorpora sesgo que la sociedad ha ido incorporando) o lagunas (a la hora de entrenar el sistema enfoco mucho a un determinado grupo de personas, por ejemplo -ej. la entreno con una sola raza-) o o modelos de gestión incorrectos (cuando los datos se gestionan de manera incorrecta). - El problema de los proxies. De manera oculta o no tan intuitiva puede ser que yo no quiera tener un dato (ej. raza), pero hay otro tema detrás que puede servirme para el dato que quiero gastar (ej. código postal). Aunque yo elimine el criterio de raza, como en el fondo todos los de X CP son de X raza la maquina lo entiende de manera negativa. - Exigencia de eliminación de tales sesgos: puesto en duda por ciertos autores. ▪ Programación: criterios de elección de métodos pueden afectar al resultado final (Hildebrandt) ▪ Equipos: diversidad en los equipos lleva a mejor identificación de sesgos. Cuanto más diverso un equipo (ingenieros, informáticos, etc.) de trabajo, más fácil que les den mayor importancia a unos sesgos. La importancia de incorporar diversidad en los equipos para que haya visiones diferentes (ej. cuestión de genero). Si se quiere realizar un sistema artificial en el que se quiere diferenciar seres humanos de monos, si solo lo hemos entrenado con humanos de tez blanca, es muy probable que la máquina al detectar una fotografía de una persona con otros rasgos, lo identifique como un mono. Para evitar sesgos se elimina el parámetro en el que se basa el mismo (raza). No obstante, el sistema proxy utiliza datos que encubren estos sesgos (por ejemplo, código postal, a sabiendas que el código postal muchas veces implica que en el mismo viva determinado sector concreto). Hay expertos qe optan por dejar el parámetro originario del sesgo y luego aplicar coeficientes correctores. Accesibilidad y diseño universal: sistemas centrados en el usuario, que permitan su empleo por todas las personas. La posibilidad de que todos podamos hacer uso de ese sistema y tengamos las herramientas suficientes para ello. (Ej. un ordenador que no está adaptado para una persona ciega puede llegar a ser inútil). Con sistemas de IA incorporados a algunos hardwares habría que tener en cuenta la accesibilidad universal. Participación de las partes interesadas: consulta de todas las partes interesadas que puedan verse afectadas por el uso (también tras implementación). (Ej. Si voy a implementar un sistema de evaluación de TFM hay que contar con la visión de los profes, estudiantes, etc.) Solidez técnicas y seguridad: ¿Qué sucede si un sistema predictivo otorga gran relevancia a un parámetro cambiante? (Pasquale y Cashwell) Hay que tener un sistema que sea lo suficientemente ágil para no dar relevancia a parámetros que antes eran importantes, pero que ahora no. Estos autores critican a un sistema de predicción de decisiones judiciales del TEDH. Lo que hacían era coger sentencias pasadas, pasar los antecedentes por el sistema de IA, y que predijesen cual es el resultado. Lo que decían estos autores era que el sistema IA leía los antecedentes, le daba un valor a cada una de las palabras, tras esto se calculaban las probabilidades de que fuesen condenatorias o no. Vinculado al principio de prevención del daño Evitar que alguien pueda tomar el control del sistema de IA, que el sistema no se adapte de forma adecuada a nuevos contextos o que afecte negativamente a quien interactúe con él 7 Filosofía del Derecho Tema 3 Las cuestiones dentro de este principio son: Resiliencia a los ataques y seguridad: Protección frente a vulnerabilidades y ataques (a los datos, al modelo o a la infraestructura Plan de repliegue y seguridad general: Solicitar la asistencia de un operador humano, evaluación de riesgos (e.g., RGPD), proactividad en la protección. Que en el caso de que haya un problema, se pueda realizar un determinado repliegue. Tienes que estar alerta identificando vulnerabilidades y adelantarte a los problemas. Precisión: Se refiere a la capacidad de realizar juicios correctos (e.g., clasificaciones, predicciones). Requiere testeos adecuados e identificar las probabilidades de error. Se puede detectar cuál va a ser el error. Aquí viene la cuestión de falsos negativos o positivos, tolerando más o menos un determinado tipo de erro r antes que otro. En esos datos de entrenamiento le indicas tus preferencias. Fiabilidad y reproducibilidad: Tiene que ver con la capacidad del sistema de ser estable, aunque se le cambien ciertos parámetros. - Fiabilidad: el sistema funciona adecuadamente en cierto rango de inputs y de situaciones. (Ej. entro un sistema de IA para identificar drones, y el sistema lo detecta mejor en terrenos boscosos y que montañosos. Cuanto más diversos los datos de entrenamiento, fallará menos). - Reproducibilidad: El sistema ofrece el mismo comportamiento cuando se actúa bajo las mismas condiciones. (Ej. En ChatGPT si le hago la pregunta muchas veces, me dará muchas respuestas diferentes, aunque puede ser valioso que sea una respuesta natural. Pero en otros casos no es valioso si pregunto por ejemplo los casos de x enfermedad.) Rendición de cuentas: Imaginemos que, en un país, los tweets que publicó Tay fuesen delitos de odio y conlleven a una responsabilidad penal o civil. Quien diseñó el sistema cometió la imprudencia de que esto podía ocurrió, pero no decidió que el sistema fuese racista. Se plantea el tema de la responsabilidad. “¿Qué fue de Tay, la robot de Microsoft que se volvió nazi y machista?” Relacionado con el principio de equidad Importancia del problema de la responsabilidad por daños producidos por sistemas de IA Auditabilidad → La rendición de cuentas exige auditabilidad. Capacidad de evaluación de los algoritmos, datos y procesos de diseño. Posibilidad de auditorías externas e internas - Necesidad de registrar las decisiones tomadas y los sistemas y procesos empleados (Ayling y Chapman, 2021) - Si hubo un error de diseño y fue imprudente el meter determinados datos con la finalidad de meter un daño esto serviría para dilucidar quién cometió el error y las consecuencias a asumir. Minimización de efectos negativos y notificación → Que siempre que haya un error, se señale, por ejemplo, en Twitter. Identificar posibles consecuencias adversas del uso del sistema y, en caso de producirse, minimizarlas y notificarlas. (Ej. Cerrar Twitter). Que haya un sistema que detecte errores y pueda notificarlo antes de que haya represalias. - Protección de denunciantes anónimos, ONG, sindicatos... - Evaluación es de impacto en todas las fases 8 Filosofía del Derecho Tema 3 - El reglamento de Servicios Digitales, en relación con las plataformas digitales de un gran tamaño tienen que implementar un sistema mediante el cual los denunciantes anónimos puedan denunciar cuentas o tweets que puedan vulnerar derechos. Búsqueda de equilibrios (trade-offs) → Implementación de modos racionales y metódicas de enfrentar tensiones entre requisitos → decisiones razonadas y documentadas, responsabilidad del decisor y posibilidad de revisión. A veces va a haber contradicciones y hay que tomar decisiones (precisión más baja, pero sistema transparente, por ejemplo). Que haya un procedimiento establecido para ponderar los principios con los que estamos trabajando. Compensaciones Estos principios se tienen que ir trabajando en el diseño, implementación del sistema… Acción y supervisión humanas: Se refiere a la necesidad de que haya algún ser humano que pueda hacer algún tipo de control sobre el sistema. Titular de una noticia: “El Robodebt scheme australiano: Un caso trágico de fallo en las políticas públicas.” A pesar de que se ganaba mucho, también había efectos negativos donde habría sido mejor que hubiese sido el ser humano quien lo hubiese supervisado. Conexión con el principio de respeto a la autonomía humana Promoción de valores humanos + supervisión Derechos humanos: En circunstancias peligrosas, valoración de impacto a derechos humanos - Antes y durante el desarrollo: reducibilidad y justificación de riesgos. - Mecanismos de opinión externa. Acción humana: Competencias para tomar decisiones sobre la interacción con sistemas, posibilidad de evaluar y cuestionar el sistema. Apoyo a las decisiones humanas, no sustitución. (Ej. En vez de sustituir a los jueces por IA, que la IA sea complementario a su trabajo como puede ser un buscador de sentencias que es algo que haría el juez manualmente). - Derecho a no ser sometido a decisiones basadas exclusivamente en procesos automatizados si tal decisión tiene efectos jurídicos o afectan significativamente (art. 22 RGPD) Supervisión humana: Posibilidad de que un ser humano tenga cierta capacidad de decisión. Autores hablan de: - Human-in-the-loop (HITL) → Capacidad de intervención en cada decisión - Human-on-the-loop (HOTL): → Capacidad de intervención durante el ciclo de diseño y monitoreo durante el uso - Human-in-command (HIC) → Capacidad de supervisar la actividad global del sistema y decidir cuándo y cómo emplearlo en una situación particular (negar uso particular, discreción humana y anulación) Gestión de la privacidad y de los datos: (ha dicho que lo vamos a ver por encima) “Los genes de dos primos segundos llevan a un hombre al banquillo por un doble asesinato de hace 32 años”. En este caso no fueron los datos personales del individuo suficientes para la escena del asesinato. Los datos de ADN sirvieron para que cruzando datos de los primos segundos se pudiese llegar a la conclusión de que podían atribuirse a algún primero segundo. Relacionado con el principio de prevención de daños 9 Filosofía del Derecho Tema 3 Protección de la intimidad y de los datos: Asegurada durante todo el ciclo de vida del sistema (RGPD). Calidad e integridad de los datos: Relacionado con el problema de los sesgos (también lagunas, errores...) - Solución antes de entrenar con cualquier dataset - Evitar afectación a la integridad - Evaluación y documentación: en planificación, formación, verificación y despliegue de los datos - Aplicable a sistemas de IA adquiridos externamente Acceso a los datos: Protocolo de acceso a los datos para evitar accesos innecesarios. Bienestar social y ambiental: (ha dicho que lo vamos a ver por encima) “El entrenamiento de [un modelo de IA de NLP] realiza las mismas emisiones de que cinco vehículos durante toda su vida útil” Relacionado con los principios de equidad y prevención del daño Esto hace que tengamos en cuenta a la sociedad en general (incluyendo generaciones futuras), otros seres sintientes y medioambiente como partes interesadas. Una IA sostenible y respetuosa con el medio ambiente: en el desarrollo, despliegue y utilización, así como en toda la cadena de suministro - Atlas of AI (Crawford). Impacto social: alteraciones de la concepción de la “agencia” social derivada de la exposición ubicua a sistemas sociales de IA. Necesidad de monitorizar estos efectos Sociedad y democracia: necesidad de evaluación social, no solamente individual 6. TENDENCIAS Y PREMISAS GENERALES DE LAS GUÍAS DE ÉTICA DE LA IA (lo va a dar por encima porque quiere ver bien el próximo tema). Consenso en los principios, divergencias en su significado: Convergencia hacia una serie de principios compartidos: - Beneficencia, no maleficencia, autonomía, justicia y explicabilidad (Floridi, Cowls) Divergencia en su significado, su justificación, su extensión, jerarquía y resolución de tensiones (Jobin et al.) - “Conceptos disputados en su esencia” (Mittelstadt) - Riesgo de “principios a la carta” (Floridi) Solucionismo tecnológico y cuantificación de la ética: Greene identifica cierto consenso acerca de cómo enfrentar los problemas éticos de la IA: - Implementación basada en la maximización del beneficio. Idea de competitividad responsable. - Posibilidad de realizar mediciones objetivas del impacto negativo de la IA (ej. imparcialidad). Se puede calcular la imparcialidad, el impacto social… 10 Filosofía del Derecho Tema 3 - Problemas que apela esencialmente a la supervisión por parte de expertos. Las directrices apelan a esa idea de tener en cuenta a personas no expertas. - Escrutinio ético centrado en la fase de diseño - Enfoque basado en las “reparticiones tecnológicas” o solucionismo tecnológico, en buscar una solución tecnológica o un nuevo sistema de IA que favorezca la transparencia y no en crear otro sistema que solucione el problema creado por otro sistema. ▪ “Segunda ola” y critica de Powles y Nissenbaum “Ethics washing” y el dominio de la industria Creciente interés de la industria en la ética de la IA - E.g.: en imparcialidad y sesgos, 71% más publicaciones Investigación en ética de la IA como competición, no como cooperación (Hagendorff) desde la industria cada año - Prevalencia de la lógica de rentabilidad económica - Refuerza la idea de “competitividad responsable” y de “reparaciones tecnológicas” frente a “segunda ola” Retraso en la regulación: autorregulación de expertos hace innecesaria regulación política y control democrático (Hagendorff, Mittelstadt) - Directrices éticas y AI Act como posible contraejemplo La conversión de principios en prescripciones particulares Causas de las limitaciones de los principios (Whitlesstone et al): - Grupos sociales diferentes interpretan los principios de manera diferente - Los principios son demasiado generales: dificulta aplicabilidad aunque facilita consenso “vacío”: “los principios no se traducen automáticamente en la práctica” (Mittelstadt) - Conflicto entre principios en la práctica Google: “Don’t be evil” Las Directrices éticas y el problema de los principios: - Un código ético “nunca puede sustituir al razonamiento ético, que debe ser sensible en todo momento a detalles contextuales” - Assessment List for Trustworthy Artificial Intelligence (ALTAI) 11 Filosofía del Derecho Tema 4 TEMA 4. EL USO DE LA INTELIGENCIA ARTIFICIAL EN EL DERECHO Profesor: Jorge Crego El desarrollo de lo que podríamos denominar inteligencia artificial jurídica (entendiendo como tal los usos de la IA en el mundo del derecho) ha ido cambiado con el paso del tiempo. Este tema es una introducción a la aplicación de la IA al Derecho, el uso de la IA en tres ámbitos: el derecho formalizado, la práctica jurídica automatizada y el derecho personalizado. I. LA BASE TECNOLÓGICA QUE DA FORMA AL DERECHO “La única forma de rectificar nuestro razonamiento es hacerlo tan tangible como el de los matemáticos [...] y cuando haya disputas entre personas, podamos decir simplemente: “calculemos, sin más preámbulos, para ver quién tiene razón” (Leibniz) Leibniz tenía la preocupación de intentar aprovechar esa claridad de las matemáticas en el ámbito de la ética. Ej. Una disputa jurídica a cerca de cómo interpretar una norma. Leibniz decía que había que encontrar una forma de transformar la disputa en un problema matemático donde llegar a una solución incontrovertida como en las matemáticas. El poder llegar a una solución incontrovertida era un propósito central de este autor. “[U]sando una imagen moderna, podríamos decir que el positivismo considera al jurista como una especie de robot o de máquina electrónica” (Bobbio) El positivismo jurídico es una familia de reflexiones, de la naturaleza del derecho, donde una de las grandes propuestas es que la aplicación del derecho es mecánica, cuando lo aplicamos podemos hacerlo desde la lógica sin tener que entrar a ver qué es lo bueno o malo éticamente. Los problemas jurídicos se pueden resolver con la letra de la ley sin entrar a discutir si es bueno o malo. Esto ha sido criticado. Ej. Cuando el CC habla de que “se exigirá que un individuo actúe como un buen padre de familia” tiene que haber una discusión moral de qué es un buen padre de familia. Quienes no apoyan esta visión dicen que ahí no vale un cálculo matemático, sino que hay que hacer una discusión moral acerca del término de buen padre de familia. “Lejos de la reincidente utopía que aspira a una práctica jurídica cibernéticamente mecanizada o formalizada hasta emular lo geométrico, tales ‘métodos’ pueden brindarnos interesantes puntos de apoyo: para aumentar la transparencia de una tarea inevitablemente ética, para posibilitar la previsión de sus consecuencias y para diseñar esquemas de control de sus falibles propuestas” (Ollero) Ollero dice que a lo mejor no podemos mecanizar la aplicación del derecho a través de matemáticas, pero esos métodos de matematización si pueden ser útil para prever las consecuencias de un determinado ordenamiento jurídico, diseñar esquemas para identificar respuestas equivocadas del derecho, etc. 1 Filosofía del Derecho Tema 4 La idea de que la tecnología impacta en el modo de entender el Derecho es algo novedoso. El desarrollo de la IA ha planteado un estudio de posibilidades mayor que en el pasado y hace que nos hagamos preguntas acerca de usar la IA para transformar el Derecho en general. La idea de este apartado es clarificar que la forma de ser el derecho tiene que ver con las posibilidades tecnológicas de esa sociedad. Si queremos entender cómo funciona un OJ en un determinado momento, hay que conocer el contexto informático. “La escritura y la imprenta forman las precondiciones para un sistema jurídico moderno” (Hildebrandt). La aparición de la imprenta potenció unas tendencias en el Derecho que explican cómo impacta el Derecho en una determinada sociedad. Imprenta y Derecho: - Extensión del alcance de las normas jurídicas: Cuanto más fácil copiar un código, más fácil es hacerlo extenso. Ej. Si tengo facilidad en hacer millones de copias sin esfuerzo, supondrá menor esfuerzo hacer un código de 1000 artículos (Ej. La Ley de las XII Tablas). - Preocupación por la sistematicidad y racionalización: Cada vez será más complicado ordenar las normas jurídicas de manera razonable, sistematizar por temas (penal, civil, etc). - Aparición de la interpretación como “proceso creativo”: La interpretación como proceso creativo surge con la aparición de la imprenta. No podemos preguntarle al autor del propio texto sobre qué es lo que quería decir. Escritura y Derecho: - Platón y la defensa de las leyes generales escritas como “segundo recurso”. La aparición de la escritura permite darnos unas reglas que se aplican en un determinado territorio y hace que se dé una solución igual en todos los sitios. II. EL DERECHO CONTEMPORÁNEO: EL PARADIGMA DEL IMPERIO DE LA LEY (RULE OF LAW) ¿Cómo funciona actualmente el Derecho? El derecho funciona a través de reglas generales que los ciudadanos conocen de antemano Imperio de la ley, rule of law, estado de derecho, legalidad... - Concepciones formales, procesales y sustantivas El funcionamiento general es la regla general que se aplica a casos particulares. Tenemos que conocer qué dice la regla y ver si el caso encaja con lo que dice la Ley. Ej. “Prohibido entrar en coche al campus” ¿qué es un vehículo? ¿qué es entrar al coche? Las reglas tienen que ser generales y claras porque si no dice claramente qué debemos hacer, no podemos aplicarla a casos particulares. Habrá reglas más o menos claras, pero si una norma es muy oscura significa que el derecho no funciona bien. 2 Filosofía del Derecho Tema 4 Requisitos de cómo funciona un sistema jurídico sano (exigencias del imperio de la ley “formal” - Fuller) 1. Generalidad 2. Publicidad 3. Irretroactividad 4. Claridad 5. Ausencia de contradicciones 6. Inexistencia de leyes que requieren lo imposible 7. Constancia de la ley en el tiempo 8. Congruencia entre la acción oficial y la norma declarada Forma del imperio de la ley → valores Para que un buen ordenamiento jurídico sea eficaz, se requiere que cumpla con dichas exigencias Respeta a los sujetos jurídicos: influye en sus conductas a través de la participación de los sujetos → racionalidad deliberativa + auto-aplicación Escrutinio público: “Actuar a partir de reglas conocidas es una precondición de cualquier valoración de la justicia del derecho” Excluye ciertos contenidos perversos y discriminatorios Para la discusión normativa, el hecho de que las reglas sean generales no es una forma de describir cómo es un derecho. Si un OJ es bueno y está bien pensando, pero no funciona con reglas claras, por muy bueno que sea el sistema, no será eficaz y será como si no existiese. Si un OJ por su contenido es bueno, sino se adapta a estas exigencias y no es seguido por los individuos, será como si no existe y la bondad de los individuos no se verá reflejada. Otros autores también hablan de “escrutinio público”. Ej. Si estoy sometido al arbitrio de un tirano cada día me va a permitir hacer o no lo que quiera (un día permite ir a clase en coche y otro día no) no voy a poder evaluar el sistema porque cada día me va a permitir hacer una cosa. No puedo valorar si lo que me permite el tirano me conviene o no, pero si las normas están en un código puedo evaluar si el código me parece adecuado o no. Otros autores dicen que el hecho de tener que poner nuestras normas sobre papel y en regla general, excluye ciertos contenidos perversos y discriminatorio. Estos valores entran en discusión. ¿cuatro valores? IMP: Podría ser cierto en que hay algo valioso en vivir entre reglas generales y no específicas que pueden ser discriminatorios. Imperio de la ley → práctica jurídica como subsunción del caso particular en la regla general - Las normas jurídicas se aplican a “tipos generales de conducta en lugar de únicamente a una instancia particular del tipo” (Kramer) Un ejemplo de la idea de Kramer: La regla general dice que “los estudiantes del MUDDIA tienen que venir a clase, salvo un 20% de ausencia” y no dice “Jorge tiene que venir mañana a clase”. - Objetivo del razonamiento jurídico: identificar la clasificación correcta de particulares atendiendo a las circunstancias de hecho de las normas del ordenamiento El silogismo es una forma donde tomo una regla general y la aplico a un caso particular. ¿Es posible automatizar a través de IA todos o algunos de los procesos del razonamiento jurídico? - Derecho formalizado - Práctica jurídica automatizada - Derecho personalizado 3 Filosofía del Derecho Tema 4 III. LOS PARADIGMAS ALGORÍTMICOS EN LA TRANSFORMACIÓN DEL DERECHO En el modelo donde hay una RG y un razonamiento por el cual aplico las RGs a un caso particular ¿hasta qué punto podemos sustituir las tareas de los juristas con IA? Esta reflexión no es reciente, viene del pasado. D´Amanto en 1977 ya se planteaba si los ordenadores deberían sustituir a los jueces. Especulación sobre derecho e IA: - Can/should computers replace judges? (D’Amato 1977) Artificial Intelligence and Law: 1980s A partir de los 80, se asienta la disciplina de la IA jurídica y que va a tratar de resolver diversas preguntas relativas al uso de la IA. ¿Puede una aplicación jurídica personalizar respuestas para un cliente? Expert Systems in Law (Susskind, 1987) → GOFAI - Expertise materializado en reglas Donde un experto de Derecho se sienta con ingenieros para explicarle cómo se aplica una normativa para que los informáticos creen ese sistema. Cognitive Computing (Ashley) → ML + BD - Expertise materializado en el cuerpo de un texto Con el desarrollo de Machine Learning y Big Data, se desarrolla la idea de lo que este autor define como “Computing”. Hay 2 modelos de aplicación de la IA al Derecho: 1. Rule-based systems: Árboles de decisión lógica. Supone la formalización de los razonamientos jurídicos existentes. Los expertos dan la información. (Ej. ¿El contrato se hizo oral? No. Pues entonces no es válido). - Sistemas jurídicos expertos (LES) 2. Data-based systems: En lugar de que expertos formalicen sus ideas acerca del Derecho, los algoritmos se determinan a través de datos. Los sistemas basados en datos no requieren que el experto explique cómo organizar el sistema. - Machine Learning desde recopilaciones normativas o decisiones judiciales: extraer conceptos, argumentos... La solución que ofrece no es exacta. Este modelo no consigue formalizar el Derecho, pero ofrece soluciones para la cuestión de strict liability. 4 Filosofía del Derecho Tema 4 Westlaw Edge es el nuevo paradigma de búsqueda de jurisprudencia. Permite tener una búsqueda de mayor precisión a través del ML. Los buscadores jurídicos incorporan algoritmos generados por ML que mejoran la búsqueda. COHUBICOL es una tipología de las tecnologías jurídicas. Se puede filtrar por: - Usuarios finales →Tribunales, legisladores, litigantes, administración pública, despachos... - Funcionalidad → ADM, contratos, LES, preparación de legislación, predicción de decisiones judiciales, búsqueda... - Modelo → Codificado, basado en datos o híbrido IV. EL DERECHO FORMALIZADO: PERFECCIONANDO NUESTROS SISTEMAS JURÍDICOS Una de las primeras preocupaciones relacionadas con cuestiones de IA tiene que ver con la posibilidad de formalizar de algún modo los textos jurídicos que están escritos en lenguaje natural (lenguaje con el que nos comunicamos habitualmente, aunque algo más técnico). Lo que pasa es que los lenguajes naturales traen 2 problemas: 1. Son ambiguos → Una misma palabra puede significar dos cosas. 2. Son vagos → El hecho de que una palabra se refiera o no a una cosa concreta puede ser discutible. (Ej. La palabra “vehículo” ¿qué es un vehículo? ¿un patinete eléctrico? ¿una silla de ruedas motorizada? ¿un monopatín?) Cuando el derecho es vago o ambiguo es un problema porque el juez tiene que aplicarlo, pero no está claro que es lo que tiene que aplicar. Una de las primeras preocupaciones de la IA fue tratar de eliminar esa ambigüedad y vaguedad a través de la formalización del Derecho. Normalmente, en filosofía se distingue entre lenguaje natural y lenguaje formalizado. Los sistemas lógicos, lo que tratan de hacer es eliminar ciertas ambigüedades en el lenguaje para aclarar el significado de algunas frases (ej. La conjunción “y” o “además” de lenguaje natural se traducen en lenguaje formal). “Nadie puede participar en una conversación anónima y emplear en ella lenguaje obsceno y amenazas de cualquier tipo” (Allen y Engholm) Esta frase fue a juicio. Un ejemplo de vaguedad es cuando una palabra puede tener varios significados. En este caso la palabra “obsceno” lo que para algunas personas es obsceno, para otras no. Luego está la ambigüedad sintáctica que no tiene que ver con la ambigüedad de la palabra, sino con la frase, en este caso es “y”. Si empleo lenguaje obsceno, pero no amenazo a nadie ¿estoy cometiendo un delito? Generalmente este tipo de “y” en frases jurídicas le da un significado como un “o” o una cosa u otra, no hace falta las dos. 5 Filosofía del Derecho Tema 4 El hombre al que demandaron dijo que “y” debía de interpretarse como una subsunción y debía cumplirse con las dos cosas. Allen defendía que había que usar lenguaje formal en las normas jurídicas y en vez de poner “y” poner un símbolo que diga que se tienen que cumplir las dos u otro símbolo que signifique que hay que cumplir una u otra para que se esté cumpliendo el delito. Esto ayudaría a los jueces y ciudadanos. Esta era la primera utilidad que tendría esta formalización, clarificaría el derecho y sería más fácil resolver estas ambigüedades. Interpretación y aplicación = clarificación - Pero se mantienen dos “textos”: ley aprobada vs. ley interpretada Reformulación del texto legal clarificando el contenido → formalizar el Derecho - Sistematización e incorporación de jurisprudencia en el texto jurídico - Identificación de ambigüedades y vaguedades que el legislador deberá́ tomar en consideración Tendencia a la particularización de normas y a la expansión del sistema jurídico Derecho formalizado → mayor posibilidad de automatización de la práctica jurídica Cuando un juez aplica el derecho, interpreta ese “y” u “o”. Cuando un juez interpreta el derecho, sigue habiendo dos textos: la ley aprobada que sigue escrita igual y la ley interpretada donde la sentencia ayuda a entender el significado de la ley. Este autor dice que no tiene sentido que haya una sentencia para resolverlo, sino que hay que reformar el sistema jurídico (reformulación del texto legal clarificando el contenido). Otra opción sería usar este lenguaje para identificar ambigüedades. Si formalizo el texto jurídico, un sistema podría dar error. El derecho formalizado tiene una ventaja todavía mejor, si la norma jurídica no es ambigua y vaga y está basada en conectores y palabras claras, voy a poder computar esa aplicación de la norma, no voy a necesitar a un juez que lo haga. Esa rama de derecho formalizada que pretende clarificar las normas está unida a la automatización del derecho. En el fondo, cuando clarificamos el significado de normas, las estamos particularizando, haciéndolas más específicas (ej. obsceno, clarifico requisitos). Hay una tendencia a la particularización de normas. V. LA PRÁCTICA JURÍDICA AUTOMATIZADA O “EL ABOGADO DEL MAÑANA” La práctica jurídica automatizada tiene que ver con el uso de sistemas de IA que transforman la aplicación del Derecho. Es un texto que no sólo habla de sistemas de análisis documental a través de la IA, sino que también explica cómo afecta a la estructura en el ámbito de la abogacía (ej. despachos donde hay cientos de aprendices donde buscan jurisprudencia para que el abogado redacte la demanda). Viene a decir que cada vez más habrá sistemas de IA que hará que ya no tenga que hacerse. 6 Filosofía del Derecho Tema 4 Automatización documental Online dispute resolution (ODR → ADR) Análisis de documentos: data-based → knowledge-based (Ashley) - Primer punto de contacto entre IA y derecho (Bench-Capon et al.) - Búsqueda de normativa o sentencias (Westlaw, LexisNexis) - Palabras → metadatos → etiquetas de expertos → análisis conceptual (ontologías jurídicas, factores...) - Identificación de párrafos o frases relevantes Predicción algorítmica Respuestas jurídicas automatizadas Esto es un ejemplo de una jerarquía basada en factores que reproducen la normativa en cuestiones de revelación de secretos. Se trata de un esquema que sirve para predecir si en este caso voy a ganar o perder el juicio. Es capaz de transformar palabras sueltas en conceptos jurídicos. Factores técnicos que la propia jurisprudencia ha tenido en cuenta. El sistema sistematiza la jurisprudencia. Práctica jurídica algorítmica y razonamiento jurídico - Reduce el trabajo necesario para subsumir el caso en las reglas generales - Mejora el trabajo: humano + máquina ¿Automatización completa del razonamiento jurídico? - Automatizar búsqueda de materiales → automatizar interpretación y aplicación Knowledge-based systems ¿Qué va a ser de los abogados si transformaos los sistemas de IA para que realicen la predicción, búsqueda de jurisprudencia, elaboración de escrito jurídico, etc.? Cuanto más podamos sistematizar, automatizar a través de sistema de IA, menos trabajo humano e impacto en el ámbito de la abogacía (sólo ha dicho eso). 7 Filosofía del Derecho Tema 4 Entonces... ¿la judicatura? - Si es posible automatizar interpretación y adjudicación, es posible automatizar decisiones judiciales → autoridad Volokh propone una especie de “test de Turing” - Importa el resultado, no el método - Comparar el resultado de la IA con el resultado de los seres humanos: barato y eficiente - Persuasión como criterio de comparación ¿Qué pasa con la judicatura? ¿Podemos sustituir a jueces por sistemas de IA? Lo único que faltaría sería la autoridad, es decir, que a un sistema de IA se le atribuya la misma autoridad que a un juez. Volokh dice que no podemos discutir si el método es de un sistema de IA o no, si el resultado es satisfactorio y el ML redacta la sentencia de manera que no se diferencia de la de un juez no debemos rechazar la idea. Hay que comparar el resultado de IA con el resultado de los seres humanos: barato y eficiente (colapso en el sistema judicial). El criterio de comparación tiene que ser la persuasión. Si no soy capaz de diferenciar si la sentencia la ha hecho un juez o no ¿por qué no? VI. EL DERECHO PERSONALIZADO: ¿UN NUEVO PARADIGMA? “La revolución tecnológica que viene llevará a [una] disrupción del Derecho muy profunda. Afectará a la propia estructura de los mandatos jurídicos y el modo en que, como sociedad, elegimos gobernar el comportamiento de los ciudadanos [...]. Somos escépticos sobre si alguien podrá parar esta evolución” (Casey, Nibblet) Si hubiera normas particulares y no generales, se solventaría y no habría ambigüedad (ej. Jorge no puede entrar en monopatín los martes y jueces a la universidad). Ej. La matrícula del máster. Todos pagamos lo mismo, pero cada uno de nosotros tiene unas obligaciones patrimoniales diferentes. Que todos paguemos lo mismo es injusto porque alguien con menos capacidad económica debería de pagar menos. Estos autores proponen que a través de sistemas de IA las normas se enfoquen a cada caso particular. Ellos proponen el ejemplo de la velocidad en la carretera que es el siguiente: Por qué yo que llevo mucho conduciendo con un coche nuevo con sistema de velocidad, donde el sol va a mi espalda tengo que ir a 120Km y un abuelo mayor que no ve mucho también puede ir a 120Km cuando yo a 170km podría ser menos peligroso que el abuelo a 120km. Que el coche recolecte información (si he dormido bien, la edad que tengo, etc.) y calibre una velocidad que se adapte a mi circunstancia personal. Estos autores dicen que tenemos que adaptar las normas. 8 Rel Jcas Soc Dig Tema 5 TERRITORIO, SOBERANIA Y TECNOLOGIA: DESAFÍOS DE LA BLOCKCHAIN Y LOS CRIPTOACTIVOS Profesor: Jorge Quindimil - [email protected] SOBERANÍA Y BLOCKCHAIN: - Aspectos conceptuales: La soberanía es un atributo exclusivamente estatal, ahora bien, se puede disponer de ella. En las organizaciones internacionales (ej. UE) no es que se le ceda la soberanía en sí (porque el estado no pierde la soberanía) sino que se cede el ejercicio de la soberanía. Una de las cosas que está pasando es proyecto de CBDC (Central Banc Digital Currency), proyecto de euro digital, etc. Soberanía cuando un estado trata de protegerse. Si un estado quiere protegerse por naturaleza ¿están a favor o en contra de las criptomonedas? En contra, por lo tanto, lo razonable sería prohibirlas. El blockchain, las criptomonedas… amenaza a la soberanía, a la independencia, la autonomía y plenitud. Ni el estado más soberano del estado ni si quiera el que está a la vanguardia tecnología (Israel). Un estado poderosamente tecnológico como Israel falla de una forma histórica y su soberanía está amenazada. ¿Hasta qué punto los estados son soberanos si los estados en condición de soberanos tienen capacidad plena y exclusiva para autogobernarse y dictar normas sobre su población y territorio? (soberanía interior) ¿Pueden los estados o la UE por delegación dictar normas que prohíban las Criptomonedas? La respuesta es no. A día de hoy no se ha demostrado que sean capaces Estados/organizaciones donde se han aplicados ya no han funcionado incluso en estados autoritarios. Cuando hablamos de tecnológica blockchain hablamos del espacio virtual, no hay un territorio ¿dónde está bitcoin? ¿dónde está guardado un bitcoin? ¿quién hay detrás? ¿Ausencia de sumisión a tercero-Estados/OO. II? (soberanía exterior). La soberanía en su dimensión de independencia y toma de decisiones puede hacerte pensar que los estados son soberanos internamente (para prohibir a gente el uso de criptomonedas) y exterior. Los estados deben contar necesariamente con OO. II. ¿Cómo es la soberanía? ¿qué nos queda de ella? ¿absoluta o relativa? ¿divisible o indivisible? ¿se puede limitar, compartir, erosionar y/o perder? ¿es inmutable o se puede adaptar a los cambios? ¿Digital o tecnológico? Si la soberanía hacia atrás era muy cuestionable en su dimensión absoluta lo es todavía más con un mundo más hiper-tecnológico. La tecnología en si misma es antigua, solo que sobredimensionada por la inyección de datos y aun así falla potencialmente. ¿Hay una soberanía en el entorno digital? ¿Supone trasladar al ámbito virtual la soberanía? La tecnología blockchain y criptoactivos permiten prescindir del dinero tal y como lo conocemos. La existencia de las CBDC ya es un ejemplo de que el dinero en físico y en concepto soberano puede desaparecer. La tecnología blockchain es el ejemplo de que los bancos centrales no son necesarios. El fondo monetario internacional tiene que prohibir la criptomoneda para evitar la fuga de capitales. Soberanía vs Globalización: Si ya el estado era demasiado pequeño antes, ahora lo es mucho más. Ahora un punto de Nerds en un garaje puede secuestrarte una empresa en Coruña, no soy casos de laboratorio, pasan, están pasando. 1 Rel Jcas Soc Dig Tema 5 La soberanía viene siendo amenazada por distintas dimensiones que afectan a aspectos estructuradas de un país. (Ej. El caso de Air Europa de hoy es buen ejemplo). La parte tecnológica te permite neutralizar a un rival. Los desarrollos militares son esencialmente tecnológicos. La evolución tecnológica nos ataca a la soberanía y directamente está en amenaza. Actualmente, las dimensiones de la amenaza por la vía de la tecnología son históricas, nunca se había alcanzado estos niveles. - Aspectos tecnológicos Blockchain, tecnología disruptiva: ¿Qué es la blockchain? La tecnología blockchain tiene una capacidad disruptiva que me gusta comparar con internet. La OMC ante el potencial de internet decide estudiar el posible impacto del internet cuando apenas había webs o direcciones electrónicas. En 1998, el volumen global de e-commerce era de 300.000 millones USD. En 2021: 26,7 billones USD. + 89.000% La BC (BlockChain) ha permitido reducir certificados de origen en Walmart en 6 sdías a 2,7 segundos. Redujo sus costes en un -192.000% ¿potencialmente disruptiva? Sí. El documento de análisis del impacto de internet de la OMC también analizaba desafíos de internet para comercio internacional (documento OMC sobre comercio electrónico, 1998). Todos se aplican a la tecnología BC y en particular a criptomonedas (acceso a la infraestructura y tecnología, regulación *marco previsible que genere confianza, seguridad y confidencialidad de las transacciones, tributación, dinero electrónico, por medios electrónicos (no divisa virtual) *vs dinero en metálico y mayores oportunidades para países en desarrollo e industrializados). Todo empieza con bitcoin. Nacimiento de blockchain + bitcoin (2008). Bitcoin: A Peer-to-Peer Electronic Cash System. ¿Por qué nace? Nace en 2008 - Privacidad (personal) → Para conseguir que el dinero funcione de manera anónima (técnicamente no es anónimo, sino seudónima) en un entorno virtual. - Insatisfacción (social) → Con el dinero fiat cuyo valor depende de una autoridad política que genera desconfianza e inseguridad. - Eficiencia (económico) → Transferencias directas entre usuarios, más rápidas y baratas. 2 Rel Jcas Soc Dig Tema 5 23/10/23 The Genesis block → El nacimiento de bitcoin. ¿Qué es la blockchain (BC)? Fundamentalmente, su base es informática. Bitcoin nace sobre blockchain y este sobre bitcoin. El Ares está en la base de la tecnología blockchain y del bitcoin. La idea es una Ref de ordenadores conectados a través de un protocolo informático. En ares todos están conectados a un programa y te decía qué ordenador tenía la película que querías. ¿Y si aplicamos ello al dinero y en vez de intercambiar canciones y películas intercambiamos dinero? No puede ser dinero centralizado porque está más controlado. Es un protocolo informativo de código abierto y descentralizado basado en criptografía matemática. Todos podemos acceder a las transacciones que se están realizando ahora mismo. Protocolo informático de código abierto y descentralizado P2P: - Abierto (publico) - Descentralizado (integrado por nodos: ordenadores conectados en la red). - Basado en criptografía matemática. La tecnología BC se utiliza para registrar operaciones integradas por datos contenidos por bloques de información. Bloques que registran valores y que permite registrar valores financieros del dinero que nos prestamos entre nosotros. Se puede registrar de todos: temperaturas, asignaturas, notas, productos, personas, datos biométricos, cualquier dato se puede registrar ¿qué sentido tiene esto? Ej. Nos hemos preinscrito, matriculado en asignaturas determinadas, con determinados créditos, que habrá que aprobar con x créditos. Esto se hace de forma centralizado que además depende de cada mimbro de la red, de que hagamos la solicitud de inscripción, de que hagamos el pago, de que llegue el email de confirmación, etc. Si está todo centralizado, cada fase con cada elemento del sistema tiene que actuar (profe poniendo la nota, el coordinador validando los de los profesores, quién está detrás… van pasando fases). Con la tecnología BC sería instantáneo, desde el instante se registra la última nota que nos otorga el título, nos da el título. Ej. Comercio internacional. Compraventa internacional de langostinos en altamar. Se firma un contrato con toda la cadena de operadores. Hay varios elementos. Esta tecnología nos permitirá saber dónde se ha pescado, si la congelación se ha hecho adecuadamente, si ha habido oscilación en la temperatura, etc. Libro de registro o libro contable: - Registra valores: Dinero, temperatura, asignaturas, productos y personas. - Las hojas del libro son “bloques” (de información) 3 Rel Jcas Soc Dig Tema 5 Red centralizada (servidor) vs blockchain (nodos) La tecnología BC permite que el hecho de que los datos fluyan en los nodos permite que sea casi perfecto. Si ataca un nodo de la red, sigue funcionando. Si se atacan dos nodos, también y así sucesivamente. Bitcoin tiene más de 13.000 nodos por lo que habría mucho que atacar. Requisitos mínimos para ejecutar un nodo completo de Bitcoin core: 1. Un ordenador 2. Una versión reciente de Windows, Mac OD X o Linux. 3. 200 GB de espacio libre en disco. 4. 2GB de memoria (RAM) 5. Conexión a internet de alta velocidad con velocidades de carga de al menos 50 KB/s. 6. Nodo completo debe funcionar al menos 6 horas al día (lo ideal: funcionamiento 24/7) 7. 14079 nodos bitcoin core (para que dejase de funcionar tendría que atacar a 14079 nodos, pero no sería suficiente). ¿Cómo funciona la BlockChain de Bitcoin? - Ordenadores conectados (Nodos) a través de Software. - Software (Bitcoin core). Hay varios tipos de software, pero el que nos interesa es el bitcoin core. - Bloques (Paquetes de información. un bloque en sí mismo está aislado). - Cadena (esos bloques se conectan entre sí). ¿Cómo nace el “block”? El bloque nace de la combinación de computación y de consenso. La cuantificación cuántica puede atacar la dimensión computacional, pero no con el consenso. Lo primero de todo es la computación. Si uno quiere unirse a la red de bitcoin debe tener un ordenador y descargarse la aplicación (en el ejemplo de antes sería el Ares). La computación es la parte de la informática más básica (mi ordenador conectado a una red de ordenadores mediante un programa). ¿Qué hay detrás si no hay un banco? La proof of work (prueba de trabajo) se da en BC y en todas las criptomonedas que se minan y aquí en este concepto de prueba de trabajo es donde se da la crítica medioambiental de BC porque este sistema exige estar conectado permanentemente a la red (tu ordenador o tus ordenadores cuanto mayor computacional tenga mayor presencia en el sistema y mayor probabilidad de ganar dinero). El nonce es cuando uno se conecta al BC desde su ordenador entra en un sistema que está en funcionamiento continuamente. Coges el ordenador, te descargas el programa y te incorporas a un sistema en marcha que es un lanzamiento a todos los nodos del nonce para obtener el hash. Se lanza a todos los nodos el hash para que alguno de ellos obtenga el hash. Hay un punto de inicio que es el nonce y un punto de fin que es el hash. El punto de inicio es el hash. Bitcoin utiliza el hash (SAH-256). Para yo recibir un bitcoin, se lanza al sistema la necesidad de resolver esta operación y eso es lo que cada ordenador tiene que concluir. Nakamoto lo complicó más y dijo que el nonce tiene que resolverse con una cadena que empiece por 10 ceros. El nonce (el mensaje que se lanza al sistema para validar las operaciones) es aleatorio. El resultado va a ser el hash. Surge la idea de aumentar la computación ¿cómo? Con las llamadas: - Granjas de minería - Pools de minería: Interconexiones de ordenadores situados en distintos lugares. Hay gente que pone su capacidad de computación al servicio, ordenadores constantemente conectados. 4 Rel Jcas Soc Dig Tema 5 Hay un inicio y un fin. Tenemos un nonce a través del hash function para obtener el hash value. En el proceso hay bloques de información. entre el nonce y hash hay bloques. La computación no es suficiente. Se crean los bloques con computación y consenso. Ese resultado que se obtienes es el primero que valida. ¿y si no está bien resuelto y hay un error? Ese resultado criptográfico, el que viene de la computación tiene que ser validado por los nodos. Nodos validadores que te digan que el resultado es correcto. En cuanto a la mayoría de los nodos validan se puede decir que se ha “minado” un bloque. En cuanto se valida, se mina un bloque de información, se valida la información. Ese nuevo bloque de información da lugar al nacimiento de nuevo bitcoin. ¿Cómo nace la “chain”? ¿cómo se crean los bloques? La cadena nace por la conexión de hashes (el hash el resultado). Cada bloque tiene su hash, es como una matrícula. La cadena nace incorporando un hash al bloque. Cada bloque tiene dos hashes el suyo y el anterior. 1 bloque: 2 hashes - El suyo y el del bloque anterior. - Los bloques se encadenan por los hashes. Cada bloque es único e irrepetible. ¿Qué elementos contiene un bloque? - Block ID (hash propio, resultado de PoW). Cada bloque tiene su identificador. - Hash de bloque anterior - Información de valor del tipo que sea (transacciones o cualquier otro dato) - Smart contracts (en su caso). No son necesarios, pero para todo lo que no sea transacción financiera son necesarios. Los Smart contracts no son contratos inteligentes, sino programas informáticos para automatizar determinados procesos. Seguridad de la blockchain: - Descentralización → Funciona aunque caigan los nodos - Criptografía → Problema matemático complejo que requiere una gran capacidad de computación - Consenso → Mayoría de los nodos deben validar el resultado del problema (51% - una CPU, un voto) - Inmutabilidad → No se puede alterar un bloque sin alterar toda la cadena. El hackeo de la blockchain es posible, pero muy improbable. ¿Por qué la gente confía en el programa? El sistema genera confianza por la existencia de la descentralización, criptografía, consenso, inmutabilidad, incentivo, anonimato y seguridad. Debilidades de la blockchain de bitcoin: - Pérdida de incentivos. - Riesgo de centralización. Es un riesgo alto. - Consumo de energía. - Ausencia de responsabilidad. - Escalabilidad. Es la capacidad de una blockchain para procesar operaciones. Cuantas más operaciones en un mismo servidor más posibilidades de que falle. 5 Rel Jcas Soc Dig Tema 5 24/10/23 El modelo clásico de privacidad sería en el que todo es privado. Las operaciones que hagamos de transferencia vamos a ver que están protegidas por su totalidad. Ahí hay una serie de datos elementales (número de cuenta, cantidad, etc.), pero eso no es público. Con carácter general, todo es privado. El nuevo modelo de privacidad que plantea la BC es hacer que prácticamente todo sea público. Transacciones con cantidades, tipo de moneda, etc todo eso es público (ej. podemos ver las transacciones que se están llevado a cabo ahora mismo). Lo que no puede saber con carácter público es quién está detrás, la identidad es privada. Los datos que se registran en la BC tienen detrás un número, pero ¿de quién es el número? Es una forma de dar privacidad. Puedes acceder a los datos de la BC, pero ¿qué datos? ¿cómo sabemos quién es el emisor o receptor o la finalidad de ese traspaso de dinero? Cuando hablamos de la identidad no es nombre, apellidos, domicilio, es un código. Usos de la Blockchain: Para entender el uso de la tecnolgia BC y sus multiples aplicaciones, hay que partir de las modalidades de BC que existe. La tecnología es única, pero se puede configurar de varias maneras: - BCs Públicas - BCs Privadas - BCs Hibridas El sistema tradicional es el centralizado. Las BCs operan del modo descentralizado, donde los diferentes nodos están interconectados. ¿En qué se diferencian? En cómo operan los nodos, qué libertades tienen los nodos para actuar entre sí. El modelo con el que nace BitCoin es el BC público. Si uno se descarga el bitcoin core va a tener todo el BC desde el origen. Hay bancos que cada vez operan con tecnología BC, están operando dentro de sus sistemas con tecnología BC. Un banco no puede operar con sistema de BC público, por la protección de datos y protección de la red. Cada nodo va a tener unos permisos determinados (BC permisionada). Ej. Todos tenemos acceso al aula virtual de la UDC, pero con diferentes permisos y con acceso a información diferente (rector, profesor y alumno). Yo no puedo acceder a datos de empresariales. Usos de la BC: 1- Logística y cadenas de suministro → El ámbito del transporte o retail es idóneo. La tecnología BC es perfecto para donde haya procesos. 2- Trazabilidad de productos → Cualquier sector (alimentación, cultura, lujo, etc). 3- Finanzas → Criptomonedas, fondos de inversión y economía domestica (predecir descubrimientos en cuenta al hacer una compra). 4- Aduanas y control fronterizo 5- Consumo → Devoluciones por retrasos o cancelaciones, baja en servicios, etc. (Ej. Renfe. Consumidores tienen derechos a indemnización por cancelaciones). 6- Energía → Solar, etc. 7- Seguros → Liberación de fondos al recibir peritaje o informe policial. 8- Agricultura 9- Alimentación 10- Trazabilidad 11- Educación 12- Etc. 6 Rel Jcas Soc Dig Tema 5 ¿Qué son las criptomonedas? Terminología cripto: - Criptomoneda - Criptodivisa - Criptoactivos (Conceptos monetarios con tecnología cripto) - Monedas virtuales - Activos virtuales - Bitcoins → Es LA criptomoneda - Altcoins → Todo lo que no es bitcoin es altcoins. Alt de alternativa - Stablecoins - Memecoins → Son monedas honestas. Crean criptomonedas de broma sin pretender estafar y no lo ocultan - Shitcoins - Tokents - CBDC → Representación digital de una moneda fiat controlado por bancos centrales, por donde van a tratar de llevarnos. El control absoluto. Aspectos conceptuales: Se cuestiona su concepto de “moneda” porque desarrolla de forma ineficiente las funciones de: - Depósito de valor (alta volatilidad) (ej. tengo mil dólares en el banco y mañana también) - Medio de cambio (escasa aceptación, escaso uso). No puedes todavía hacer lo que quieras con criptomonedas. - Unidad de cuenta (alta volatilidad limita su uso referencial para precios). Hoy un dólar vale un dólar y mañana puede variar, pero muy poco. Bitcoin tiene cambios mucho más bruscos. ¿Si eres comerciante, como ofreces un activo tan volátil? Son las tres funciones de la moneda. Características de las criptomonedas: - Blockchain: Operan sobre tecnología BC - Segurdiad: Criptografía y/o consenso - Descentralización: Funcionamiento. No hay una entidad central. La esencia BC es eliminar intermediarios. - Respaldo: Ausencia. - Volatilidad: salvo stablecoins, Tokens asociados a fiat y algoritmos que controla volatilidad - Rentabilidad: Las rentabilidades pueden ser muy altas, pero también te puedes arruinar. Riesgo. - Manipulación: A través de las ballenas. Son grandes poseedores (personas, empresas, etc) de criptomonedas. Desafíos para el orden internacional: Vamos a partir de 3 grandes ámbitos: 1. Economía 2. Seguridad 3. Paz Se ha utilizado tecnología BC en la UE, OMPI, Banco Mundial/PNUD, programa mundial de alimentos, etc. 7 Rel Jcas Soc Dig Tema 5 Desafíos económicos: Algunos datos cripto: +20.000 criptomonedas. Se van creando continuamente y cada vez más. De todas las criptomonedas, sólo 2% suponen el 70% de la capitalización (56% hace un año). BTC (53) / ETH (17). Capitalización: 1.3 billones USD (800.000 hace un año). De un año a hoy se ha duplicado la capitalización. Hay más gente e instituciones invirtiendo, aunque se puede caer. Volumen diario: 92.000 millones USD (63.000 hace un año) 813 exchanges. La velocidad en que empresas o activos han alcanzado el billón de dólares. Microsoft 44 años, Apple 42 años, Amazon 24 años, Google 21 años y Bitcoin 12 años. Históricamente, bitcoins ha tenido caídas. Es consustancial al activo. La idea de interacción entre el mundo cripto y el mundo fiat: Para una operativa normal (usuario estándar de criptomonedas) lo razonable es que yo tengo mis euros, me saco criptomonedas y lo devuelvo a euros para comprar lo que sea. Ahí el sistema centralizado no se ve amenazado. Pero, cada vez más tú puedes tener euros y dolores, llevarlos al mundo cripto y que no vuelvan al mundo fiat. ¿Para que necesito volver al euro y dólar si cada vez puedo pagar más con cripto? Esto es un riesgo para el centralizado. La lucha contra los desafíos económicos: Con carácter general nuestro modelo de referencia es el Comité de Supervisión Bancaria de Basilea. La UE tiene el reglamento MiCA. ¿Criptomonedas al servicio del crimen? ¿Con carácter general son muy utilizadas las criptomonedas para para cometer crímenes? Los criminales y terroristas, casi como cualquier ser humano, necesita financiarse, necesita dinero para cometer crímenes. Las dificultades de acceso son los mismos desde esta perspectiva. Ellos con carácter general necesitan que las finanzas escapen del control de las autoridades. En teoría las criptomonedas podrían ser un medio perfecto por ello por el anonimato y la descentralización. El Gafi en 2019 digo que the threat of criminal and terrorist misuse of virtual assest is serious and urgent. En el último informe hay un incremento en la utilización de las criptomonedas para la comisión de delitos. En el último informe el uso de las criptomonedas en términos ilícitos es de un 2%. En el fondo, si esto se va generalizando, los criminales y terroristas también van a generalizar los usos. Medios de blanquear: 1. Exchanges centralizados 2. Exchanges descentralizados 3. Exchanges de alto riesgo (sin compliance) 4. Exchanges P2P 5. Mixers (centralizados y descentralizados) suponen un problema muy importante. Pierdes la trazabilidad por completo. Uno puede blanquear de determinadas maneras. Gafi?? 8 Rel Jcas Soc Dig Tema 5 Desafíos para la paz: ¿Cómo reacciona el mundo cripto desde la perspectiva de la guerra? El mundo cripto desde la perspectiva de una guerra es útil para la financiación de actividades (bélicas o humanitarias) y para la elusión de sanciones (criminales, ciudadanos y/o ¿criptosanciones?). Si viene otro país a atacarme y yo no puedo sacar mi dinero, lo paso a criptos para poder utilizarlo. Los dos países con mayores países de criptomonedas por habitantes son Rusia y Ucrania, justo los dos países en guerra. Países que tienen el mayor porcentaje de adopción de criptos. Los países donde más poseedores de criptos hay: vietnam, filipinas, ucrania, indica, EEUU, Paquistán, Brasil, Tailandia, Rusia, China, etc. Incluso en países donde están prohibidos (China, Marruecos o Nepal) están en el top de país