Apuntes - Tema 6 PDF

Fundamentos Deontológicos y Jurídicos de las TIC Unidad 6. Ética y Deontología Informática Mª Rosario González Dieste  Fundamentos Deontológicos y Jurídicos de las TIC 24/25 U6 Í...

Fundamentos Deontológicos y Jurídicos de las TIC Unidad 6. Ética y Deontología Informática Mª Rosario González Dieste  Fundamentos Deontológicos y Jurídicos de las TIC 24/25 U6 ÍNDICE DE CONTENIDO ÍNDICE DE CONTENIDO........................................................................................................................................................................... 2 UNIDAD 6 – ÉTICA Y DEONTOLOGÍA INFORMÁTICA................................................................................................................................. 3 CONCEPTOS DE MORAL, ÉTICA Y DEONTOLOGÍA..................................................................................................................................................... 3 Concepto de Profesión............................................................................................................................................................................ 3 Moral y Ética........................................................................................................................................................................................... 3 Concepto de Deontología....................................................................................................................................................................... 6 Deontología Profesional......................................................................................................................................................................... 6 Función de la Deontología...................................................................................................................................................................... 8 Principios Morales Básicos (Informe Belmont, 1979).................................................................................................................................................... 9 Deontología Informática....................................................................................................................................................................... 10 EXIGENCIAS Y DEBERES DE LOS PROFESIONALES.................................................................................................................................................... 10 Exigencias Deontológicas de los Profesionales..................................................................................................................................... 10 Honradez.................................................................................................................................................................................................................... 10 Diligencia.................................................................................................................................................................................................................... 10 Espíritu de Servicio..................................................................................................................................................................................................... 10 Deberes del Profesional Informático..................................................................................................................................................... 11 Secreto Profesional..................................................................................................................................................................................................... 11 Lealtad........................................................................................................................................................................................................................ 11 Respeto a la Intimidad................................................................................................................................................................................................ 12 Solidaridad................................................................................................................................................................................................................. 12 Pluriempleo................................................................................................................................................................................................................ 12 Dicotomía................................................................................................................................................................................................................... 12 Bien Común................................................................................................................................................................................................................ 12 Evitar el Soborno........................................................................................................................................................................................................ 12 Los Diez Mandamientos de la Ética Informática......................................................................................................................................................... 12 Agentes de Responsabilidad en la Informática..................................................................................................................................... 13 Empresas.................................................................................................................................................................................................................... 13 Centros de Enseñanza................................................................................................................................................................................................ 13 Profesionales.............................................................................................................................................................................................................. 13 CÓDIGOS DEONTOLÓGICOS EN LA INFORMÁTICA.................................................................................................................................................. 13 Profesiones en la Historia..................................................................................................................................................................... 13 Profesiones en el Siglo XX..................................................................................................................................................................... 14 Concepto de Código Deontológico........................................................................................................................................................ 14 Pautas de Códigos a Nivel Internacional............................................................................................................................................... 14 Evolución.................................................................................................................................................................................................................... 14 Nivel Internacional..................................................................................................................................................................................................... 15 Principios del Código Ético de Ingeniería de Software................................................................................................................................................ 15 Código de Ética del IEEE-CS/ACM............................................................................................................................................................................... 15 Código Deontológico del Colegio Oficial de Ingenieros Informáticos de España................................................................................... 16 Impacto Ético de la Informática.................................................................................................................................................................................. 16 Responsabilidad Profesional....................................................................................................................................................................................... 16 Función Social de la Profesión y Principios Inspiradores............................................................................................................................................. 17 Deberes Generales..................................................................................................................................................................................................... 17 Deberes Respecto al Secreto...................................................................................................................................................................................... 17 Deberes Respecto a sus Compañeros......................................................................................................................................................................... 18 Deberes con la Profesión............................................................................................................................................................................................ 18 Deberes Respecto al Cliente....................................................................................................................................................................................... 18 Deberes con la Sociedad............................................................................................................................................................................................. 19 Deberes Respecto al Equipo que Tenga Bajo su Gestión............................................................................................................................................. 19 Deberes Respecto al Proyecto.................................................................................................................................................................................... 19 Honorarios.................................................................................................................................................................................................................. 20 Comisión de Deontología y Ética del CCII.................................................................................................................................................................... 20 ÉTICA EN LA INTELIGENCIA ARTIFICIAL................................................................................................................................................................. 20 ¿Qué es la Inteligencia Artificial?.......................................................................................................................................................... 20 La Inteligencia Artificial Generativa............................................................................................................................................................................ 21 Las Amenazas de la IA................................................................................................................................................................................................. 21 Ética en la Inteligencia Artificial............................................................................................................................................................ 21 Consideraciones Éticas que Tienen en Cuenta las Normativas.................................................................................................................................... 21 Normativa Internacional....................................................................................................................................................................... 23 Directrices de la OCDE................................................................................................................................................................................................ 23 Informe de la Comisión Mundial sobre el Futuro del Trabajo de la OIT...................................................................................................................... 23 Recomendación sobre la Ética de la IA de la Unesco.................................................................................................................................................. 23 Resolución (2021) de la ONU: Derecho a la Privacidad en la Era Digital...................................................................................................................... 24 Normativa Europea.............................................................................................................................................................................. 24 Oficina de la IA en la Comisión.................................................................................................................................................................................... 25 Normativa Española............................................................................................................................................................................. 26 Real Decreto 817/2023, de 8 de Noviembre............................................................................................................................................................... 26 Real Decreto 729/2023, de 22 de Agosto................................................................................................................................................................... 26 Agencia Española de Supervisión de Inteligencia Artificial.......................................................................................................................................... 26 Universidad de Burgos Alejandro José Álvarez López  Fundamentos Deontológicos y Jurídicos de las TIC 24/25 U6 Unidad 6 – Ética y Deontología Informática. Los seres humanos necesitamos reglas para comportarnos. Si no fuera así, dependiendo de la situación, podríamos actuar por interés propio, placer, acomodo, etc. El progreso técnico tiene su auténtica justificación si se pone al servicio del hombre y de la sociedad, ayuda a la sociedad de bienestar, por lo que requiere analizar el ángulo ético de la tecnología. La tecnología informática plantea nuevas situaciones y nuevos problemas, algunos de ellos de naturaleza ética. Necesidad de una ética y deontología de las tic. Los códigos deontológicos son normas de conducta práctica en toda profesión. Conceptos de Moral, Ética y Deontología. Concepto de Profesión. Professio (lat.): es la promesa pública de cumplir unas ciertas obligaciones y actividades y la aceptación de la sociedad de ese compromiso. Las profesiones nacen como actividades sociales realizadas en beneficio de la colectividad. TODOLÍ: “Es una actividad humana habitualmente dirigida a un quehacer concreto, útil y exigido, por lo que el individuo, debidamente preparado, colabora al bien común de la sociedad en la que vive, al propio tiempo que encuentra en ella los medios de subsistencia adecuados, siempre bajo el control de la ley y los controles de su trabajo específico”. Requisitos de la profesión: Actividad económico-social de utilidad para el individuo. Actividad asociada a un medio social organizado. Actividad al servicio de la sociedad. Control del trabajo por normas. Conocimientos teórico-prácticos para desarrollarla. Un buen profesional es un experto al que se valora no sólo por sus resultados sino por la diligencia en el cumplimiento de sus obligaciones: implica excelencia técnica. Moral y Ética. La ética es una rama de la filosofía que estudia los conceptos del bien y el mal. Esta disciplina tiene como objetivo definir de forma racional qué constituye un acto bueno o virtuoso, independientemente de la cultura en la que se enmarque. La ética está relacionada con el estudio fundamentado de los VALORES que guían el comportamiento humano. No es un conjunto de normas sino una orientación armónica, una conducta a seguir ante los hechos que se presentan a lo largo de la vida. La ética se originó en la Antigua Grecia (Platón, Aristóteles, estoicismo y epicureísmo). Universidad de Burgos Alejandro José Álvarez López  Fundamentos Deontológicos y Jurídicos de las TIC 24/25 U6 Los sistemas éticos, consistentes en prescripciones de patrones de conducta que deben seguir las personas, han sido propuestos tradicionalmente desde la filosofía y la religión. Durante la Edad Media la ética cristiana predominó en el mundo occidental. Más adelante filósofos como Descartes, Hume o Kant recuperarán ideas de los maestros griegos y contribuirían a la concepción de la ética actual. La moral se define como el conjunto de REGLAS O NORMAS que rigen el comportamiento de las personas que forman parte de UNA SOCIEDAD, para contribuir al mantenimiento de la estabilidad y de la estructura social. El concepto de moral está relacionado con la conformidad con las leyes implícitas y explícitas de un grupo social, que se transmiten a los individuos dentro del proceso de socialización. La moral parte de los principios, tradiciones y valores del contexto en que vivimos. Además, determina nuestras actuaciones y nos marca los límites que no queremos pasar. La moral surgió como una consecuencia natural de la organización de los seres humanos en grupos. Al complejizarse las sociedades, las normas de interacción que las estructuran, se han transformado progresivamente en reglas morales y en leyes explícitas. Las reglas morales varían según la cultura, el momento, las tradiciones y la educación propia de cada comunidad o grupo social. Las religiones han tenido un gran peso histórico en el establecimiento de códigos morales. Mientras que en el mundo occidental el judaísmo y el cristianismo han determinado en buena parte las normas sociales, en Asia lo han hecho sobre todo el budismo y el confucianismo. Universidad de Burgos Alejandro José Álvarez López  Fundamentos Deontológicos y Jurídicos de las TIC 24/25 U6 Universidad de Burgos Alejandro José Álvarez López  Fundamentos Deontológicos y Jurídicos de las TIC 24/25 U6 Según Fernando Savater la ética es el estudio “filosófico y científico de la moral, y es teórica, mientras que la moral es práctica”. Concepto de Deontología. El término deontología procede del griego: deon (lo conveniente, lo debido) y logía (conocimiento, estudio…); lo que significa, en términos generales, el estudio o la ciencia de lo debido. Según la Real Academia es la ciencia o el tratado de los deberes. ES EL MODELO DE ACCIÓN DENTRO DE UNA COLECTIVIDAD. Deontología Profesional. La deontología profesional es el conjunto ordenado de deberes y obligaciones morales que tienen los profesionales de una determinada materia. Intenta llevar los principios y valores de la ética individual a un colectivo que asume y consensua unos valores, de los que se deducirán las normas que deben regir una actividad profesional. La expresión deontología profesional creada por J. Bentham y divulgada por M. Simón estudia el conjunto de deberes que han de cumplirse en determinadas circunstancias sociales y especialmente dentro de la profesión. La deontología profesional se ocupa de las relación al ejercicio de la profesión obligaciones éticas que surgen en y en relación al hombre como miembro de la sociedad en la que desempeña una actividad. Es el conjunto de normas y usos, principios y deberes que no están recogidos en las leyes ni sancionados en las mismas, sino fruto de la ACEPTACIÓN VOLUNTARIA DE LOS PROFESIONALES. Universidad de Burgos Alejandro José Álvarez López  Fundamentos Deontológicos y Jurídicos de las TIC 24/25 U6 Universidad de Burgos Alejandro José Álvarez López  Fundamentos Deontológicos y Jurídicos de las TIC 24/25 U6 Función de la Deontología. La función de la deontología es establecer los principios que guían la práctica profesional. Esos principios han ido cambiando con los tiempos. Tradicionalmente estaban unidos a la religión. Bentham, en el siglo XIX, considera que la base de la deontología se debe sustentar en los principios filosóficos de la LIBERTAD Y EL UTILITARISMO. Para Bentham la deontología se entiende a partir de sus fines (el mayor bienestar posible para la mayoría y de la mejor forma posible). Bentham opina que nuestros deberes serán aquellos que se identifiquen con nuestros intereses, ya que el hombre se mueve siempre en función de dos variables: placer y dolor, y lo hará de un modo mecanicista (buscamos placer, huimos del dolor). EN EL SIGLO XX, PRINCIPIALISMO: Los PRINCIPIOS SON UNIVERSALES (aplicables a todas las personas) pero NO SON PRINCIPIOS ABSOLUTOS (no se aplican igual en todas las situaciones) pues en ocasiones entran en conflicto. De las convicciones religiosas pasamos a la RESPONSABILIDAD. La ética se aplica a campos concretos y con FINES PRÁCTICOS. Los principios (universales pero no absolutos) pueden y suelen entrar en conflicto (ejemplo: una UCI en COVID). ¿Cómo resolverlos? La deontología debe encontrar maneras para resolverlo de la mejor manera posible. Universidad de Burgos Alejandro José Álvarez López  Fundamentos Deontológicos y Jurídicos de las TIC 24/25 U6 Principios Morales Básicos (Informe Belmont, 1979). Toda actividad humana y profesional deberá analizarse desde cuatro principios morales básicos: Principio de no maleficencia: habrá que evitar causar daño físico, psíquico o moral, no perjudicar a nadie. Principio de beneficencia: hacer el bien a otro, procurar el bienestar de las personas. Principio de justicia: No discriminar a las personas, tratarlas con la misma consideración y respeto en el orden cultural, político y social. Distribuir igualmente esfuerzos y recursos. Administrar los recursos con criterios de justicia. Principio de autonomía: Respeto a la dignidad de las personas y su capacidad de decisión (quizá para conseguirlo hay que realizar discriminación positiva). Tratar a las personas como tales, respetando su dignidad, autonomía y derechos. Los principios guían la toma de decisiones sobre situaciones particulares. Los principios se estructuran en dos niveles: Universidad de Burgos Alejandro José Álvarez López  Fundamentos Deontológicos y Jurídicos de las TIC 24/25 U6 Deontología Informática. Es la disciplina que identifica y analiza los impactos de las tecnologías de la información en los valores humanos y sociales, estableciendo normas de comportamiento para sus profesionales. GLOBALIDAD DE LA DEONTOLOGÍA INFORMÁTICA: La informática se desarrolla en un contexto social global, en una sociedad que es más compleja, menos segura y más vulnerable. Dado el carácter global de la Revolución Informática hay que pensar que el futuro de la ética tendrá un carácter global. Será global en el doble sentido: Abarcará a la totalidad del Globo Se dirigirá a la totalidad de acciones y relaciones humanas. “La ética sin la técnica es vacía, pero la técnica sin la ética es ciega” ~ KANT. “Libertad quiere decir responsabilidad. Por eso la mayoría de los hombres la temen” ~ G. Bernard Shaw. Exigencias y Deberes de los Profesionales. Exigencias Deontológicas de los Profesionales. Para Barroso, en su libro “ Ética y Deontología Informática” las tres exigencias fundamentales que deben presidir el ejercicio profesional son: honradez, diligencia y espíritu de servicio. Honradez. La honradez es el modo de comportarse del que se cumple con su deber sin beneficiarse o beneficiar a otros irregularmente. Nace de la adecuación de la conducta a los principios que rigen la conciencia personal del profesional. Rectitud de ánimo e integridad. Rectitud procede de la adecuación de la conducta a las reglas establecidas. Es incompatible con el desenfrenado afán de lucro, la competencia desleal, la propaganda engañosa, el descrédito de otro, la envidia y la intriga profesionales. Es la suma de varias virtudes: honradez es sinceridad, justicia, integridad en nuestras acciones, rechazo a la mentira y al soborno, compañerismo, seguir el dictado de la conciencia moral. Diligencia. Nos referimos a diligencia cuando hablamos del cuidado, prontitud, agilidad y eficiencia con que se lleva a cabo una gestión. Todo ejercicio profesional conlleva el cumplimiento de un contrato entre el profesional y el cliente, con obligaciones y derechos para ambas partes. Pero esas obligaciones debe realizarlas sin descuidos, bien rematadas, para no caer en negligencias. No es posible contribuir al bien común sin prontitud y cuidado en el ejercicio del trabajo. Espíritu de Servicio. Espíritu de servicio = Solidaridad Profesional. El profesional en el seno de la sociedad se aprovecha del fruto de otros profesionales. La dignidad de la profesión viene dada por el SERVICIO A LA SOCIEDAD. La profesión no tiene sentido individual, sino social. La función social del ejercicio profesional, la colaboración al bien común. Universidad de Burgos Alejandro José Álvarez López  Fundamentos Deontológicos y Jurídicos de las TIC 24/25 U6 Deberes del Profesional Informático. No se pretende mostrar una posición reduccionista y totalizadora de los deberes del profesional informático, pues éstos se recogen en los códigos éticos, sino dar una apertura a temas que debieran abrir el debate en los profesionales de la Informática. El Ingeniero en Informática ha de cumplir deberes en relación a su profesión. Asimismo, debe de ser especialmente escrupuloso con el tratamiento y utilización que da a la información que maneja. Secreto Profesional. La confidencialidad es un principio básico que se puede exigir a cualquier persona que conoce y trata datos. Nace de un contrato expreso o tácito entre quien ejerce la informática y el que acude en busca de un consejo o remedio. Incluye todo aquello que ha sido confiado bajo promesa de guardar secreto y debe extenderse también a toda información que sea descubierta por el profesional en la exploración y tratamiento de los datos. Se puede exigir incluso finalizada la relación. Ejemplos: administración de contraseñas, mails, accesos, etc; contenido de respaldo de datos, procedimientos de trabajo, administración de dispositivos y equipos, estadísticas, etc. Existen tres tipos de secretos: El secreto natural es independiente de todo contrato, sea descubierto por casualidad, por investigación personal o por confidencia. Aunque el depositario del secreto no haya prometido guardar secreto tras descubrirlo, está obligado a callar, en virtud del precepto moral que prohíbe perjudicar a los demás sin motivo razonable. El secreto prometido nace de un contrato, de la promesa de guardar silencio después de haber conocido el hecho, ya sea por casualidad, por investigación personal o por confidencia espontánea o provocada. El secreto confiado dimana de una promesa explícita o tácita hecha antes de recibir la confidencia. Se exige que previamente prometa guardar silencio. El secreto pasa entonces a ser confidencial, cuando la confidencia se ha hecho a un hombre que está obligado por razón de su oficio a prestar ayuda o a dar consejo o Profesional cuando se ha confiado, a un hombre a quien su profesión obliga a asistir a los demás con sus consejos. Lealtad. Es un valor que consiste en el respeto, obediencia, cuidado y defensa de lo que se cree y en quienes se cree. Expresa un sentimiento de respeto y fidelidad hacia una persona, empresa, organización, idea o principio moral. Lealtad A LA EMPRESA: Utilizar los métodos que en ella se usen, reciclando sus conocimientos según los avances que le exijan. Aun siendo lícito el cambio de puesto de trabajo, el trabajador que abandona una empresa debe ser leal y fiel a lo conocido en el ejercicio profesional de la misma. Lealtad AL CLIENTE: Se deben satisfacer las necesidades de los clientes y debemos entender también la lealtad desde el punto de vista de la exactitud de los datos y en la fidelidad en la adquisición, tratamiento y transmisión de los mismos. Universidad de Burgos Alejandro José Álvarez López  Fundamentos Deontológicos y Jurídicos de las TIC 24/25 U6 Respeto a la Intimidad. Un profesional informático conoce o trata datos de carácter personal pero debe respetar la intimidad de la persona. Este principio básico ya está recogido en leyes y sancionado su incumplimiento. Solidaridad. La solidaridad con los compañeros y la ayuda desinteresada deben estar presentes en el profesional de la informática. Respeto y colaboración entre miembros de una misma profesión con el fin de ayudarse y no perjudicarse unos a otros. Pluriempleo. No es moral el ejercicio de varios cargos y empleos si no se pueden desempeñar adecuadamente. Si al desempeñar varios puestos de trabajo, te impide la dedicación necesaria para obtener los resultados estimados por los clientes, y la diligencia debida, debe rechazarse alguno de los empleos. Dicotomía. Es la actuación que implica división de honorarios entre las personas que han intervenido en una prestación profesional. La dicotomía es poco ética si la repartición es indebida o fraudulenta o si exiges la intervención de profesionales cuando no son necesarios, con el fin de repartir los honorarios y obtener mayor lucro económico. Ejemplo: Un cliente visita a un profesional y éste le impulsa a visitar a otros profesionales aunque no necesite sus servicios, creando una rueda de profesionales. Bien Común. Hacer el bien y evitar el mal es una norma ética básica. El bien común debe entenderse como interés de la sociedad, del conjunto de sus individuos. El bien común debe presidir el trabajo de cualquier profesional y por supuesto del informático. Ejemplo: En una convocatoria de huelga general debe haber servicios mínimos de informática, lo mismo que de transportes o de medicina, pues una caída en la red o en los datos puede ocasionar graves consecuencias. Evitar el Soborno. El rechazo al soborno va unido a la integridad profesional. Las comisiones, regalos, ventajas o cualquier tipo de bonificación para conseguir concesiones, contratos o tratos de favor son abusos y corruptelas que constituyen el soborno No son admisibles pues atentan contra el principio básico de imparcialidad e integridad profesional del informático. Los Diez Mandamientos de la Ética Informática. 1. No usarás un ordenador para dañar a otros. 7. No utilizarás los recursos informáticos ajenos sin la debida autorización. 2. No interferirás con el trabajo ajeno. 8. No te apropiarás de los derechos intelectuales de 3. No indagarás en los archivos ajenos. otros. 4. No utilizarás el ordenador para robar. 9. Deberás evaluar las consecuencias sociales de 5. No utilizarás la informática para realizar fraudes. cualquier código que desarrolles. 6. No copiarás o utilizarás software que no hayas 10. Siempre utilizarás los ordenadores de manera de comprado. respetar los derechos de los demás. Universidad de Burgos Alejandro José Álvarez López  Agentes de Responsabilidad en la Informática. Empresas. Las empresas tienen la responsabilidad de: 1. Diseñar, producir y entregar los productos y servicios que aseguren calidad y seguridad a los intermediarios y usuarios. 2. Informar verazmente sobre los productos y servicios que ofrecen. 3. Redactar contratos garantizando a los usuarios la comprensión de los derechos y obligaciones de su contenido. 4. Confidencialidad de los datos emitidos por los Clientes. 5. Los productos y servicios deben ser ofertados en una justa relación calidad precio. 6. Garantizar el servicio técnico postventa de productos y servicios. Centros de Enseñanza. Los centros de enseñanza tienen la responsabilidad de: 1. Identificar claramente el nivel formativo (nivel usuario, nivel superior, programación...) Para no producir engaños. 2. Impartir una formación adecuada. 3. Dar a conocer los horizontes y posibilidades. 4. Reciclaje continuo por la rapidez con la que evoluciona. Profesionales. Los profesionales tienen la responsabilidad de: 1. No ocultar o disfrazar la verdad técnica de los equipos y programas. 2. Aconsejar equipos o programas adecuados a las necesidades y conocimientos del cliente. 3. No abusar de la ignorancia informática de los usuarios. 4. Reciclaje permanente por la rapidez con que evoluciona el sector. Códigos Deontológicos en la Informática. Profesiones en la Historia. En la historia han surgido infinitud de profesiones a destacar, como son: Sacerdotes: se encargaban de lo divino. Gobernantes: se encargaban de los poderes del Estado. Médicos: se encargaban del cuerpo. Tenían POSICIÓN SUPERIOR a la del resto de la población (que tenía oficios) por: Elección: no todos podían pertenecer, sólo los elegidos. Segregación: estatus social diferenciado. Privilegio: se regían por normas propias. Impunidad: no se les exigía las mismas responsabilidades que a otros. Autoridad: gozaban de mayor calidad moral. A cambio de estos privilegios, al profesional se le exigían: Conocimientos y capacidades técnicas. Normas morales de comportamiento más estrictas y una ética profesional propia (juramento hipocrático de los médicos). Actuar en beneficio de los demás y no de uno mismo. Actuar incluso sin retribución, si fuera necesario. Sujetos a deberes adicionales como el deber de secreto.  Fundamentos Deontológicos y Jurídicos de las TIC 24/25 U6 Profesiones en el Siglo XX. Fin de la percepción social privilegiada de las profesiones y pérdida progresiva de excepcionalidad (elección, segregación, privilegio, impunidad y autoridad). Los oficios se profesionalizan. Búsqueda de excelencia y mayores exigencias morales y expansión de los códigos deontológicos. Concepto de Código Deontológico. Es un tratado de reglas del buen hacer profesional o normas de conducta a las que deben someterse los miembros de una profesión. OBJETIVO: mantener unos niveles de: Exigencia: potestad sancionadora. Competencia: evitar intrusismo. Calidad: proporcionar formación, fiscalización del trabajo de los colegiados (visados). Un mecanismo de autorregulación. Controla la integración de nuevos miembros y el adecuado ejercicio de las tareas propias de la profesión. Pautas de Códigos a Nivel Internacional. Evolución. Wiener (creador del término cibernética) fue el primero en estudiar la ética informática entre 1948 y 1963. Maner (1976) observó cómo problemas éticos tradicionales se veían alterados con el uso de ordenadores. Creó el término Computer ethics para referirse al estudio de "los problemas éticos agravados, transformados o creados por la tecnología informática". Johnson (años 80 y 90) analizó varios problemas éticos: - propiedad del software y propiedad intelectual. - computación y privacidad. - responsabilidad de los profesionales de la informática. - acceso no autorizado a ordenadores. - tecnología para personas discapacitadas. - impacto de internet en la democracia. Moor Los ordenadores son "lógicamente maleables" pues pueden moldearse para realizar cualquier actividad en términos de entradas, salidas y operaciones lógicas. Las aplicaciones potenciales de la tecnología informática parecen ilimitadas. El ordenador es la herramienta universal. Gotterbarn (años 90) enfocó la ética informática considerando como una ética profesional dedicada al desarrollo y avance de estándares de buenas prácticas y códigos de conducta de los profesionales. Gotterbarn colaboró en la elaboración del código ético de la Association for Computing Machinery (ACM) y en el Código de Ética de Ingeniería del Software para ACM e IEEE. Universidad de Burgos Alejandro José Álvarez López  Fundamentos Deontológicos y Jurídicos de las TIC 24/25 U6 Nivel Internacional. A nivel internacional nos encontramos: El código de ética del IEEE-CS/ACM (Software Engineering Code of Ethics and profesional Practice) para aspectos derivados del desarrollo de software como son el análisis, diseño, desarrollo, prueba y mantenimiento de software. Establece principios morales básicos, responsabilidades profesionales y obligaciones de liderazgo organizativo. Directrices Comunes para Declaraciones de Ética Profesional Informática (Common Guidelines on Statements of professional Ethics) elaboradas en el marco de iniciativa European IT Profesionalism Framework, en la que participan los colegios Profesionales europeos Comité Europeo CEN/TC 428, sobre la especificación europeo de los Principios Éticos de la Inteligencia Artificial. Principios del Código Ético de Ingeniería de Software. El objetivo de estos principios es hacer del análisis, especificación, diseño, desarrollo, pruebas y mantenimiento del software una profesión respetada y beneficiosa, en concordancia con la obligación con el bienestar, salud y seguridad de la sociedad. Código de Ética del IEEE-CS/ACM. Los principios morales básicos del código de ética del IEEE-CS/ACM son: 1. Contribuir al bienestar de la sociedad y la humanidad. 2. Evitar daño a otros. 3. Ser honesto/a y confiable. 4. Ser justo y no discriminar. 5. Respetar los derechos de propiedad, incluyendo las patentes y. 6. Derechos de autor. 7. Respetar la intimidad de otro. 8. Respetar la confidencialidad. Universidad de Burgos Alejandro José Álvarez López  Fundamentos Deontológicos y Jurídicos de las TIC 24/25 U6 Las responsabilidades profesionales del código de ética del IEEE-CS/ACM son: 1. Alcanzar la mayor calidad, efectividad y dignidad de productos y procesos. 2. Adquirir y mantener la capacitación profesional. 3. Respetar las leyes existentes relacionadas con el trabajo profesional. 4. Proporcionar evaluaciones completas de los sistemas informáticos. 5. Respetar contratos y acuerdos. 6. Acceder a los recursos de comunicación sólo cuando se está autorizado. 7. Fomentar la integridad y la reputación de la profesión. Las obligaciones de liderazgo organizativo del código de ética del IEEE-CS/ACM son: 1. Articular las responsabilidades de los miembros 2. Gestionar personal y recursos para mejorar la calidad de la vida laboral. 3. Reconocer los usos adecuados de los recursos informáticos. 4. Garantizar que los usuarios del sistema informático han articulado sus necesidades. 5. Articular y apoyar políticas que protejan la dignidad de usuarios. Código Deontológico del Colegio Oficial de Ingenieros Informáticos de España. El código deontológico del colegio oficial de ingenieros informáticos de España es aprobado por el consejo general de colegios de ingeniería informática el 4 de mayo de 2019. Impacto Ético de la Informática. La informática tiene incidencia en los derechos fundamentales, la seguridad, la comisión de delitos y el interés general. La responsabilidad profesional va más allá de las obligaciones establecidas por la legislación vigente. Se debe impulsar el uso ético de la informática y sus incesantes innovaciones para promover el progreso de la sociedad y el interés general. Las organizaciones colegiales deben fijar unas directrices deontológicas y éticas que, adaptadas a la realidad y capacidad de innovación, cumplan las siguientes funciones: Recoger unos principios de conducta que deben de ser asumidos por todos los profesionales, sancionables en régimen disciplinario (deontológicos). Presentar unos principios (no exigibles, pero sí deseables) que sirvan de guía en el comportamiento profesional y social, buscando el bien de las personas relacionadas y de la sociedad en general, evitando comportamientos colectivos indeseables que redunden en un demérito de la profesión y desprestigiar al colectivo (éticos). Responsabilidad Profesional. Los tipos de responsabilidad profesional que debemos tener en cuenta son: Penal: Tipificada en el Código Penal. Delitos informáticos (penas privativas de libertad). Civil: Cuando actuando con dolo, negligencia o impericia inexcusable se cause daño en los intereses de un cliente (trabajo defectuoso o retrasado) se debe reparar el daño y perjuicio causado (indemnización). Administrativa: Cuando se incumplen obligaciones administrativas (tributarias, seguridad social) se impondrán sanciones (multas). Universidad de Burgos Alejandro José Álvarez López  Fundamentos Deontológicos y Jurídicos de las TIC 24/25 U6 Disciplinaria: Cuando infrinja deberes estatutarios de la profesión o normas de ética profesional. Deberes Éticos: Principios exigibles pero no sancionables que sirvan de guía de comportamiento. Función Social de la Profesión y Principios Inspiradores. La función social de la profesión pretende, mediante principios inspiradores: Velar por los intereses sociales constitucionalmente protegidos. La defensa de la profesión. Progreso de la sociedad de la información y el conocimiento. Garantizar el honor y la intimidad y el derecho a la propia imagen. Coordinar y representar a los colegios, en los ámbitos nacional e internacional. La representación institucional de la ingeniería en informática. La defensa de los intereses profesionales de los colegiados de los consumidores y usuarios. Deberes Generales. Los deberes generales del código deontológico que debemos conocer son: 1. Conocer este código: Conocer, difundir, cumplir y velar por su cumplimento. 2. Alcance de su responsabilidad: Sanciones civiles y penales. Sanciones disciplinarias por incumplimientos deontológicos. 3. Cumplir la legislación: Leyes nacionales, reglamentos, convenciones internacionales y normas de su organización. Se debe cumplir con los compromisos adquiridos. 4. En relación a la justicia: Cooperar con la justicia y denunciar los actos fuera de la ley de los que sea testigo. Deberes Respecto al Secreto. Respecto al secreto se deben conocer los siguientes deberes del código deontológico: 1. Constituye un derecho y una obligación. Incluso tras finalización de la prestación del servicio. 2. No revelar datos que procedan de un cliente o que se hayan obtenido por razón de su profesión. 3. Obligar a guardar secreto a su personal. 4. Excepciones al secreto previa autorización del presidente del colegio. Dispensa por el titular de la información o autorización para divulgación. Necesidad de divulgación para evitar un daño propio o de tercero. Existencia de una ley que autorice la divulgación. Existencia de un requerimiento judicial o administrativo de obligado cumplimiento. Universidad de Burgos Alejandro José Álvarez López  Fundamentos Deontológicos y Jurídicos de las TIC 24/25 U6 Deberes Respecto a sus Compañeros. Los deberes respecto a los compañeros que se incluyen en el código deontológico son: 1. Revisar el trabajo de otros de forma objetiva y documentada. Crítica constructiva. 2. No desacreditar a los compañeros. 3. Reconocer el trabajo de otros y no atribuirse méritos ajenos. 4. Consultar opiniones de otros compañeros cuando el proyecto le sitúe fuera de sus competencias personales. 5. Promover el desarrollo profesional de compañeros. 6. Si no son constitutivos de delito, se resolverán de forma discreta en compañeros. Si no es posible entre compañeros se elevarán al colegio profesional. Deberes con la Profesión. Se deben tener en cuenta los siguientes deberes respecto a la profesión: 1. Acometer el trabajo solo si está cualificado por su formación y experiencia. 2. Atribuirse únicamente los niveles de competencia de los que disponga. 3. Trabajar únicamente con información obtenida con medios legales y éticos y para fines autorizados. 4. Tratar a los agentes involucrados con el debido respeto. 5. Abstenerse de emitir opiniones en público contrarias a la buena reputación de la profesión. Deberes Respecto al Cliente. Los deberes del código deontológico que se deben tener en cuenta con el cliente son: 1. Actuar con la debida competencia y dedicación No aceptar más encargos que aquellos que pueda atender. 2. No aceptar proyectos en los que se viole el secreto o haya intereses contrapuestos con otro cliente o competencia desleal. 3. Informar al cliente de la viabilidad y coste del proyecto. 4. Facilitar la autonomía del cliente, en la toma de decisiones e informarle de las situaciones que puedan afectar a la calidad del proyecto. 5. Cumplir con plazo y presupuesto justificando los desvíos. 6. Asegurar la calidad y seguridad del sistema, servicio y producto elaborado. 7. Emitir informes fundados en elemenos objetivos, no induciendo a error. 8. Sostener un criterio imparcial y libre cuando se emita un juicio profesional. 9. Informar al cliente cuando un proyecto suponga un conflicto ético. Universidad de Burgos Alejandro José Álvarez López  Fundamentos Deontológicos y Jurídicos de las TIC 24/25 U6 Deberes con la Sociedad. También debemos tener en cuenta los deberes del código en respecto con la sociedad: 1. Promover la ingeniería informática como mejora de la vida cotidiana y el bienestar público, social y medioambiental. 2. No permitir la utilización fraudulenta de la profesión por quien ilegítimamente realiza actividades, denunciando el intrusismo al colegio profesional. 3. Sólo realizar proyectos que no atenten contra la calidad de vida, el medio ambiente y los intereses públicos. 4. Informar a los interesados y a las autoridades competentes de cualquier peligro potencial o real para la integridad de las personas o para la sociedad. 5. Informar de las prácticas cuyo fin sea la comisión de un delito, especialmente si es un delito informático. 6. No discriminar por razón de raza, sexo, religión, opinión o cualquier otra condición social o personal. 7. Reconocer los derechos de terceros, patentes y los derechos de autor y propiedad intelectual. Deberes Respecto al Equipo que Tenga Bajo su Gestión. Los deberes del código deontológico respecto al equipo que tenga bajo su gestión son: 1. Proporcionar condiciones de trabajo ajustadas a la legalidad. Evitar el acoso laboral, moral o sexual. 2. Remuneraciones justas en sintonía con la normativa y los convenios colectivos. 3. Promover la formación permanente. 4. Respetar la libertad de asociación y el derecho a la negociación colectiva. 5. Evitar asignar tareas a personas sin la capacitación adecuada. Evitar el intrusismo profesional. Deberes Respecto al Proyecto. Respecto al proyecto, debemos tener en cuenta los siguientes deberes del código: 1. Analizar las consecuencias éticas, económicas, culturales legales y medioambientales del proyecto. 2. Realizar estimaciones realistas de coste, plazo, recursos y resultado. Determinar los riesgos y aspectos de incertidumbre de dichas estimaciones. No aceptar pagos distintos a los pactados. 3. Respetar la confidencialidad de aquellos afectados por el trabajo. Tanto en el desarrollo del proyecto como en el análisis de la documentación aportada. 4. Impulsar la máxima calidad a un coste y plazo aceptable. Documentar adecuadamente el proyecto asegurándose que satisface los requisitos del usuarios y tiene las aprobaciones adecuadas. 5. No realizar trabajos que no sean beneficios para el cliente. Realizar las pruebas y revisiones necesarias para conseguirlo. Universidad de Burgos Alejandro José Álvarez López  Fundamentos Deontológicos y Jurídicos de las TIC 24/25 U6 Honorarios. Con carácter previo y en función del alcance y naturaleza del servicio, sus dificultades, complejidad y especialidad técnica, se presentará un presupuesto o el método para determinar la remuneración. Una vez aceptado el presupuesto, la relación estará basada en la confianza recíproca. Deberán retribuir el trabajo realizado y los costes asumidos, según las exigencias de calidad y competencia leal. No puede justificarse una actuación negligente en el hecho de una remuneración insuficiente. Además, se abstendrá de percibir remuneración por la derivación de clientes a otros profesionales, y se puede exigir provisión de fondos y condicionar el inicio de sus tareas al pago de la misma. Comisión de Deontología y Ética del CCII. La comisión de deontología y ética del CCII tiene por labor las siguientes funciones: 1. Acordar propuestas de actualización de código. Indicar las correcciones a las propuestas de actualización. 2. Revisar, considerar y analizar las denuncias de infracciones al código. Inicio de la denuncia: cualquier persona o entidad, afectada o testigo. Recibir las alegaciones y practicar pruebas. Mantener un registro interno de las faltas. 3. Identificar las faltas leves, graves y muy graves. Acordar las sanciones para estas infracciones. 4. Las denuncias falsas son sancionables. Ética en la Inteligencia Artificial. ¿Qué es la Inteligencia Artificial? La inteligencia artificial (IA) es un campo de la informática que se enfoca en crear sistemas que puedan realizar tareas que funcionan de manera autónoma que habitualmente han requerido inteligencia humana. Se basa en algoritmos y modelos que permiten a la máquinas analizar grandes cantidades de datos, extraer conclusiones, marcar tendencias y tomar decisiones informadas. Incluye tareas como: Aprendizaje. Resolución de problemas. Razonamiento. Toma de decisiones. La IA tiene el potencial de revolucionar muchos aspectos de nuestras vidas, desde la forma en que trabajamos hasta la forma en que interactuamos con el mundo que nos rodea. Una vez que hemos superado el miedo, no debemos deslumbrarnos sino normalizarlo. La IA se puede dividir en dos grandes áreas: la IA estrecha y la IA general. La IA ESTRECHA: sistemas que están diseñados para realizar una tarea específica, como jugar al ajedrez o reconocer imágenes. (Siri). La IA GENERAL: sistemas que tienen la capacidad de realizar una amplia gama de tareas, como las que realizan los humanos. Son capaces de adaptarse a situaciones y aprender de forma autónoma. Universidad de Burgos Alejandro José Álvarez López  Fundamentos Deontológicos y Jurídicos de las TIC 24/25 U6 La Inteligencia Artificial Generativa. La IA se ha utilizado en una amplia gama de aplicaciones, como la robótica, el procesamiento del lenguaje natural, la visión artificial y la planificación. Si bien desde el año 2000 ya existían modelos informáticos de IA´s, no ha sido hasta los últimos años que su evolución se ha disparado de forma exponencial e implantándose en la sociedad materializándose en proyectos tan impresionantes como los desarrollados por la compañía tecnológica Open AI, en concreto su generador de textos ChatGPT, o la IA Dall-E dedicada a la generación de imágenes. La IA generativa es una clase de inteligencia artificial que utiliza modelos de aprendizaje profundo para generar contenido similar al humano, como imágenes o palabras, en respuesta a instrucciones complejas y variadas. Estos sistemas de IA son capaces de comprender diversos lenguajes humanos y producir respuestas ricas y estructuradas, así como la función de la interpretación de datos como elemento esencial para el éxito. El aspecto generativo los distingue de otros modelos de IA, ya que les permite no sólo dar respuestas, sino también generar el contenido de esas respuestas. Problemas: falta de pensamiento crítico en la percepción de los conocimientos. Las Amenazas de la IA. Esto abre la puerta a que puedan ser usadas también con fines espurios como utilizar IA para: Automatizar procesos de filtrado de contraseñas. Procesos de envíos masivos de emails para realizar la estafa conocida como phishing. Responder de forma automática y autónoma a personas que están siendo engañadas. Generar nuevas modalidades delictivas. Problemática de la seguridad de sistemas y la privacidad de los usuarios. Ética en la Inteligencia Artificial. Los principios éticos que deben guiar el diseño, desarrollo y uso de sistemas de IA son: Los sistemas de IA deben ser responsables. Los sistemas de IA deben ser justos. Los sistemas de IA deben ser transparentes. Los sistemas de IA deben ser seguros para los usuarios (privacidad) y la sociedad. Consideraciones Éticas que Tienen en Cuenta las Normativas. La ética para diseñar e implementar sistemas de IA debe tener en cuenta las siguientes consideraciones éticas: 1. Transparencia: los desarrolladores deben hacer públicos detalles sobre cómo funciona la IA, incluidas fuentes y tipos de datos utilizados. 2. No discriminación: los sistemas de IA deben ser diseñados para evitar la discriminación, como raza, género u orientación sexual. 3. Privacidad: los desarrolladores deben tomar medidas para proteger los datos personales del usuario y garantizar que se manejen de manera ética y legal. 4. Seguridad: los sistemas de IA deben ser seguros y resistentes a la manipulación malintencionada o el hacking. 5. Responsabilidad: las empresas y organizaciones que desarrollan sistemas de ia deben asumir la responsabilidad por su uso y abordar cualquier problema ético que surja. Universidad de Burgos Alejandro José Álvarez López  Fundamentos Deontológicos y Jurídicos de las TIC 24/25 U6 Además, estas consideraciones pueden conllevar los siguientes problemas intrínsecos: 1. Transparencia: Conocer los algoritmos que se crean y poder explicar su funcionamiento es la base de “la explicabilidad” de los algoritmos. Sistemas inteligentes trazables en todas sus etapas, desde la captura de datos, las interacciones con terceros y la toma de decisiones. Así se garantiza que cualquier intervención de un sistema autónomo en una decisión siempre tendrá una explicación satisfactoria y auditable. 2. Sesgos (no discriminación): Es necesario asegurarse de no usar conjuntos de datos sesgados y controlar la posible discriminación algorítmica utilizando métricas avaladas por expertos humanos. 3. Responsabilidad: Importancia de identificar de manera clara y precisa la responsabilidad de las decisiones tomadas por sistemas autónomos. 4. Privacidad y Seguridad: medidas de seguridad más adecuadas para proteger los datos y asegurar que se implantan los medios necesarios para que las personas puedan ejercer sus derechos. Los sistemas basados en IA no deben decidir sin que exista supervisión humana suficiente. Los usuarios pueden tener problemas de dependencia tecnológica (confianza) o de poco espíritu crítico en la percepción del conocimiento (CHATGPT). La ética en la IA también implica abordar problemas: Sesgo informático. o Cuando un sistema informático incluye valores de los humanos que están implicados en la codificación y recolección de datos usados para entrenar el algoritmo pueden agravar sesgos sociales como raza, género, sexualidad o etnias. El estudio del sesgo algorítmico está enfocado en algoritmos que reflejan discriminación. Privacidad del usuario. o Capacidad de una persona para determinar cuándo, cómo y hasta qué punto se comparte o se comunica a otros su información personal como nombre, ubicación, información de contacto o comportamiento en línea o en el mundo real. (al igual que alguien puede querer excluir a personas de una conversación privada, muchos usuarios de internet quieren controlar o evitar que se recopilen ciertos tipos de datos personales). Algoritmo: Conjunto de instrucciones dentro de un ordenador que determinan cómo los programas leen, recogen, procesan, y analizan datos para generar una salida legible. Los ordenadores más nuevos pueden procesar millones de estas instrucciones algorítmicas por segundo, lo cual ha impulsado el diseño y adopción de tecnologías como la inteligencia artificial. Universidad de Burgos Alejandro José Álvarez López  Fundamentos Deontológicos y Jurídicos de las TIC 24/25 U6 Normativa Internacional. Directrices de la OCDE. Las directrices de la OCDE (Organización para la Cooperación y Desarrollo Económico) sobre IA fueron firmadas en 2019 por 42 países, incluida España. Tiene como objetivo que los sistemas de IA sean creados con transparencia, responsabilidad, equidad y robustez. Los cinco principios básicos de la OCDE son: 1. La IA debe beneficiar a la población y al planeta mediante el fomento del crecimiento inclusivo, el desarrollo sostenible, el bienestar y la cooperación internacional. 2. La IA debe diseñarse respetando el estado de derecho, los derechos humanos, los valores democráticos y la diversidad. 3. Transparencia y divulgación de los sistemas de IA para asegurar que las personas entiendan sus resultados y puedan cuestionarlos. 4. Los sistemas de IA deben funcionar en forma segura y protegida a lo largo de su ciclo de vida y los riesgos deben evaluarse y gestionarse en forma permanente. 5. Las organizaciones y las personas que desarrollen, instalen u operen sistemas de IA deben rendir cuentas de su correcto funcionamiento (responsabilidad). Informe de la Comisión Mundial sobre el Futuro del Trabajo de la OIT. El informe de la comisión mundial sobre el futuro del trabajo de la OIT (Organización Internacional del Trabajo) ha sido publicado en 2019. Su objetivo es proteger los derechos de los trabajadores. Se destaca la necesidad de implementar políticas para regular la inteligencia artificial y salvaguardar los derechos de los trabajadores en un entorno laboral cada vez más digitalizado y automatizado. Recomendación sobre la Ética de la IA de la Unesco. La recomendación sobre la ética de la IA de la Unesco (Organización de Naciones Unidas para la Educación, Ciencia y Cultura) fue establecida en 2021 y adoptada por los 193 Estados miembros. Su objetivo son los derechos humanos y defiende cinco valores fundamentales: 1. Respeto, protección y promoción de los derechos humanos y las libertades fundamentales, 2. Fomento de sociedades pacíficas, justas e interconectadas. 3. Garantizar la diversidad e inclusión. Women Ethical AI (igualdad de género). 4. Promoción del florecimiento del medio ambiente y los ecosistemas. 5. Supervisión y decisión humanas. Además, en 2022, la Unesco planteó diversos desafíos debido a la introducción de la IA en la enseñanza. Brechas digitales y desigualdades en el acceso: la disparidad en el acceso a la tecnología digital sigue siendo un problema. Las diferencias económicas y geográficas pueden ampliar la brecha digital. Necesidad de competencias previas: abarca habilidades que van más allá de las técnicas de IA, incluyendo la alfabetización básica, aritmética elemental, competencias digitales y de codificación, así como habilidades sociales y éticas. Universidad de Burgos Alejandro José Álvarez López  Fundamentos Deontológicos y Jurídicos de las TIC 24/25 U6 Sensibilización sobre avances y retos de la IA: La falta de conciencia sobre los avances y desafíos de la IA puede obstaculizarlo. Los programas de sensibilización deben ser accesibles tanto para técnicos como no técnicos, con un enfoque en cuestiones éticas, derechos humanos y el impacto de la IA en la sociedad. Investigación ética y responsable: el uso ético y responsable de la IA en la enseñanza es esencial y garantizar que las investigaciones se lleven a cabo de manera rigurosa y que los resultados se utilicen para mejorar la calidad educativa. Inclusión y diversidad: Asegurar la participación y liderazgo de diversos grupos en los programas de educación en IA es un desafío. La accesibilidad y adaptabilidad de los programas para personas con discapacidades también son cuestiones críticas. Resolución (2021) de la ONU: Derecho a la Privacidad en la Era Digital. La ONU (Organización de la Naciones Unidas) aprobó una resolución en 2021 en la cual se presta atención al derecho a la privacidad en la era digital. Gran impacto de la inteligencia artificial en el derecho a la privacidad y preocupación ante las repercusiones negativas. Posibilidad de aprobar o revisar leyes, reglamentos o políticas para asegurar el derecho a la privacidad cuando conciban, desarrollen, desplieguen y evalúen tecnologías, incluida la inteligencia artificial y proporcionen a las personas cuyos derechos hayan sido violados o transgredidos acceso a un recurso efectivo que comprenda la reparación y garantías. Normativa Europea. El Reglamento de la UE sobre IA fue aprobado el 13 marzo de 2024 y tuvo entrada en vigor el 1 de agosto de 2024, y tiene como objetivos: Garantizar que los sistemas de Inteligencia Artificial utilizados en la Unión Europea sean seguros y respeten los derechos de los ciudadanos. Inversión y la innovación en el ámbito de la IA en Europa. El acuerdo establece que el Reglamento de IA debe aplicarse dos años después de su entrada en vigor. No afectar a las competencias de los Estados miembros en materia de seguridad nacional. Se evalúan y categorizan los sistemas de IA según el nivel de riesgo. La supervisión se realizará por personas en lugar de por la automatización, para evitar posibles resultados negativos. Los tipos de riesgos que podemos encontrar son: 1. Riesgo Inaceptable. Amenaza clara para la seguridad, medios de vida y derechos de las personas, los que manipulan el comportamiento humano o permiten la vigilancia masiva (puntuación social gubernamental, juguetes que usan asistentes de voz que promueven conductas peligrosas, rastreo indiscriminado de imágenes faciales sacadas de internet -> Prohibidos). 2. Alto Riesgo. Sistemas de IA usados en áreas críticas como infraestructuras, educación, seguridad de productos, empleo, servicios públicos, aplicación de la ley, migración, justicia y procesos democráticos (coches autónomos, dispositivos biomédicos). Universidad de Burgos Alejandro José Álvarez López  Fundamentos Deontológicos y Jurídicos de las TIC 24/25 U6 Estos sistemas deben cumplir estrictas obligaciones antes de su comercialización, como evaluación y mitigación de riesgos, calidad de datos, registro de actividad, documentación detallada, información clara al usuario y supervisión humana. 3. Riesgo Limitado. Sistemas de IA con obligaciones específicas de transparencia, como chatbots, donde los usuarios deben estar conscientes de la interacción con una máquina para tomar decisiones informadas. 4. Riesgo Mínimo. Permite el uso libre de IA de bajo riesgo, como videojuegos habilitados para IA o filtros de spam, la mayoría de los sistemas de IA utilizados en la UE. Puntuación social en China: recopilación y evaluación de datos personales (qué pensamos, qué compramos) y financieros de los ciudadanos. Cada individuo recibe una puntuación reflejo de su comportamiento social y económico. Recorta libertades (restricción de viajar o comprar). El reglamento establece la evaluación del impacto que tiene cualquier nuevo sistema de IA en los derechos fundamentales antes de ser introducido en el mercado. En los sistemas de gran magnitud que pueden desarrollar diferentes tareas (generación de vídeo, texto, imágenes, etc.), deberán cumplir obligaciones más específicas en materia de transparencia. Oficina de la IA en la Comisión. La oficina de la IA en la comisión tiene como objetivo garantizar el cumplimiento de la nueva normativa. Además, se encargará de supervisar que los Estados miembros aplican las nuevas normativas, supervisar los modelos de IA más avanzados y contribuir a fomentar las normas y prácticas de ensayo Universidad de Burgos Alejandro José Álvarez López  Fundamentos Deontológicos y Jurídicos de las TIC 24/25 U6 Normativa Española. Real Decreto 817/2023, de 8 de Noviembre. El Gobierno de España, en asociación con la Comisión Europea, inicia un entorno experimental para evaluar cómo implementar los requisitos pertinentes en sistemas de inteligencia artificial de alto riesgo. Establece un entorno controlado de pruebas para el ensayo del cumplimiento de la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial. El propósito es obtener directrices respaldadas por evidencia y experimentación que ayuden a cumplir con la propuesta del Reglamento Europeo de Inteligencia Artificial. Incluye restricciones en ciertas aplicaciones de alto riesgo, exige transparencia y trazabilidad en sistemas de IA, y establece sanciones por incumplimiento. Real Decreto 729/2023, de 22 de Agosto. Mediante el Real Decreto 729/2023, de 22 de agosto se aprueba el Estatuto de la Agencia Española de Supervisión de Inteligencia Artificial (AESIA). Esta institución apoyará el desarrollo y la utilización de sistemas de Inteligencia Artificial considerando su impacto ambiental y sostenible, así como desde una perspectiva de equidad de género que promueva la igualdad entre hombres y mujeres. Se respalda la idea de brindar asistencia para reforzar la confianza en la tecnología y su aplicación en la Inteligencia Artificial mediante la creación de un marco de certificación voluntario para entidades privadas. Agencia Española de Supervisión de Inteligencia Artificial. La AESIA tiene como objetivo: Supervisar la IA con el objetivo de garantizar un uso seguro y confiable. Coordinar las actividades encomendadas a los Estados miembros. Promover la investigación y el desarrollo de la IA con los objetivos de fomentar la innovación y mejorar tecnológicamente. Promover el uso responsable y ético de la inteligencia artificial. Promover una IA ética y transparente con el fin de garantizar los derechos fundamentales de las personas evitando riesgos y perjuicios. Inspeccionar, comprobar e imponer sanciones. Concesión de premios a las entidades que consigan la certificación. Universidad de Burgos Alejandro José Álvarez López