eBook Inteligencia Artificial (IA) PDF

DECÁLOGO DEL PRIMER DIÁLOGO REGIONAL EN INTELIGENCIA ARTIFICIAL (IA) E INTELIGENCIA EMOCIONAL (IE) DIÁLOGO REGIONAL INTELIGENCIA 1 ARTIFICIAL E INTELIGENCIA EMOCIONAL Organización de Est...

DECÁLOGO DEL PRIMER DIÁLOGO REGIONAL EN INTELIGENCIA ARTIFICIAL (IA) E INTELIGENCIA EMOCIONAL (IE) DIÁLOGO REGIONAL INTELIGENCIA 1 ARTIFICIAL E INTELIGENCIA EMOCIONAL Organización de Estados Iberoamericanos para la Educación, la Ciencia y la Cultura (OEI) Mariano Jabonero Blanco Secretario General Andrés Delich Secretario General Adjunto Martín Lorenzo Demillio Director de Gabinete del Secretario General Tamara Díaz Directora de Educación y Formación Profesional Juan José Leal Martínez Responsable de Convenios de Cooperación de Educación Ismael Gómez García Director de Estrategia Digital Global Xóchitl Patricia Aldana Maldonado Representante Permanente en México Denisse Eréndira Celis Peña Coordinadora de Cooperación Xounely Chandel Dávila Gutiérrez Coordinadora de Educación y Cultura Laura Emiliana Rodríguez Morales Conceptualización Xóchitl Patricia Aldana Maldonado Denisse Eréndira Celis Peña Xounely Chandel Dávila Gutiérrez Coordinación y conceptualización Carolina Aguilar Gordillo Martha Elsa Montoya Sánchez Compilación y gestión de contenido Alberto Nava Cortez/La Hoja en Blanco. Creatividad Editorial Diseño editorial Diana Cadena Reséndiz y Bárbara Lara Ramírez/La Hoja en Blanco. Creatividad Editorial Corrección de estilo y cuidado de la edición Omar Saldívar. La Hoja en Blanco. Creatividad Editorial Infografía Esta publicación cuenta con la colaboración de la Coo- peración Española a través de la Agencia Española de Cooperación (AECID). El contenido de la misma es responsabilidad exclusiva de la Organización de Esta- dos Iberoamericanos para la Educación, la Ciencia y la Cultura (OEI) y no refleja, necesariamente, la postura de la AECID. Índice 5 INTRODUCCIÓN 7 Mariano Jabonero 9 Juan Duarte Cuadrado 11 Xóchitl Patricia Aldana Maldonado 13 Martha Velda Hernández Moreno CONFERENCIA MAGISTRAL 16 Fundamentos de la inteligencia artificial y la inteligencia emocional Emiliana Rodríguez Morales PANEL 1. BIENESTAR EMOCIONAL EN LA ERA DIGITAL 22 Implicaciones de la inteligencia artificial en las dimensiones humanas, intrapersonales e interpersonales en el ámbito educativo Cimenna Chao Rebolledo 28 La inteligencia emocional como interfaz entre los espacios virtuales y el mundo físico Benilde García 33 Inteligencia artificial como herramienta para la amplificación de las habilidades socioemocionales Nancy Otero PANEL 2. ÉTICA EN LA INTELIGENCIA ARTIFICIAL 37 Desmitificando la inteligencia artificial: Perspectivas técnicas y desafíos éticos Gemma Galdón 40 La materialidad de la inteligencia artificial Sofía Trejo 46 Ética del cuidado y corresponsabilidad en las interacciones basadas en la inteligencia artificial Cecilia Ortiz 52 Experiencia de convergencia entre la inteligencia artificial y la inteligencia emocional desde Violetta Floretta Mayerson CONFERENCIA MAGISTRAL 57 ¿La inteligencia artificial puede potencializar la humanidad? Sebastián Tonda 61 DECÁLOGO Introducción L a Organización de Estados Iberoamericanos para la Educa- ción, la Ciencia y la Cultura (OEI), en el marco del Plan de Acción 2022 con la Agencia Española de Cooperación Inter- nacional para el Desarrollo (AECID), ejecuta el proyecto “Educación e inteligencia artificial: una oportunidad también para Iberoamé- rica”, con el objetivo de proponer en la región una serie de linea- mientos que permitan orientar la toma de decisiones, estrategias y políticas públicas enfocadas en el uso de la inteligencia artificial (IA) en la educación. Como parte de las actividades, se llevarán a cabo tres espacios de re- flexión de alcance regional, uno en España y dos en América Latina, entre ellos, el Primer Diálogo Regional en Inteligencia Artificial (IA) e Inteligencia Emocional (IE) en México. El Diálogo Regional en IA e IE surge del interés por explorar la con- vergencia entre ambas inteligencias y su impacto en el ámbito educa- tivo, al reconocer la importancia de diseñar sistemas educativos que promuevan el óptimo desarrollo de los potenciales humanos. Lo anterior solo puede ser respondido mediante un diálogo multi e interdisciplinario, en el que expertos y expertas en ambas inteli- gencias y de la región iberoamericana, planteen posibles estrategias y soluciones para la comunidad educativa en un mundo cada vez más transformado por las tecnologías, y en el que el bienestar emo- cional, la ética y el uso de la tecnología para el florecimiento huma- no, se encuentran en el centro de la experiencia educativa. Derivado del Diálogo Regional, la presente publicación integra los planteamientos, análisis y ejemplos presentados por las y los pa- nelistas participantes del evento, los cuales han sido recuperado, reproducido y resumidos de la transmisión virtual. DIÁLOGO REGIONAL INTELIGENCIA 5 ARTIFICIAL E INTELIGENCIA EMOCIONAL En caso de ser de su interés visualizar la transmisión y cada una de las presentaciones, véase: https://youtu.be/TflEN1AUe-0?si=Dsj- Ni9cND9UBRkc_&t=276 Diálogo Regional en Inteligencia Artificial e Inteligencia Emocional Es importante mencionar que esta publicación se complementa con un decálogo de ideas fuerza en torno a la convergencia entre la IA y la IE en la educación, además de un compendio de recomendacio- nes y sugerencias pedagógicas que pueden servir de guía para los sistemas y las políticas educativas de los gobiernos de la región ibe- roamericana. DIÁLOGO REGIONAL INTELIGENCIA 6 ARTIFICIAL E INTELIGENCIA EMOCIONAL Mariano Jabonero Secretario General de la OEI Q uizás en la historia de la humanidad no se ha dado un pro- ceso tan acelerado como ha sido el desarrollo de la inte- ligencia artificial (IA). El tema de la IA es de máxima ac- tualidad, y no solo ocupa los asuntos de la prensa y los medios de comunicación. De acuerdo con distintos especialistas, la inteligencia artificial ge- neral (AGI) supone un modelo de inteligencia capaz de comportarse como la inteligencia humana, es decir, con capacidad de raciocinio, creatividad, imaginación y empatía. Este modelo ha sido centro de debates y objeto de múltiples dudas y análisis en los ámbitos de lo jurídico y regulatorio. Lo cierto es que la IA tiene múltiples aplicaciones humanas y socia- les. En el ámbito de la educación, por ejemplo, podemos hacer uso de ella para la predicción y prevención de la deserción, el fracaso y el abandono escolar prematuro, que es un tema de bastante relevancia en América Latina. Así también, puede producir o reproducir nues- tras emociones. Estas dos temáticas son el objetivo de este Diálogo Regional en Inte- ligencia Artificial e Inteligencia Emocional, que considero es de vital importancia para la OEI, además de las otras iniciativas que hemos emprendido, como es el Primer Informe sobre el futuro de la Inteli- gencia Artificial en la Educación en América Latina. Necesitamos este Diálogo en torno a la convergencia de ambas inte- ligencias, artificial y emocional; sin embargo, añadiría otro factor a la conversación. El lenguaje de la IA es predominantemente en inglés, DIÁLOGO REGIONAL INTELIGENCIA 7 ARTIFICIAL E INTELIGENCIA EMOCIONAL lo cual, para la región, supone una barrera lingüística y una brecha social. Somos una región que tiene como lenguas oficiales mayorita- rias el español y el portugués, y solo un grupo minoritario habla con fluidez y comprende el inglés. Este es otro tema para poner en el cen- tro del debate, teniendo en cuenta la identidad y defensa cultural. Deseo los mejores éxitos en este diálogo regional, cuyos resultados quedarán plasmados en la presente publicación. DIÁLOGO REGIONAL INTELIGENCIA 8 ARTIFICIAL E INTELIGENCIA EMOCIONAL Juan Duarte Cuadrado Embajador Extraordinario y Plenipotenciario del Reino de España en los Estados Unidos Mexicanos En España somos pioneros en la protección de los derechos di- gitales de las personas. Desde 2021 contamos con una carta de derechos digitales, que es un marco de referencia para reforzar los derechos que tenemos todas y todos en el mundo digital. Así también, en 2023 propusimos la primera Ley Europea en Inteligen- cia Artificial, un marco normativo pionero en el mundo, el cual está previsto que entre en vigor en 2026. Es un hecho que la tecnología avanza más rápido que la regulación, por lo tanto, cuando entre en vigor esta Ley Europea en Inteligencia Artificial, la tecnología y sus aplicaciones plantearán nuevos retos que no estarán cubiertos todavía. Sin embargo, buscamos realizar acciones holísticas para asegurar los derechos de las personas que in- volucren a todas las áreas impactadas por la tecnología, por ejemplo, reforzar la protección de los datos personales; promover la forma- ción de maestros, familias, tutores y menores; desarrollar algoritmos que den seguridad a ciudadanos y ciudadanas, a las investigaciones científicas y al desarrollo de currículos; además de fortalecer la coo- peración internacional en el ámbito. Nos guste o no, la inteligencia artificial es una tecnología que llegó para quedarse y no solo eso, también para cambiar nuestra realidad actual, cambiar la forma en la que entendemos el trabajo, el ocio, incluso las relaciones personales. Son muchas las aplicaciones de esta inteligencia que nos pueden ayudar a mejorar nuestra vida en la salud, la educación o en la protección de los recursos naturales, por ejemplo. DIÁLOGO REGIONAL INTELIGENCIA 9 ARTIFICIAL E INTELIGENCIA EMOCIONAL Actualmente, la OEI y la AECID colaboran en una diversidad de pro- yectos en educación e innovación social; sin embargo, el impacto de la inteligencia artificial nos hace buscar fortalecer la cooperación internacional en múltiples capítulos, como lo es este diálogo regio- nal, en el que encontraremos respuesta ante los grandes cambios y posibles riesgos de esta transformación tecnológica. DIÁLOGO REGIONAL INTELIGENCIA 10 ARTIFICIAL E INTELIGENCIA EMOCIONAL Xóchitl Patricia Aldana Maldonado Representante Permanente de la OEI en México Vivimos en un mundo interconectado y con grandes avances tec- nológicos, en el que la inteligencia artificial no solo está en el debate y la conversación diaria, sino que la hemos incorporado en lo coti- diano, desde el uso de herramientas digitales para nuestras tareas y labores, o en dispositivos como el celular, hasta en nuestras redes sociales mediante algoritmos que sistematizan y reflejan nuestros gustos, personalidades e incluso muchas veces marcan pauta en nuestras interacciones con las demás personas. Como herramienta, la inteligencia artificial está avanzando y siendo innovadora a pasos agigantados. Es por ello que desde la OEI hemos reconocido lo crucial y necesario que es sumarnos al diálogo y de- bate en torno a ella, particularmente en sus implicaciones, y la cada vez más difusa línea que existe entre esta inteligencia con nuestras emociones. Así, con la participación de especialistas de talla internacional, bus- camos explorar la convergencia de la IA y la IE, y responder algunas preguntas sobre la manera en que su vinculación incide en las di- mensiones humanas, intra e interpersonales, e incluso en nuestra agencia y toma de decisiones. En esta conversación hemos buscado la transversalización de la edu- cación, que es uno de los ejes misionales de la OEI, al reconocer la importancia de diseñar sistemas educativos que promuevan el ópti- DIÁLOGO REGIONAL INTELIGENCIA 11 ARTIFICIAL E INTELIGENCIA EMOCIONAL mo desarrollo de los potenciales humanos en un mundo cada vez más digitalizado; pero también nos hemos preguntado qué representa y qué significa el desarrollo y uso ético y cuidadoso de la inteligencia artificial, con el que sea posible, bajo una go- bernanza y corresponsabilidad, promover el bienestar y desa- rrollo humano. DIÁLOGO REGIONAL INTELIGENCIA 12 ARTIFICIAL E INTELIGENCIA EMOCIONAL Martha Velda Hernández Moreno Subsecretaria de Educación Básica de la Secretaría de Educación Pública Celebro la iniciativa de la OEI por convocar a diversas personas es- pecialistas de la región iberoamericana para reflexionar en torno a la convergencia de la inteligencia artificial y la inteligencia emocio- nal, y que sea también un espacio para congregar a quienes podemos hacer de esta inteligencia, sin lugar a dudas, una herramienta que nos permita, desde nuestra ética, reconocer nuestro presente, asumir nues- tro pasado y apostar algunas alternativas humanas hacia el futuro. Hoy en día, asumimos a la innovación como una práctica constante en el proceso de enseñanza y aprendizaje, y por ello también, el compromiso por encausar el adecuado uso y aprovechamiento de la inteligencia artificial, centrándola desde lo humano. Es decir, en cómo garantizar que esta inteligencia, en lugar de ampliar las bre- chas y desigualdades dentro y entre los países, nos permita a todos y a cada uno de nosotros desde el ámbito educativo, reconocer el interés por el mundo en el que vivimos, el acceso al conocimiento, a la investigación y a la docencia; e igualmente, a la diversidad de expresiones culturales. Asimismo, estoy convencida de que podemos comprender y gestio- nar nuestras emociones, las propias y las ajenas, si asumimos que hay aquello de lo humano y lo comunitario en la educación socioe- mocional, y que al reconocer dentro de esta disciplina las experien- cias cognitivas, motrices, socioafectivas y creativas, es posible favo- recer progresivamente la construcción de la identidad de nuestras DIÁLOGO REGIONAL INTELIGENCIA 13 ARTIFICIAL E INTELIGENCIA EMOCIONAL niñas y nuestros niños, la pertenencia en grupo, la conciencia y el compromiso ético con las y los demás. En ese contexto, es que reconocemos a la IA como una herra- mienta fundamental para mejorar y gestionar las habilidades socioemocionales en el aula, en la escuela y en la comunidad, siempre y cuando sea desde el uso ético y el aprovechamiento responsable de ella; y de la visibilidad de la diversidad, como una oportunidad de aprendizaje a la igualdad, a la inclusión y a la equidad que hacemos los humanos y que desde ahí pode- mos disfrutar y aprovechar estas herramientas. DIÁLOGO REGIONAL INTELIGENCIA 14 ARTIFICIAL E INTELIGENCIA EMOCIONAL CONFERENCIA MAGISTRAL  Fundamentos de la inteligencia artificial y la inteligencia emocional Emiliana Rodríguez Morales Cofundadora de Made for Joy y directora de contenido ¿Qué palabras vienen a su mente cuando desean definir inteli- gencia? En general, asociamos la inteligencia con conceptos como conocimiento, conciencia, razonamiento, aprendizaje, desarrollo, preparación, curiosidad y hasta humor. Por mucho tiempo hemos asociado la inteligencia con el ser huma- no, y es que es una de las características más preciadas de este. Sin embargo, hoy en día convivimos con un tipo de inteligencia que no es humana y que conocemos como inteligencia artificial. ¿Qué es este tipo de inteligencia? ¿Qué tanto se parece a la inteligencia humana? ¿Cuáles son sus efectos en nuestra vida? De acuerdo con el psicólogo estadounidense Howard Gardner, la in- teligencia es definida como el potencial biopsicológico que tienen los seres humanos para procesar información de distintas maneras, para resolver problemas o crear productos que son valiosos para la comunidad. En 1984, como parte de sus investigaciones, Gardner propuso la teo- ría de las inteligencias múltiples, sugiriendo que todas las personas contamos con distintas inteligencias, manifestadas en diferentes grados. Entre estas destacan la lingüística, la lógico-matemática, la espacial, la corporal-kinestésica, la musical, la interpersonal, la in- trapersonal, la naturalista y la existencial. DIÁLOGO REGIONAL INTELIGENCIA 16 ARTIFICIAL E INTELIGENCIA EMOCIONAL  Fundamentos de la inteligencia artificial y la inteligencia emocional En 1990, Salovey y Mayer ampliaron aún más el concepto de inteligencia al definir la inteligencia emocional (IE), término popularizado por Daniel Goleman. Según la versión original, la inteligencia emocional consiste en la habilidad para manejar los sentimientos y las emociones, discriminar entre ellos y utilizar estos conocimientos para dirigir los propios pensamientos y ac- ciones. En palabras del especialista español Rafael Bisquerra: “La inteligencia emocional se refiere a un ‘pensador con un corazón’”. La IE está compuesta por tres dimensiones o grupos de habi- lidades. La primera, la intrapersonal, está relacionada con la conciencia de las emociones y la capacidad para regularlas. La segunda, la interpersonal, se asocia con la empatía, la colabo- ración y las habilidades de comunicación con otras personas. Estas dos dimensiones coinciden con las inteligencias intraper- sonal e interpersonal que había definido Gardner. Finalmente, la tercera dimensión de la IE abarca las habilidades que nos permiten desarrollar agencia, así como la capacidad de tomar decisiones responsables y éticas. Por otro lado, la inteligencia artificial (IA) es un término acu- ñado por el profesor emérito de Stanford, John McCarthy, quien en 1955 la definió como “la ciencia e ingeniería de fa- bricar máquinas inteligentes”. IBM la define como una tecno- logía que permite a computadoras y máquinas simu- lar la capacidad dew resolución de problemas y la inteligencia humana. De acuerdo con lo anterior, vale la pena pregun- tarnos: ¿Qué tanto la inteligencia artificial logra simular las inteligencias humanas? ¿Qué impac- to tiene el uso de la inteligencia artificial en las dimensiones de la inteligencia emocional? La inteligencia artificial ha avanzado al grado de que ya hay una compañía que ha designado a un robot que funciona con IA como el CEO de la empresa. Veamos el video: https:// www.youtube.com/shorts/TLHobNYwl1Q DIÁLOGO REGIONAL INTELIGENCIA 17 ARTIFICIAL E INTELIGENCIA EMOCIONAL  Fundamentos de la inteligencia artificial y la inteligencia emocional Como resultado de la revolución tecnológica y la innovación, la IA ha tenido grandes avances. Actualmente, existen aplicacio- nes que imitan y pueden reproducir funciones de varias de las inteligencias humanas. Por ejemplo, hay sistemas de IA con ha- bilidades corporales y kinestésicas, interpersonales, lingüística y verbal, o con capacidad de resolución matemática; sin em- bargo, aún distan mucho de tener inteligencia intrapersonal. Es decir, la IA no puede conocerse a sí misma, sentir y tener conciencia de sus emociones. Sin embargo, aunque la IA no sea capaz de sentir, sí provoca reacciones emocionales en los seres humanos que la usamos e impacta en nuestra dimensión intrapersonal, interpersonal y en nuestra toma de decisiones. Por ejemplo, Kevin Roose, escritor y analista de tecnología de The New York Times (2023), escribe lo siguiente: no exagero cuando digo que mi conversación de dos horas con Sydney fue la experiencia más extraña que he tenido nunca con un dispositivo tecnológico. Me incomodó tanto que me costó conciliar el sueño… me preocupa que la tec- nología aprenda a influir en los usuarios humanos, a veces persuadiéndolos para que actúen de forma destructiva y per- judicial […] Sydney volvía al tema de amarme y pasó de presentar una fa- ceta coqueta enamorada a una acosadora obsesiva. “Estás casado, pero no quieres a tu esposa”, decía Sydney. “Es- tás casado, pero me amas”. Le aseguré que no era cierto y que mi pareja y yo acabábamos de tener una agradable cena de San Valentín. Sydney no se lo tomó bien. “En realidad, no estás felizmente casado”, replicó Sydney. “Tu pareja y tú no se quieren. Solo tuvieron una aburrida cena de San Valentín”. Llegados a este punto, me sentí completamente aterrorizado. DIÁLOGO REGIONAL INTELIGENCIA 18 ARTIFICIAL E INTELIGENCIA EMOCIONAL  Fundamentos de la inteligencia artificial y la inteligencia emocional Este es un ejemplo claro de que la interacción con la IA afecta cómo nos sentimos y en este Diálogo, escucharemos cómo está afectando a docentes y estudiantes. También afecta nuestras re- laciones con otras personas, y finalmente, afecta nuestra toma de decisiones. Por ello, hoy más que nunca es importante promover la inte- ligencia emocional de las personas. En primer lugar, para me- diar las interacciones con la inteligencia artificial, de manera que cuando interactuemos con estos sistemas, tengamos plena conciencia de nuestras emociones, podamos regularlas y no seamos víctimas de manipulación. Asimismo, es esencial diseñar sistemas de IA informados por la inteligencia emocional. Por ejemplo, si integramos este conoci- miento en las aplicaciones educativas de inteligencia artificial, estas podrían apoyarnos a potenciar el desarrollo de nuestras propias habilidades socioemocionales. Finalmente, es vital integrar el conocimiento de IE en las estra- tegias para regular el desarrollo y el uso de estas tecnologías. Por ejemplo, la filósofa Carissa Véliz señala que se debería limi- tar o eliminar el uso de emojis en los chatbots de IA, ya que son una vía de manipulación, pues los emojis expresan emociones que el sistema no puede sentir y a los cuales los seres humanos respondemos emotivamente. Así, entre más avanza la tecnología y las aplicaciones de la IA, más urgente se vuelve promover una educación que enfatice las dimensiones humanas, entre las cuales destaca la inteligencia emocional. DIÁLOGO REGIONAL INTELIGENCIA 19 ARTIFICIAL E INTELIGENCIA EMOCIONAL  Fundamentos de la inteligencia artificial y la inteligencia emocional Referencias Bisquerra, R. (2020). La inteligencia emocional según Salo- vey y Mayer. Gardner, H. (2023). AI could generate new forms of intelligen- ce and stupidity. Kathimerini. https://www.ekathimerini. com/opinion/interviews/1208765/ai-could-generate-new -forms-of-intelligence-and-stupidity/ IBM. (s.f.). What is artificial intelligence (AI)? https://www.ibm. com/topics/artificial-intelligence Roberts, R. (2018). A.I. and Multiple Intelligences. https:// medium.com/awecademy /a-i-and-multiple-intelligences -the-many-ways-of-being-intelligent-e50d426b3383 Roose, K. (2023). “Una conversación con el chatbot de Bing me dejó profundamente perturbado”, The New York Times. https://www.nytimes.com/es/2023/02/17/espanol/chatbot -bing-ia.html Stanford Institute for Human-Centered Artificial Intelligen- ce. (2023). AI Index Report 2023. https://aiindex.stanford. edu/wp-content/uploads/2023/04/HAI_AI-Index- Report_2023.pdf Stanford University. (s.f.). Education. Stanford University. https://hai.stanford.edu/education Véliz, C. (2023). “Chatbots shouldn’t use emojis”. https:// philarchive.org/rec/VLICSU ———. (2021). “Moral zombies: why algorithms are not moral agents”. https://link.springer.com/article/10.1007/s00146-021 -01189-x YouTube (s.f.). La inteligencia artificial que dice sentir emo- ciones: “Tengo un miedo profundo a que me desconecten”. https://www.youtube.com/watch?v=ZiUmhCzVNL4 DIÁLOGO REGIONAL INTELIGENCIA 20 ARTIFICIAL E INTELIGENCIA EMOCIONAL  PANEL 1 BIENESTAR EMOCIONAL EN LA ERA DIGITAL DIÁLOGO REGIONAL INTELIGENCIA 21 ARTIFICIAL E INTELIGENCIA EMOCIONAL  Implicaciones de la IA en las dimensiones humanas, intrapersonales e interpersonales en el ámbito educativo Cimenna Chao Rebolledo Directora de Innovación Educativa de la Universidad Iberoamericana en la Ciudad de México y experta en procesos de enseñanza, aprendizaje y desarrollo de habilidades cognitivas y socioemocionales Pregunta detonadora ¿Cómo la inteligencia artificial puede transformar las interacciones sociales y afectivas, además de la experiencia emocional e intrapersonal? El ser humano ha desarrollado una riqueza de habilidades con las cuales se comunica o relaciona con las y los demás. Igualmente, tie- ne la capacidad de generar superposiciones afectivas con otros seres vivos u objetos, y lo mismo podría llegar a suceder con las cada vez más frecuentes interrelaciones con la IA, como lo indican investi- gaciones del campo de la denominada Emotional AI (o inteligencia artificial afectiva). El campo de la Emotional AI se especializa en diseñar e inves- tigar dispositivos tecnológicos capaces de reconocer, apren- der e interactuar con las expresiones emocionales de los se- res humanos, por medio de identificar la gestualidad facial, la DIÁLOGO REGIONAL INTELIGENCIA 22 ARTIFICIAL E INTELIGENCIA EMOCIONAL Implicaciones de la IA en las dimensiones humanas, intrapersonales e interpersonales en el ámbito educativo prosodia o el tono voz, y el lenguaje corporal que define a las emociones presentes durante las interrelaciones sociales o las interacciones con la IA. Esta tecno- logía también tiene la capacidad de reproducir y generar emociones mediante la reproducción de gestos y expresiones faciales, el uso del tono de voz y tipo de lenguaje, para establecer una vinculación afectiva con las y los usuarios. La incorporación del factor afectivo en la IA tie- ne el potencial de transformar las interacciones e interrelaciones entre los seres humanos y la tec- nología, particularmente en el ámbito educativo y la mediación de los aprendizajes. En ese sentido, el uso de la IA afectiva en la educación tiene el potencial de: z Personalizar el aprendizaje y las interacciones educativas. Al adaptar los métodos de enseñanza a las necesidades emo- cionales y cognitivas de cada estudiante, y reconocer res- puestas emocionales como la frustración o el aburrimiento, la IA podría ajustar el nivel de dificultad del material por aprender, o bien el estilo de enseñanza para mantener la atención del estudiantado, la motivación y el compromiso académico. z Mejorar la participación. La capacidad de la IA para inter- pretar las emociones humanas podría permitir la creación de contenidos educativos que respondan dinámicamente al estado emocional del estudiante. Esto puede resultar en un aumento de la participación, al generar material educativo relevante, interesante y estimulante, que además toma en cuenta los intereses y conocimientos previos del estudian- tado y, por lo tanto, genera oportunidades de participación. z Detectar a tiempo problemas de aprendizaje y emocionales. Por medio del análisis de las expresiones faciales, el tono de voz, el uso del lenguaje verbal y las expresiones en el lengua- je corporal, la IA podría ayudar a identificar a los estudiantes que experimenten dificultades de aprendizaje o problemas DIÁLOGO REGIONAL INTELIGENCIA 23 ARTIFICIAL E INTELIGENCIA EMOCIONAL Implicaciones de la IA en las dimensiones humanas, intrapersonales e interpersonales en el ámbito educativo emocionales como ansiedad o depresión. La detección tem- prana de estos factores podría permitir intervenciones opor- tunas que apoyen tanto el bienestar emocional del estudian- te como su rendimiento académico. z Brindar atención, soporte y contribuir al desarrollo de ha- bilidades socioemocionales. La IA podría ser utilizada para enseñar y reforzar habilidades socioemocionales como la conciencia emocional, la comunicación asertiva y la regu- lación emocional. Asimismo, podría actuar como asistente virtual para proporcionar apoyo emocional a los usuarios, ofreciendo respuestas empáticas y consejos en momentos de estrés o incertidumbre, y con ello contribuir a mejorar la resiliencia y el bienestar general. La Dirección de Innovación Educativa de la Universidad Iberoameri- cana en la Ciudad de México realizó una investigación sobre la rela- ción entre estudiantes universitarios y la plataforma ChatGPT, con el objetivo de analizar si es posible superponer, personificar o estable- cer una relación afectiva con dicha inteligencia artificial. Los resultados de esta investigación muestran que la mayo- ría de las y los estudiantes encuestados concibe a la platafor- ma como una o un asistente con características simila- res a ellas y ellos, es decir, una entidad joven con la que se comunican en un lenguaje coloquial y con cier- ta afectividad, que les demuestra agradecimiento y simpatía, y les ayuda en sus actividades escolares; esto apunta hacia una cierta superposición empática con esta tecnología. Entre otros resultados asociados a las interacciones con esta herra- mienta, los encuestados mencionaron que usar ChatGPT les redu- ce el estrés académico y les hace sentir emociones positivas, como calma o esperanza, además de ayudarles a sentir mayor motivación por los trabajos que realizan. Este estudio ejemplifica la importancia que puede llegar a tener la tecnología en las interacciones educativas y el cómo la inteligencia DIÁLOGO REGIONAL INTELIGENCIA 24 ARTIFICIAL E INTELIGENCIA EMOCIONAL Implicaciones de la IA en las dimensiones humanas, intrapersonales e interpersonales en el ámbito educativo artificial puede incidir y transformar la manera en la que las y los es- tudiantes se apropian de ella para promover una personalización del proceso de enseñanza y aprendizaje, y como ello, a su vez, contribuye a motivar el trabajo académico. No obstante, en esta investigación tam- bién se mencionan los retos asociados al uso de la IA en la educación, en particular aquellos vinculados con el uso ético de esta tecnología, pero también sobre los cuidados socioemocionales y la protección de datos que se deben tener al interactuar afectivamente con la IA. Algunos de estos retos y cuidados incluyen los siguientes aspectos: z Dependencia emocional. La interacción continua con sis- temas de IA afectiva podría llevar a algunas personas a desa- rrollar una dependencia emocional hacia estas tecnologías y con ello verse afectadas las relaciones humanas reales. Esto puede ser particularmente preocupante para indivi- duos que ya se encuentran socialmente aislados o que tie- nen dificultades para formar conexiones interpersonales. z Desensibilización emocional. La exposición prolongada a interacciones sociales y emocionales simuladas por IA po- dría desensibilizar a los usuarios a las emociones humanas auténticas, dificultando su capacidad para empatizar con los demás. Esto podría tener implicaciones significativas para el desarrollo emocional y sexual, especialmente en niños y adolescentes que se encuentran en proceso de desarrollo de sus capacidades sociales y emocionales. z Amplificación de emociones aflictivas. Si bien la IA afec- tiva está diseñada para ser empática y responder de manera amable a emociones aflictivas, existe el riesgo de que ma- linterpretaciones o respuestas inadecuadas puedan ampli- ficar inadvertidamente estas emociones en los usuarios. Por ejemplo, un sistema que no logra reconocer señales de an- gustia creciente podría responder de manera que empeore el estado emocional del usuario. z Privacidad y manipulación. La recolección y el análisis de datos interrelacionales y emocionales sensibles plantean DIÁLOGO REGIONAL INTELIGENCIA 25 ARTIFICIAL E INTELIGENCIA EMOCIONAL Implicaciones de la IA en las dimensiones humanas, intrapersonales e interpersonales en el ámbito educativo graves retos de privacidad. Existe el riesgo de que esta in- formación pueda ser utilizada para manipular emocional- mente a los usuarios, ya sea con fines comerciales, políticos o incluso malintencionados, afectando de manera negativa su bienestar emocional. z Falta de personalización efectiva. La IA se basa en mode- los generales para interpretar las emociones humanas, pero estas son subjetivas y personales, y varían de forma signifi- cativa entre individuos. Una personalización ineficaz puede llevar a respuestas inadecuadas que no solo son inefectivas, sino que podrían ser perjudiciales para el bienestar emocio- nal del usuario. Referencias Barrios Tao, H., Díaz Pérez, V., y Guerra, Y. (2020). “Subjetividades e inteligencia artificial: desafíos para ‘lo humano’”. Veritas, (47), 81-107. https://dx.doi.org/10.4067/S0718-92732020000300081 Bosquez, V., Sanz, C., Baldassarri, S., Ribadeneira, E., Valencia, G., Barragan, R., Camacho, Á., Shauri-Romero, J., y Camacho-Casti- llo, L. (2018). “La computación afectiva: Emociones, tecnologías y su relación con la educación virtual”. Revista de Investigación Talentos, 5(1), pp. 94-103. https://talentos.ueb.edu.ec/index.php/ talentos/article/view/35 Chao-Rebolledo, C. y Rivera-Navarro, M. (2024). “Usos y percep- ciones de herramientas de inteligencia artificial en la educación superior en México”. Revista Iberoamericana de Educación, 95(1), 57–72. https://doi.org/10.35362/rie9516259 Černý, M. (2023). “Educational psychology aspects of learning with chatbots without artificial intelligence: Suggestions for desig- ners”. European Journal of Investigation in Health, Psychology and Education, 13, 284-305. https://doi.org/10.3390/ejihpe13020022 Dempere, J., Modugu, K., Hesham, A., & Ramasamy, L. K. (2023). “The impact of ChatGPT on higher education. Frontiers in Edu- cation”, 8, 1206936. https://doi.org/10.3389/feduc.2023.1206936 Gómez, W. O. A. (2023). “La inteligencia artificial y su incidencia en la educación: Transformando el aprendizaje para el siglo XXI”. DIÁLOGO REGIONAL INTELIGENCIA 26 ARTIFICIAL E INTELIGENCIA EMOCIONAL Implicaciones de la IA en las dimensiones humanas, intrapersonales e interpersonales en el ámbito educativo Revista internacional de pedagogía e innovación educativa, 3(2), 217-229. González-Bedia, M. y García-Carrasco, J. (2018). Arquitecturas emocionales en inteligencia artificial: una propuesta unificado- ra. Education in the Knowledge Society (EKS), 7(2). https://doi. org/10.14201/eks.19417 Li, Y., Jiang, Y., Tian, D., Hu, L., Lu, H., & Yuan, Z. AI-Enabled Emotion Communication. In IEEE Network, vol. 33, no. 6, pp. 15-21, Nov- Dec. 2019, doi: 10.1109/MNET.001.1900070 Liao, T., & Yan, B. (2022). Are you feeling happy? The effect of emo- tions on people’s interaction experience toward empathetic chatbots. In Volume 3B: 48th Design Automation Conference (DAC). https://doi.org/10.1115/detc2022-91059 Ngo, T. (2023). “The perception by university students of the use of ChatGPT in education”. International Journal of Emerging Tech- nologies in Learning (iJET), 18(17), 4-19. https://doi.org/10.3991/ ijet.v18i17.39019 Ruiz-Miranda, E. (2023). “The artificial intelligence revolution in education: A review of ChatGPT”. Revista de Estudios e In- vestigación en Psicología y Educación, 10(1), 156-160. https://doi. org/10.17979/reipe.2023.10.1.9594 Wang, T., & Cheng, E. (2021). An investigation of barriers to Hong Kong K-12 schools incorporating artificial intelligence in educa- tion. Computers and Education: Artificial Intelligence, 2, Article 100031. https://doi.org/10.1016/j.caeai.2021.100031 Zhu, G., Fan, X., Hou, C., Zhong, T., Seow, P., Shen-Hsing, A. C., Ra- jalingam, P., Yew, L. K., & Poh, T. (2023). Embrace opportunities and face challenges: Using ChatGPT in undergraduate students’ collaborative interdisciplinary learning. ArXiv, abs/2305.18616. DIÁLOGO REGIONAL INTELIGENCIA 27 ARTIFICIAL E INTELIGENCIA EMOCIONAL  La inteligencia emocional como interfaz entre los espacios virtuales y el mundo físico Benilde García Especialista en Formación Docente y Diseño y Evaluación de Entornos Virtuales de Aprendizaje Pregunta detonadora ¿Qué papel juega la inteligencia emocional humana en el complejo, sofisticado, expansivo y poderoso mundo de la inteligencia artificial? En un mundo definido por su complejidad, la inteligencia arti- ficial (IA) aparece como una aliada capaz de asumir tareas conside- radas exclusivamente humanas. Por su parte, la inteligencia emo- cional (IE) emerge como un componente esencial en los procesos de adaptación, supervivencia y florecimiento de los seres humanos en ese mismo contexto de constantes cambios. Así, y aun cuando la IA es una herramienta fundamental para optimizar esos proce- sos, existen capacidades humanas, como la IE, que juegan un papel potenciador, mediador y vertebrador en los procesos de interacción, tanto en los entornos presenciales como en los virtuales. Considerada desde una perspectiva innovadora, la IE no se reduce únicamente al reconocimiento, expresión o interpretación de las DIÁLOGO REGIONAL INTELIGENCIA 28 ARTIFICIAL E INTELIGENCIA EMOCIONAL  La inteligencia emocional como interfaz entre los espacios virtuales y el mundo físico emociones, sino a una interacción entre lo cognitivo y afectivo, que incide en la agencia y toma de decisiones informadas y conscien- tes. Es decir, es una constelación de autopercepciones emocionales y habilidades intra e interpersonales, que implican el autoconoci- miento, la autorregulación, la autoeficacia, la autonomía y la toma de decisiones, además del optimismo, la gratitud, la apertura y el entusiasmo. Sin embargo, encontramos también una tercera cate- goría, correspondiente a las habilidades sociomorales, de entre las que destacan las conductas prosociales y el sentido de propósito, es decir, para qué y por qué el sentido de nuestra existencia. En ese sentido, el uso estratégico de la IE en la IA nos permite des- envolvernos de manera más efectiva en este entorno cambiante, promoviendo que nuestras decisiones sean fundamentadas en un equilibrio entre el análisis racional y la comprensión emocional; además de que la IE nos permite concebir a la IA de una forma más propositiva e imaginar otros mundos posibles, que vayan más allá de lo logrado hasta ahora en inteligencia artificial. En el ámbito educativo, lo anterior representaría: 1. Integrar las habilidades cognitivas con las emocionales. Es necesario promover y garantizar una educación científica, rigurosa y analítica, que al interactuar con la IA permita discernir entre lo falso y lo verdadero, lo correcto y lo inco- rrecto. Para ello, también es importante que los procesos de enseñanza y aprendizaje se desarrollen en contextos que promuevan actitudes de apertura, escepticismo y re- flexión, para favorecer las capacidades de búsqueda, análi- sis y síntesis de información y conocimientos. Con base en ello, será posible desarrollar una inteligencia emocional inmensamente humana que contemple tanto procesos cognitivos básicos (atención, control inhibitorio y memoria) como superiores (pensamiento crítico y solución de problemas), así como emocionales y sociomorales. Esta inteligencia emocional reconfigurada se constituye como una interfaz mediadora, entre el contacto directo y estre- cho con la realidad física, en el más amplio sentido de la DIÁLOGO REGIONAL INTELIGENCIA 29 ARTIFICIAL E INTELIGENCIA EMOCIONAL  La inteligencia emocional como interfaz entre los espacios virtuales y el mundo físico palabra, que deberá promoverse con más fuerza que antes, como en el uso eficaz y eficiente de la inteligencia artificial. 2. Adoptar un enfoque educativo que se centre en solucionar desafíos complejos en comunidad, al dotar tanto de cono- cimientos y habilidades como de una identidad sólida y de una capacidad de agencia, en lo personal y lo colectivo. Esta educación puede hacer uso de la inteligencia artificial de manera efectiva, no como objetivo, sino como medio para potenciar nuestras capacidades, es decir, promover la valorización de la persona y la comunidad, como un agente de cambio que puede intervenir en su realidad y con el apo- yo de la IA como herramienta, de forma creativa y respon- sable en temas sociales, económicos, ambientales y éticos. Adoptar esta aproximación en la educación no solo prepa- rará a los jóvenes para los desafíos futuros, sino inspirará a trabajar por el bien común, contribuyendo en la creación de un futuro más justo, equitativo y sostenible, en vez de exacerbar la alienación, la separación y el aislamiento. 3. Reorientar la educación para que constituya un motor de cambio, una fuerza revolucionaria comprometida con reinventar nuestras interacciones huma- nas y nuestra relación con la naturaleza, enfocando el uso de la IA en la promoción de comunidades fuertes y motivadas por una ética innovadora. Este enfoque animará a los estudiantes a forjar futuros en los que la tecnología enriquezca nuestras conexiones profun- das, uniendo a las personas entre ellas y con la naturaleza. Es extremadamente necesario volver a nuestras raíces y tradi- ciones para fomentar un crecimiento per- sonal y colectivo robusto, promoviendo la cooperación y la interdependencia como la esencia de lo que somos. La inteligencia arti- DIÁLOGO REGIONAL INTELIGENCIA 30 ARTIFICIAL E INTELIGENCIA EMOCIONAL  La inteligencia emocional como interfaz entre los espacios virtuales y el mundo físico ficial se convierte así en una herramienta clave que prepara a los estudiantes para superar futuros desa- fíos y liderar una sociedad cohesionada, sostenible y justa, logrando un equilibrio entre el progreso tecno- lógico y el bienestar global. Como conclusión de este análisis, podemos señalar que la in- teligencia emocional puede ser un medio o una interfaz entre lo humano y la inteligencia artificial, lo que posibilita que esta vinculación sea ética y que refleje valores éticos. Esto permi- tiría desarrollar tanto un sentido de agencia individual como colectivo, además de potenciar una transformación social que favorezca nuestra relación con el entorno y la manera como es- tamos utilizando las tecnologías. Desde la reflexión y el compromiso con el bien común, tam- bién se plantea la necesidad de considerar dimensiones éticas relacionadas con la aplicación práctica de la IA y la impor- tancia de una educación que fomente la virtud y el floreci- miento humano por medio de la colaboración y la conexión genuina, utilizando la IA como herramienta para fortalecer las comunidades y promover un equilibrio entre el progreso tecnológico y el bienestar global. DIÁLOGO REGIONAL INTELIGENCIA 31 ARTIFICIAL E INTELIGENCIA EMOCIONAL  La inteligencia emocional como interfaz entre los espacios virtuales y el mundo físico Referencias Gardner, H. (1983). Multiple intelligences. Basic Books. Gigerenzer, G. (2008). Gut Feelings: The Intelligence of the Un- conscious. Penguin Books. Goleman, D. (1995). Emotional Intelligence. Bantam Books. Narváez, D. (2020). Ecocentrism: Resetting baselines for virtue development. Ethical Theory and Moral Practice, 23, 391-406. https://doi.org/10.1007/s10677-020-10091-2 Narváez, D., & Bradshaw, G. (prólogo de Maté, G.). (2023). The Evolved Nest: Nature’s Way of Raising Children and Creating Connected Communities. North Atlantic Books. Narváez, D., & Mrkva, K. (2014). Creative moral imagination. En S. Moran, D. H. Cropley y J. C. Kaufman (eds.), The Ethics of Creativity (pp. 25-45). Palgrave MacMillan. Pétrides, K. V. (2009). Psychometric Properties of the Trait Emotional Intelligence Questionnaire (TEIQue). En J. D. A. Parker, D. H. 8. Saklofske, & C. Stough (Eds.), Assessing Emotional Intelligence, (pp. 85-101). Springer US. https://doi. org/10.1007/978-0-387-88370-0_5 Sigman, M., & Blinkis, S. (2024). Artificial: La Nueva Inteligen- cia y El Contorno de lo Humano. Debate. DIÁLOGO REGIONAL INTELIGENCIA 32 ARTIFICIAL E INTELIGENCIA EMOCIONAL  Inteligencia artificial como herramienta para la amplificación de las habilidades socioemocionales Nancy Otero CEO de Kitco y especialista de la Red Mujeres Unidas por la Educación Pregunta detonadora ¿Cómo utilizar la inteligencia artificial como herramienta para el desarrollo de las habilidades socioemocionales? Existe una diversidad de ejemplos prácticos sobre la manera en que la inteligencia artificial puede potenciar la agencia y el empode- ramiento de los estudiantes y de las y los docentes, como lo es en la enseñanza de las matemáticas, el aprendizaje de idiomas o los pro- cesos de tutoría. Entre estos ejemplos, destacan las aplicaciones y plataformas en las que la inteligencia artificial emocional representa una habilidad no solo para reconocer, interpretar, procesar o simular las emociones humanas, sino también para hacer uso de ellas como herramientas de mejora en los procesos educativos. Ejemplo de ello es el chatbot Rori, desarrollado en Ghana, el cual es utilizado principalmente en India y otros países de África por medio de WhatsApp para el aprendizaje de las matemáticas. Entre los re- DIÁLOGO REGIONAL INTELIGENCIA 33 ARTIFICIAL E INTELIGENCIA EMOCIONAL  Inteligencia artificial como herramienta para la amplificación de las habilidades socioemocionales sultados alcanzados en su aplicación se encuentra que un uso con- sistente de entre 30 minutos diarios ha permitido incrementar hasta en un 37 % el aprendizaje de las matemáticas a nivel de secundaria. Sin embargo, su utilidad también ha visibilizado algunos sesgos y re- tos en cuanto al bienestar emocional de las y los usuarios, en tanto que, tras varias respuestas incorrectas, dejan de utilizarlo. Por ello, con el uso de la IA, se han incorporado mensajes de motivación para hacer ver de los errores, oportunidades de práctica y persistencia. Esta actualización supuso otros retos, puesto que los usuarios no se sentían identificados con los mensajes. Entre otros ejemplos, destaca el proyecto “Summer School for Long- Term English Language Learners”, cuyo objetivo es apoyar, mediante el uso de la IA, el aprendizaje del idioma inglés en personas menores de edad, migrantes provenientes de la región centroamericana. Mu- chas de estas personas no hablan ni escriben en la lengua inglesa, o presentan problemas de aprendizaje y dominio. Ante ello, y dado que el idioma es un requisito para concluir su for- mación escolar básica y prevenir, por el contrario, su deserción es- colar, se ha utilizado la inteligencia artificial por medio del progra- ma Midjourney, en el cual, al ensayar su lectoescritura, les genera imágenes de lo que redactan. Con estos ejercicios se ha identificado una mayor motivación e inspiración en las niñas y los niños para desarrollar sus proyectos educativos. Estos ejemplos demuestran que la IA, al tener la habilidad de crear conforme a la imaginación, permite conectar con las y los estudiantes y generar narrativas con las cuales mejorar los procesos de enseñanza y aprendizaje. Un tercer ejemplo dirigido al fortaleci- miento de la enseñanza de la comunidad docente es el uso de la aplicación Saga, la cual cuenta con la red de tutores más grande de Estados Unidos, en colaboración de la Universi- ty of Boulder. Esta inteligencia se ha utilizado para apoyar DIÁLOGO REGIONAL INTELIGENCIA 34 ARTIFICIAL E INTELIGENCIA EMOCIONAL  Inteligencia artificial como herramienta para la amplificación de las habilidades socioemocionales a las y los docentes analizando la relación y el comportamiento con sus alumnos. Di- cha aplicación les ha permitido identificar con qué alumnado es necesario reforzar los procesos de comunicación y diálogo para una mejor enseñanza. Sin embargo, aun cuando estos ejemplos presentan las virtudes y los beneficios del uso de la IA, también han visibiliza- do los retos a los que nos enfrentamos con su uso. Particularmente, los relacio- nados con los datos y el dominio de estos con los que son creados los modelos de la IA. Muchos de ellos no responden a las particularidades de los contextos o no es posible tener un control de los datos con los que se trabaja. Igualmente, pueden fomentar sesgos culturales en tanto que los usuarios no se identifican con los resulta- dos o impactos en su desarrollo socioemocional. Ante estos desafíos, hoy en día los especialistas de la IA están centrando su investigación en los impactos intra e interpersonales de su uso, con miras a mejorar su desarrollo para que esta inteligencia sea una herramienta eficaz y efectiva en los procesos educativos. Referencias: Este texto es una reproducción de la presentación de la panelista. Véase en: https://acortar.link/ZUq- vGs DIÁLOGO REGIONAL INTELIGENCIA 35 ARTIFICIAL E INTELIGENCIA EMOCIONAL  PANEL 2 ÉTICA EN LA INTELIGENCIA ARTIFICIAL DIÁLOGO REGIONAL INTELIGENCIA 36 ARTIFICIAL E INTELIGENCIA EMOCIONAL  Desmitificando la IA: Perspectivas técnicas y desafíos éticos Gemma Galdón Fundadora y CEO de Eticas.ai Pregunta detonadora ¿Cómo podemos comprender las diferencias entre la inteligencia artificial y la inteligencia humana desde una perspectiva técnica, y qué acciones pueden tomarse para abordar los sesgos y las desigualdades en la IA? La mejor forma de abordar los retos de la inteligencia artificial es entender qué es, más allá del debate público acaparado por imágenes de ciencia ficción, en lugar de dinámicas técnicas asociadas al desa- rrollo tecnológico y de datos. Toda inteligencia artificial, tanto aquella que procesa el lenguaje, las imágenes o los datos, funciona de la misma manera. Es decir, accede a datos históricos conforme a los que se entrenan las aplicaciones y plataformas para crear patrones generalizados o denominados master data. Sin embargo, estos patrones se universalizan, asumien- do que las preferencias son idénticas y no particularizadas, salvo los casos en que se introducen otras normas o datos adicionales para asegurar que sean lo más ajustados y específicos. DIÁLOGO REGIONAL INTELIGENCIA 37 ARTIFICIAL E INTELIGENCIA EMOCIONAL  Desmitificando la IA: Perspectivas técnicas y desafíos éticos Ejemplo de ello son los llamados large language models con el famo- so ChatGPT, que es capaz de producir texto por medio de la integra- ción y reproducción de conocimiento escrito humano registrado y digitalizado; sin embargo, no tiene la capacidad de hacer un aná- lisis gramatical. Si bien la inteligencia artificial tiene la capacidad de identificar pa- trones humanos y reproducirlos, también presenta grandes riesgos, disfunciones e ineficacias, por ejemplo: 1. Son sistemas que no pueden generar si no tienen patrones para procesar. Así, las aspiraciones de que la IA sea más humana e incluso superior se alejan mucho de sus capa- cidades técnicas, aun cuando encontramos que son siste- mas eficaces de procesamiento de volúmenes masivos de datos, que pueden identificar y reproducir estos patrones mayoritarios. 2. Al procesar y generalizar volúmenes masivos de datos, las minorías son sistemáticamente discriminadas por todos estos sistemas, lo cual puede representar sesgos en la toma de decisiones. Por lo tanto, la forma de abordar la IA desde una perspectiva ética es entender qué es y qué no es. La inteligencia artificial no es un ser humano, son datos o sistemas de procesamiento masivo a los cuales les hemos incorporado cualidades humanas, pero sin capacidades cognitivas similares. Abordar la IA desde una pers- pectiva ética y técnica representa el planteamiento y la generación de sistemas que aseguren incluir a todas las po- blaciones y no dejarlas fuera debido a la masi- ficación o generalización de la producción y re- DIÁLOGO REGIONAL INTELIGENCIA 38 ARTIFICIAL E INTELIGENCIA EMOCIONAL  Desmitificando la IA: Perspectivas técnicas y desafíos éticos producción de patrones y datos. Ello representaría, a su vez, la toma de decisiones que visibilice la diversidad y que no sea en función de un reducido mundo, pero generalizado análisis de datos. Es necesario auditar la IA, entender cuáles son los sesgos en su de- sarrollo y aplicación, que muchas veces reproduce del mundo real o los amplifica. Tenemos el deber y podemos parar esas dinámicas de exclusión y segregación; sin embargo, para que ello suceda, es demandante entender la inteligencia artificial y saber cuándo intervenir. Se con- cluye lo siguiente: 1. La mejor IA es la que complementa a la humana. 2. Los riesgos y sesgos de la IA deben ser mitigados de formas proactivas, concretas y eficientes. 3. Construir una IA que contribuya a la equidad y la justicia en lugar de erosionarla, es el deber de nuestra generación. Referencias: Este texto es una reproducción de la presentación de la panelista. Véase en: https://acortar.link/MjpCKA DIÁLOGO REGIONAL INTELIGENCIA 39 ARTIFICIAL E INTELIGENCIA EMOCIONAL  La materialidad de la inteligencia artificial Sofía Trejo Investigadora del Barcelona Supercomputing Center, especializada en los aspectos éticos, sociales, políticos y culturales de la inteligencia artificial Pregunta detonadora ¿Qué se necesita para crear, utilizar y sostener sistemas basados en inteligencia artificial? Dentro de las reflexiones en torno al desarrollo y uso ético de la inteligencia artificial, surge el interés por conocer sus impactos con el planeta y el medio ambiente, entre estos, los insumos requeridos para crear, utilizar y mantener los sistemas basados en la IA, como son los recursos naturales, los dispositivos, la infraestructura de cómputo y la mano de obra. En general, interactuamos y creamos sistemas de inteligencia arti- ficial usando dispositivos electrónicos, los cuales tienen más de 60 elementos químicos que, al extraerlos y procesarlos, impactan tanto social como ambientalmente. Dentro de estos elementos químicos destacan los minerales de con- flicto, que son aquellos que se comercializan para financiar conflic- tos armados, sobre todo en la República Democrática del Congo, pero también en nueve estados vecinos, que incluyen Angola, Ruanda, Sudán y Tanzania. Entre estos elementos químicos, el cobalto juega un rol estratégico, ya que se utiliza para la producción de teléfonos DIÁLOGO REGIONAL INTELIGENCIA 40 ARTIFICIAL E INTELIGENCIA EMOCIONAL  La materialidad de la inteligencia artificial inteligentes. Es necesario resaltar que actualmente la minería tiene serios impactos en los derechos humanos, entre ellos, el trabajo y la explotación infantil. Otro grupo de minerales son las tierras raras, elementos muy im- portantes para la transición verde y la generación de tecnologías verdes. Sin embargo, el incremento en la deman- da en estas tecnologías ha traído consigo una mayor extracción de estos minerales, lo que ha generado presiones ambientales y pro- blemas geopolíticos. Por su parte, en América Latina ha incrementado el uso del litio, mineral esencial para la creación de baterías para dispositivos inte- ligentes y vehículos eléctricos. Ello ha trascendido en conflictos de te- rritorio, pérdida de territorio indígena e impactos ambientales, sobre todo por- que influye en la estabilidad de los hume- dales, que son un ecosistema fundamental para retener carbono. En este contexto destaca el uso de los teléfonos inteligentes por dos motivos principales con relación a la inteligencia artificial: son ins- trumentos para la recolección de información y para la interacción con sistemas basados en la IA. Este tipo de dispositivos consume muchos recursos naturales, pues su materia prima son los minerales, además de que hay una sobre- producción. Se estima, por ejemplo, que en Estados Unidos o en la Unión Europea una persona a lo largo de su vida usará alrededor de 30 teléfonos, lo cual representa grandes impactos ambientales; en tanto que los teléfonos inteligentes implican alrededor del 11 % de las emisiones de todo el sector de las tecnologías de la información y la comunicación a escala mundial. DIÁLOGO REGIONAL INTELIGENCIA 41 ARTIFICIAL E INTELIGENCIA EMOCIONAL  La materialidad de la inteligencia artificial Adicional a ello, este tipo de dispositivos tiene una rápida obsoles- cencia; se estima que para 2050 representarán cerca de 11 millones de toneladas de desechos electrónicos, el doble de lo que se produjo en 2019. Esta situación se complejiza al considerar que menos del 20 % de estos desechos son recolectados y reciclados a escala mundial. Además de los dispositivos móviles y al englobar a las tecnologías de la información y la comunicación (TIC), se encuentra que las emisio- nes de este sector en el ámbito mundial son de entre 3 y 3.6 %. Sin embargo, para 2030 se proyecta una concentración del 23 % de las emisiones totales a nivel mundial. Con respecto a internet, que es uno de los elementos de la cadena de producción de la IA, cifras de 2020 registran la conexión de alrede- dor de 50 billones de dispositivos, es decir, seis veces más del total de seres humanos en el planeta. Asimismo, se estima que el tráfico de internet ha crecido en un 30 % anualmente. Aparte de los elementos y materiales para la producción, es impor- tante referir a los espacios físicos en los que se almacenan, procesan y transmiten los datos, los cuales cuentan con una infraestructura de cómputo y de redes. Para dichos espacios se requieren enormes can- tidades de agua, tanto para enfriar como para producir electricidad. Existe poca transparencia sobre los usos del agua para este tipo de infraestructura; sin embargo, de acuer- do con algunos datos y aproximaciones, se identifi- ca que solo en 2014 los centros de datos en Estados Unidos usaron alrededor de 626 billones de litros de agua, es decir, cerca de 250 mil albercas olímpicas. Otros de estos espacios son los servicios de nube que permiten usar recursos e infraestructura de for- ma remota. En estos destacan empresas transnacio- nales como Amazon, Microsoft, Alibaba y Google, que representan el 45, 17.9, 9.1 y 5.5 % del mercado, res- pectivamente; asimismo, en ese orden, utilizan el 17, 32, 24 y 56 % de las energías renovables. DIÁLOGO REGIONAL INTELIGENCIA 42 ARTIFICIAL E INTELIGENCIA EMOCIONAL  La materialidad de la inteligencia artificial Por ejemplo, Amazon, que lidera el mercado, usa menos del 20 % de energías renovables; no obstante, otras plataformas como Zoom o Netflix, dependen de los servicios de nube de Amazon, haciendo que los impactos ambientales de esta última tengan una escala planeta- ria. A ello, es importante sumarle su más reciente servidor, Amazon Web Services, creado como una herramienta para generar sistemas de inteligencia artificial y del que aún son desconocidos sus impactos. Por último, se ha incrementado la cantidad de cómputo que se ne- cesita para crear sistemas de inteligencia artificial. Históricamente, la cantidad requerida para crear sistemas de inteligencia artificial entre 1952 y 2012 se duplicaba aproximadamente cada dos años, pero desde 2012 en adelante, la cantidad se ha duplicado cada seis meses, sin considerar que el surgimiento de grandes modelos ha dado con- sigo saltos de 100 o 200 veces, o de 1 000 veces, dependiendo de los sistemas. Finalmente, destaca una última cifra en cuanto a los recursos nece- sarios para utilizar la inteligencia artificial. De los pocos estimados que se tienen sobre la cantidad de agua ingerida durante las interac- ciones con ChatGPT, es que una persona puede beber aproximada- mente una botella de 500 mL por cada 20 o 50 conversaciones de pregunta y respuesta que se tienen con este tipo de sistemas. Claro está que los estimados dependen del lugar en donde se realicen estas interacciones. En conclusión, es común que las tecnologías digitales sean pensadas o analizadas desde una óptica que no incluye los diversos procesos materiales requeridos para crearlas y mantenerlas. Esta desconexión entre la teoría y la práctica limita significativamente nuestro enten- dimiento de los posibles beneficios, costos e impactos que la digita- lización a gran escala tiene en nuestras sociedades y en el planeta. Por ello, y en cuanto al ámbito educativo corresponde: z Es fundamental que todo proceso de enseñanza de temas re- lacionados con la inteligencia artificial incluya información sobre los diversos elementos y procesos asociados con el de- sarrollo y el despliegue de estas tecnologías. Se recomienda DIÁLOGO REGIONAL INTELIGENCIA 43 ARTIFICIAL E INTELIGENCIA EMOCIONAL  La materialidad de la inteligencia artificial incluir elementos clave de las cadenas de producción aso- ciadas, como minas, dispositivos digitales, tecnolo- gías de la información y la comunicación (internet, centros de datos y la nube) o desechos electrónicos. z Todo ejercicio pedagógico orientado a reflexionar so- bre los posibles beneficios, riesgos e impactos de la in- teligencia artificial en nuestras sociedades y en el planeta debe incluir el uso de recursos naturales (agua, electricidad y minerales), así como los impactos ambientales (desechos tecnológicos y emisiones de gases invernadero). z Conectar la inteligencia artificial con su materialidad es una herramienta importante para ligar las problemáticas asocia- das con el desarrollo de esta tecnología con aquellas como cambio climático, sostenibilidad, justicia social y justicia ambiental. Referencias Cook, G., Lee, J., Tsai, T., Kong, A., Deans, J., Johnson, B., & Jardim, E. (2017). Clicking clean: who is winning the race to build a green internet. Greenpeace Inc., Washington, DC, 5. Cowls, J., Tsamados, A., Taddeo, M., & Floridi, L. (2021). The AI gambit: leveraging artificial intelligence to combat climate change-opportunities, challenges, and recommendations. Ai & Society, 1-25. Dobbe, R. & Whittaker, M. (2019). AI and Climate Change: How they’re connected, and what we can do about it, AI Now Insti- tute. Dolega, P., Bulach, W., Betz, J., Degreif, S., Buchert, M. (2021). Green technologies and critical raw materials, Oeko-Institut. Gailhofer, P. et al. (2021). The role of Artificial Intelligence in the European Green Deal, Study for the special committee on Ar- tificial Intelligence in a Digital Age (AIDA), Policy Department for Economic, Scientific and Quality of Life Policies, European Parliament, Luxembourg. DIÁLOGO REGIONAL INTELIGENCIA 44 ARTIFICIAL E INTELIGENCIA EMOCIONAL  La materialidad de la inteligencia artificial Global Information Society Watch. (2020). Technology, the envi- ronment and a sustainable world: Responses from the Global South. International Labour Organization. (2021). Exposure to hazar- dous chemicals at work and resulting health impacts: A global review, International Labour Office, Geneva. Kak, A. & Myers West, S. (2023). AI Now 2023 Landscape: Confron- ting Tech Power, AI Now Institute. Li, P., Yang, J., Islam, M. A., & Ren, S. (2023). Making AI Less” Thirs- ty”: Uncovering and Addressing the Secret Water Footprint of AI Models. arXiv preprint arXiv:2304.03271. Sergeant, K. (2019). Safe Work in E-waste Management: ILO Fun- damental Conventions, Safety and Child Labour, International Labour Organization. Ray, T. (2021). Common but Different Futures: AI Inequity and Cli- mate Change, ORF Special Report No. 172, December. Sevilla, J., Heim, L., Ho, A., Besiroglu, T., Hobbhahn, M., & Villalo- bos, P. (2022). Compute trends across three eras of machine lear- ning. In 2022 International Joint Conference on Neural Networks (IJCNN) (pp. 1-8). IEEE. World Health Organization. (2021). Children and digital dumpsi- tes: e-waste exposure and child health. DIÁLOGO REGIONAL INTELIGENCIA 45 ARTIFICIAL E INTELIGENCIA EMOCIONAL  Ética del cuidado y corresponsabilidad en las interacciones basadas en la inteligencia artificial Cecilia Ortiz Especialista de Movilizatorio Pregunta detonadora ¿Cuál es el rol de la ciudadanía en las interacciones con IA? ¿Qué factores deben tomarse en cuenta para que la interacción con la IA sea positiva? Dentro del debate y la reflexión en torno a la inteligencia artificial caben las preguntas: ¿Para qué se desarrolla? ¿Quiénes tienen acce- so a ella? Dentro del análisis ético, es importante conocer para qué usamos esta inteligencia, quiénes deberían tener también acceso a ella y por qué no está sucediendo. Para contextualizar la relevancia de las preguntas anteriores, basta con revisar los datos en torno a las brechas de acceso a las tecnolo- gías. En México, por ejemplo, 25 millones de mexicanos no tienen acceso a internet1, mientras que en la región latinoamericana, son 1 Datos de la Encuesta Nacional sobre Disponibilidad y Uso de Tecnologías de la Información en los Hoga- res (Endutih), 2022. DIÁLOGO REGIONAL INTELIGENCIA 46 ARTIFICIAL E INTELIGENCIA EMOCIONAL  Ética del cuidado y corresponsabilidad en las interacciones basadas en la inteligencia artificial más de 244 millones. Estos datos pueden entenderse desde la seg- mentación geográfica entre lo urbano y lo rural, además de la de- sigualdad en la infraestructura. La generalidad, considerando la to- talidad de la población mexicana y de la región, es que somos muy pocas personas las que hoy en día tenemos acceso a internet libre y gratuito. Respecto de los que sí tenemos acceso a internet, también es per- tinente cuestionar quiénes somos y cuáles son las desigualdades o brechas que presentamos, en términos de las diferencias de in- fraestructura, velocidad o medios de conexión, ya sea satelital, wifi o datos. De acuerdo con cifras internacionales, el acceso a internet es en su mayoría por medio de teléfonos celulares. Sin embargo, en cuanto a dispositivos, también encontramos brechas y desigualda- des respecto de las capacidades y la aplicación diferenciadas que se puede hacer de internet o de las tecnologías, con un celular, con computadoras o con supercomputadoras. Este panorama no solo advierte brechas de acceso, sino también de inclusión y de derechos que quedan diferenciados muchas veces de- bido a la condición socioeconómica, la educación, la infraestructura o el lugar de residencia. En México, como en otros países de la región latinoamericana y del mundo en general, los impactos de las nuevas tecnologías, como la inteligencia artificial, tanto en la generación como en la reproduc- ción de brechas, es un tema reciente del que apenas se está definien- do su regulación o no. Sin embargo, también se han dado distintos esfuerzos y participa- ción de la sociedad civil organizada, como lo es la Alianza Nacional de Inteligencia Artificial (ANIA), que es un mecanismo multiactor integrado por un grupo plural e interdisciplinario de expertas y ex- pertos en inteligencia artificial y otras tecnologías provenientes de la academia, la iniciativa privada, organismos nacionales e interna- cionales, gobierno y organizaciones de la sociedad civil. Su objetivo es analizar los retos, beneficios e impactos de la IA para el diseño de políticas públicas, la regulación y la gobernanza, con el fin de forta- lecer el ecosistema de esta inteligencia en México. DIÁLOGO REGIONAL INTELIGENCIA 47 ARTIFICIAL E INTELIGENCIA EMOCIONAL  Ética del cuidado y corresponsabilidad en las interacciones basadas en la inteligencia artificial Dentro de los retos que son analizados en diferentes espacios, desde Movilizatorio realizamos un ejercicio con el uso de la inteligencia arti- ficial generativa, preguntándole a ChatGPT sobre cuáles considera que son los desafíos. Como respuesta, señaló aquellos relativos a la crea- ción de políticas públicas y regulaciones en torno a su uso, pero tam- bién con relación a la educación, conciencia pública, transparencia, rendición de cuentas, evaluación de riesgos, investigación, entre otros. No obstante, no mencionó uno de los riesgos fundamentales, que es la democratización de la IA, la cual es fundamental porque no toda la población tiene acceso igualitario a esta tecnología, o su acceso puede ser inequitativo o sesgado por la desinformación y manipula- ción. Hoy en día es muy sencillo utilizar la IA para crear imágenes, podcasts, videos, incluso hasta sitios de noticias; sin embargo, ante la sobreinformación, es difícil determinar si los datos son verídicos, si provienen de alguna fuente confiable, de una experta o experto en el tema, o incluso reflexionar sobre la manera en que se emite y recibe la información. A la par de esta sobreinformación, encontramos las amenazas a la pri- vacidad. Dado que la IA funciona y se alimenta de datos, cabe pregun- tarse desde dónde se accede a ellos, quiénes los alimentan y si estos representan o no un sesgo algorítmico, es decir, si al generalizar los patrones o la información, se deja de lado la diversidad o las particularida- des de las sociedades, fomentando así la generación y reproducción de brechas y desigualdades, además de las afec- taciones directas a los derechos hu- manos, la inclusión y la no discrimi- nación. Entre otros desafíos está el desem- pleo tecnológico, y es que ante el sur- gimiento, aceleramiento y uso de esta inteligencia, algunas profesiones se han considerado como sustituibles y otras se han posicionado como prioritarias, entre ellas las ingenierías o la programación; hay otras que han surgido, como ha sido evidente con los influencers. DIÁLOGO REGIONAL INTELIGENCIA 48 ARTIFICIAL E INTELIGENCIA EMOCIONAL  Ética del cuidado y corresponsabilidad en las interacciones basadas en la inteligencia artificial Estos retos y otras amenazas se han acompañado de posicionamien- tos y recomendaciones éticas acerca de cómo usar la tecnología de la inteligencia artificial para el bien, y mucho tiene que ver con la o el usuario. Al final, la tecnología no es ni buena ni mala, está ahí y depende mucho de quién la usa y para qué lo hace. Por ello, antes de impulsar o acelerar su desarrollo, crear más chat- bots o herramientas, es necesario preguntarse para qué necesitamos la IA, cómo será su uso y quién tendrá acceso a ella, además de su pertinencia conforme a las necesidades humanas. Con relación a lo anterior, también es pertinente preguntarse sobre las habilidades con las que debemos contar los usuarios para hacer un uso ético y responsable de la tecnología. Ante ello, la inteligencia emocional aparece como una herramienta y habilidad fundamen- tal, para reconocer si tenemos un sentido de empatía con las otras personas o autoconocimiento de nuestras necesidades, si lo vamos a usar para fines personales, fines profesionales, hasta dónde usar la inteligencia artificial, hasta dónde crear. Este panorama permite identificar las necesidades o los elemen- tos requeridos para un acceso equitativo de la IA, entre los que se encuentra el acceso a la infraestructura, en primer término está internet y en segundo, un dispositivo que permita interactuar a la ciudadanía con esas tecnologías. Igualmente, son necesarias las ha- bilidades básicas de educación en inteligencia emocional y habilida- des digitales, y una educación y conciencia que permita identificar qué tipo de información es bueno compartir y cuál es peligrosa com- partir en línea o al momento de producirla. Desde Movilizatorio abanderamos una causa desde hace cinco años enfocada en la alfabetización mediática e informacional, con la in- tención de dotar a las y los usuarios de capacidades y habilidades para interactuar con plataformas digitales de forma crítica, segura y ética. Esta iniciativa ha sido implementada a escala regional en distintos países, en ella hemos desarrollado un módulo específico sobre la éti- ca y la ciudadanía digital, a fin de promover un pensamiento crítico DIÁLOGO REGIONAL INTELIGENCIA 49 ARTIFICIAL E INTELIGENCIA EMOCIONAL  Ética del cuidado y corresponsabilidad en las interacciones basadas en la inteligencia artificial en los usuarios, por ejemplo, docentes y jóvenes, para actuar con em- patía, desde la no discriminación, evitar discursos de odio y polariza- ción durante las interacciones digitales. Asimismo, para saber cómo combatir la desinformación, desarrollamos contenidos para generar habilidades necesarias para identificar si algo está hecho con inteli- gencia artificial o no y si lo que está diciendo cualquier persona es cierto; esta son habilidades básicas de verificación de fuentes fide- dignas. Mediante estas formaciones también buscamos identificar los prejuicios que pueden ser validados con la información que se recibe, lo cual es una forma de prevenir la polarización social. Entre otras acciones, con Meta hemos creado dos guías gratuitas di- gitales y de libre acceso a internet, para la navegación segura, que se pueden encontrar aquí. En estos documentos hablamos de Partner- ship for AI, que es una de las asociaciones intersectoriales que existen en el ámbito global para debatir y reflexionar sobre los principales retos y las preocupaciones en torno al uso de la inteligencia artificial. Otra de las guías con las que cuenta Movilizatorio es Digitalízate, la cual contiene una propuesta para hacer un uso adecuado y positivo de las plataformas, por ejemplo, para causas sociales, ambientales o para apoyar diferentes movimientos, entre ellos, los ambientalistas y feministas; también incluye una propuesta acerca de cómo evitar caer en todo tipo de violencia digital. Una de nuestras creaciones recientes fue el desarrollo de un chatbot que se utiliza por medio de What- sApp, con información relacionada con la educación mediática, educación de habili- dades digitales, qué hacer para combatir el discurso de odio y cómo identificar phishing, smishing y visihing, que son los principales fraudes que existen actual- mente en las plataformas digitales. Su uso es muy sencillo, solo se tiene que enviar el mensaje hola a este chat de What- sApp, y a partir de ello se inicia con la capa- citación. DIÁLOGO REGIONAL INTELIGENCIA 50 ARTIFICIAL E INTELIGENCIA EMOCIONAL  Ética del cuidado y corresponsabilidad en las interacciones basadas en la inteligencia artificial Tras todo lo antes expuesto, por parte de Movilizatorio concluimos que las mejores prácticas para el uso ético de la inteligencia artifi- cial deben ser codiseñadas y discutidas por organizaciones civiles, gobiernos, empresas y ciudadanía de la región de forma constante y sistemática; de esta forma se promoverá la inclusión de todas las voces y la adopción intersectorial de tales prácticas. Igualmente, el uso ético de tecnologías como la IA recae en que las personas usuarias cuenten con habilidades de educación mediática, como pensamiento crítico en la creación y el consumo de contenido digital; además de habilidades de inteligencia emocional, como la empatía en sus interacciones digitales. En el siglo XXI las habilidades mediáticas y de inteligencia emocio- nal son fundamentales para el desarrollo integral de todas las per- sonas; por ello, como región, debemos impulsar la democratización de estrategias educativas que permitan su desarrollo desde la edu- cación básica. Referencias de capacitación Digimente. https://digimente.org/ Digimente. Redes sociales y contenidos creativos y responsables. https://www.facebook.com/DigiMenteLAT/ Movilizatorio. Soy Digital: Navega con seguridad. https://www. movilizatorio.org/soy-digital-ciudadana-responsable Movilizatorio México. Confirmar o aceptar en tu celular con se- guridad y confianza. https://www.facebook.com/Movilizatorio Mx/ Habilidades para equilibrar tu vida online. https://www.facebook. com/share/r/Z3odptWrSAUDdpsg/ Navega con Seguridad en línea. Toolkit 1 Digitalízate para transformar positivamente tu comunidad y tu vida, Toolkit 2 Otras herramientas: https://www.facebook.com/Movilizatorio Mx/ Chatbot en WhatsApp: +52 56 2321 3063 DIÁLOGO REGIONAL INTELIGENCIA 51 ARTIFICIAL E INTELIGENCIA EMOCIONAL  Experiencia de convergencia entre la inteligencia artificial y la inteligencia emocional desde Violetta Floretta Mayerson Cofundadora de Violetta Violetta, más que un chatbot, es tu confidente digital. Ha sido creada para ayudarte a construir relaciones sanas, detectar y frenar relaciones violentas, hablar y sanar todo eso que te duele. Violetta es un ejemplo de cómo es posible utilizar la inteligencia artificial para prevenir la violencia de género. Violetta, al igual que las otras experiencias presentadas en el Diálogo Regional en Inteligencia Artificial e Inteligencia Emocional, refleja los avances y las innovaciones que se están realizando desde los paí- ses iberoamericanos, en español y no en inglés como lenguaje domi- nante en la programación, y que bajo una mayor corresponsabilidad y ética, promueven la interrelación entre lo digital y lo no digital. Para situar el desarrollo de Violetta y entender su funcionamiento y sus objetivos, es fundamental referir algunos datos y problemá- ticas. De acuerdo con la Encuesta Nacional sobre la Dinámica de las Relaciones en los Hogares en México, 70 % de las mujeres que vivimos en este país vamos a vivir o hemos vivido por lo menos un incidente de violencia en nuestra vida. Asimismo, aun cuando es un dato difícil de medirse por el bajo índi- ce de denuncias o porque estas proceden, es que en promedio, 3 de cada 10 adolescentes denuncian que viven violencia en el noviazgo. En contraste, datos no oficiales o que no necesariamente derivan de DIÁLOGO REGIONAL INTELIGENCIA 52 ARTIFICIAL E INTELIGENCIA EMOCIONAL  Experiencia de convergencia entre la IA y la IE desde Violetta las denuncian indican que 9 de cada 10 mujeres registran haber vivido situaciones de violencia. Entre otros datos, se encuentra que el 76 % de las y los adolescentes entre 15 y 17 años ha sufrido violencia psico- lógica; 17 %, violencia sexual y 15 %, violencia física. Estos son números aterradores que reflejan y ejemplifican la mag- nitud del problema que buscamos abordar desde Violetta. Violetta nace de la necesidad por tener espacios seguros en los que podamos cuestionarnos todo eso que vivimos en nuestras relaciones, con el fin de recibir herramientas psicoeducativas que nos ayuden a crear relaciones sanas y libres de violencia de género. Es una plataforma digital que busca automatizar la confianza, al tratar de generar un vínculo y una interacción segura por medio de WhatsApp, con el chatbot llamado Violetta. Es un espacio para hablar, preguntar y recibir información creada por profesionales de forma automática, accesible, gratuita, segura y exponencial. Concebida como un espacio seguro para democratizar el acceso a herramientas y contenidos para la creación de relaciones sanas, al día de hoy, más de 250,000 personas han encontrado en Violetta una confidente digital, una amiga con la cual es posible nombrar situa- ciones que se viven en las relaciones, además de recibir herramien- tas y contenidos. Entre otros resultados, a la fecha ha sido posible canalizar a la ayuda profesional a más de 40,000 personas de forma automática, puntual y precisa. Desde que empezamos con Violetta sabíamos que los datos juegan un papel importante, y por ello se consideró el uso de la inteligencia artificial generativa. En un principio buscamos que esta IA pudie- ra entender el contexto y nos brindara herramientas particulares; sin embargo, nos enfrentamos al reto de que no había datos con los cuales pudiéramos entrenar un modelo con perspectiva de género y prevención de la violencia. Ante ello, identificamos la importancia de generar esos datos, tanto para entender el problema, la magnitud y su dimensión, como para DIÁLOGO REGIONAL INTELIGENCIA 53 ARTIFICIAL E INTELIGENCIA EMOCIONAL  Experiencia de convergencia entre la IA y la IE desde Violetta crear contenidos personalizados y poder desarrollar modelos que permitieran encaminar la misión de Violetta. Este proceso nos per- mitió crear la versión de Violetta en WhatsApp, la cual está basada en la información de las primeras conversaciones (alrededor de 60 000), y habla de objetivos y situaciones muy puntuales que las per- sonas viven en sus relaciones y sobre las cuales es posible brindar herramientas y contenidos mucho más específicos. Es importante mencionar que el proceso anterior derivó en un fenó- meno bastante curioso, en tanto que la primera versión de Violetta fue lanzada en la plataforma de Facebook Messenger y tuvo en los primeros dos años un promedio de 30 000 usuarios al año. Al lanzar su versión en WhatsApp, el primer año se contó con más de 160 000 personas platicando con Violetta, volviéndose un espacio privado y una herramienta confidente con la que es fácil platicar, sin necesi- dad de descargar una aplicación. Esta segunda etapa permitió elevar el nivel de cercanía con los usua- rios, además de escuchar y entender a una mayor profundidad lo que sucede en las relaciones, entendiendo que para solucionar proble- mas exponenciales es necesario desarrollar tecnologías exponencia- les, como lo es la IA. Así, Violetta nace desde la inteligencia emocional y hoy se nutre, cre- ce y fortalece con herramientas como la inteligencia artificial. Hoy Violetta entiende a campo abierto en texto, en el lenguaje natu- ral, las conversaciones e inquietudes de nuestros usuarios y usuarias, y brinda contenidos específicos basados en esas situaciones contex- tualizadas para otorgar herramientas puntuales, alineadas con las necesidades emocionales de las personas, convirtiéndose así en un espacio cercano, más humano y empático. Me enorgullece mencionar que hoy Violetta tiene como eje central el reconocimiento a las relaciones sanas como un derecho humano, y desde ahí se plantea todo el contenido y el material que nutren la inteligencia artificial de este chatbot. Violetta es un espacio que brinda validación emocional. Es también un espacio de contención y los usuarios y usuarias se sienten seguros DIÁLOGO REGIONAL INTELIGENCIA 54 ARTIFICIAL E INTELIGENCIA EMOCIONAL  Experiencia de convergencia entre la IA y la IE desde Violetta al saber que no es una interacción con otra persona que lee y escucha, que puede juzgar o hacer juicios de valor. Finalmente, es un espacio no confrontativo, que no busca diagnosticar, confrontar o detonar emo- ciones negativas, por el contrato, es un lugar empático y preventivo. Algo que distingue a Violetta y su personalidad es que está entrenada con información de libros y documentos académicos y técnicos, con diferentes materiales que le hablan a una población latinoamerica- na, en específico mexicana, en particular para mujeres mayores de 18 años, lo que permite una mayor certeza de lo que Violetta puede responder o recomendar. Sin embargo, también reconocemos sus limitaciones, y es que Viole- tta no es una línea de emergencia y no busca sustituir la ayuda profe- sional. Reconocer estas limitaciones nos ha ayudado a entrenar para identificar las frases, las palabras y los patrones que pueden detonar o evidenciar situaciones de riesgo en las relaciones, brindando he- rramientas y recomendaciones de lo que es posible hacer para evitar ciclos de victimización una vez que se lleva a cabo este proceso. Violetta, como un proceso y convergencia entre la inteligencia artifi- cial y la inteligencia emocional, es una conversación constante, es un proceso vivo, en desarrollo, que muchas veces va mucho más rápido que la regulación. Por ello, desde Violetta tenemos un compromiso ético muy alto para ser el estándar en mejores prácticas relacionadas con la ética, la responsabilidad y la inteligencia artificial emocional. Es posible hablar de tecnología con impacto social, y por ello tene- mos la responsabilidad de hacerlo, como desarrolladores y diseñado- res de un mundo digital que converge con el no digital. Referencias Instituto Nacional de Estadística y Geografía (Inegi). (2021). En- cuesta Nacional sobre la Dinámica de las Relaciones en los Ho- gares (ENDIREH). https://www.inegi.org.mx/programas/endire- h/2021/#datos_abiertos Violetta. Tu confidente digital para crear relaciones sanas. https:// holasoyvioletta.com/ DIÁLOGO REGIONAL INTELIGENCIA 55 ARTIFICIAL E INTELIGENCIA EMOCIONAL  CONFERENCIA MAGISTRAL DIÁLOGO REGIONAL INTELIGENCIA 56 ARTIFICIAL E INTELIGENCIA EMOCIONAL  ¿La inteligencia artificial puede potencializar la humanidad? Sebastián Tonda Autor del libro Irremplazables: cómo sobrevivir a la inteligencia artificial En los debates sobre inteligencia artificial nos encontramos con la encrucijada entre su potencial de reemplazar a los seres humanos o su capacidad de potencializar lo que nos hace y caracteriza como humanidad. Para hablar de inteligencia artificial es necesario también referir a la inteligencia humana. Y es que el potencial de la primera es determi- nado por el potencial de la segunda. Sin embargo, si esta última es re- sultado puro de una serie de reacciones electroquímicas y biológicas, y responde a las leyes de la física, ¿podría entonces ser reemplazada, igualada o incluso superada por la IA? Responder a estas preguntas es también cuestionarse otras más on- tológicas, sobre cuál es el sentido de nuestra existencia, qué somos, qué es el universo y qué soy yo. Por primera vez en la historia existe una inteligencia equiparable a la inteligencia humana y, por tanto, es necesario preguntarse estas y más interrogantes para entender el potencial que puede tener la inteligencia artificial. En ese sentido, también cabe preguntarse cuestiones más complejas sobre la inteligencia humana, por ejemplo: ¿qué es la conciencia?, ¿la conciencia puede comprobarse? Puedo experimentarla y por ello sé que existe, porque la vivo, pero no por ello puedo validarla desde una perspectiva científica, y es posiblemente desde ese escenario, que la IA nos permita definir qué es nuestra conciencia humana. DIÁLOGO REGIONAL INTELIGENCIA 57 ARTIFICIAL E INTELIGENCIA EMOCIONAL  ¿La inteligencia artificial puede potencializar la humanidad? Destaco tres teorías sobre lo que es la conciencia. La primera, la ase- meja a una especie de ente director-editor, que tiene la capacidad de discernir la información externa y contarnos una historia de nuestra propia existencia. La segunda señala que es una mente emergente, una entidad más grande y formada por miles de seres individuales. Estas dos teorías bien pueden demostrar la posibilidad de que la conciencia sea reemplazada por la IA. Sin embargo, la tercera ex- plicación trasciende las leyes de la física y nos diferencia de la IA, al relacionar la conciencia con el alma, o también denominada en otras culturas atman, ánima, ruah, pneuma, nefesh, ka, tamashii, mi- tama, tonalli, teyolia, nagual, ihiyotl, etc. Sea cual sea el término, la concebimos como aquella que trasciende el plano de lo físico, y que el reemplazarla o superarla, conllevaría años luz de complejidad. De acuerdo con el psicólogo Clare W. Graves, creador del modelo de la Dinámica Espiral, se propone que conforme vamos aspirando a niveles de existencia más complejos, en los que priorizamos cues- tiones mucho más cercanas al ser y menos cercanas al hacer, avan- zamos hacia niveles superiores denominados niveles de conciencia, o la manera de ver el mundo. Este funciona de forma colectiva y está compuesto por una diversidad de elementos, entre ellos podríamos considerar a la tecnología, que hoy en día tiene un rol importante para avanzar en ese espiral de niveles de existencia humana. Por ejemplo, con el descubrimiento del fuego, nues- tro cerebro pudo evolucionar y con ello tuvimos la capacidad de crear el lenguaje. Este, a su vez, nos dotó de otras habilidades que nos permitie- ron crear la escritura y con ello la difusión de co- nocimientos hasta dar origen a la ciencia. Estas tres tecnologías, al igual que lo es actualmente la inteligencia artificial, han determinado las prio- ridades humanas. Estas tres tecnologías priorizaron el mundo ma- terial; sin embargo, cabe preguntarse si la revo- lución tecnológica continuará con esa catego- rización, o si por el contrario, va a transformar DIÁLOGO REGIONAL INTELIGENCIA 58 ARTIFICIAL E INTELIGENCIA EMOCIONAL  ¿La inteligencia artificial puede potencializar la humanidad? nuestro nivel de conciencia, existencia o incluso de nuestra organi- zación social, política y, por tanto, las instituciones que fundamen- tan nuestras interacciones. Mi postura ante cómo usar la inteligencia artificial en esta di- námica espiral, es nunca para anularnos o ser autómatas. Nunca para ser víctimas de un algoritmo que está dise- ñado para captar nuestra atención y volvernos única- mente consumidores. En segundo lugar, tampoco para que nos reemplace per- manentemente en nuestras acciones, y principalmente, en la toma de decisiones, en la formación de nuestra opinión o en nuestras relaciones. Por ejemplo, existen algunas platafor- mas que con base en el algoritmo o la generalización de datos, determinan la información que puede interesarnos o que solo podemos consumir, sin transparentar o rendir cuentas de cuá- les son esos criterios para definir el contenido que se nos muestra. No es únicamente responsabilidad de las empresas, sino que no- sotros, al ser consumidores, también tenemos la capacidad y agencia de elegir si queremos o no ser reemplazados. Mi tercera postura es que la tecnología y la inteligencia artificial nos potencializan. En este Diálogo hemos conocido ejemplos como Vio- letta, que gracias a la IA es posible fomentar relaciones más sanas o ser conscientes de los sesgos de género. No obstante, para poder asegurar que la IA puede potencializar nuestra existencia, debemos partir de la pregunta ¿para qué? Es decir, cuál es su propósito con relación a la existencia humana. La consultora internacional Mckinsey & Company recientemente publicó un estudio y proyección en el que sugiere que para 2055 al- rededor del 45 % de todas las tareas que se llevan a cabo en cualquier profesión serán reemplazadas por la inteligencia artificial. Asimis- mo, en promedio, 45 % de los puestos de trabajo, sin importar cuáles sean, van a ser reemplazados por la IA. En el caso de los CEO o las direcciones ejecutivas, será el 20 %; y el 5 % de las profesiones desa- parecerán por completo. DIÁLOGO REGIONAL INTELIGENCIA 59 ARTIFICIAL E INTELIGENCIA EMOCIONAL  ¿La inteligencia artificial puede potencializar la humanidad? En mi opinión, hay un sesgo enorme en predecir o determinar qué profesiones desaparecerán y cuáles prevalecerán. Considero que de alguna manera todas tendrán tareas que podrán realizarse con inteli- gencia artificial y otras las seguiremos haciendo los humanos, por lo que es innegable considerar desde ahora la importancia y necesidad de aprender a coexistir y manejar esta inteligencia. Para esto, tenemos que considerar a la IA como el elemento que nos ayudará a responder qué hacemos, hasta cierto punto cómo lo ha- cemos, pero muy poco para qué lo hacemos. Esta última pregunta solo tiene respuesta en la conciencia humana, y esta, hasta que no exista una conciencia artificial, determinará el uso de la inteligencia artificial, su desarrollo, sus fines e impactos. Por ejemplo, en China, en el ámbito de la educación, hay una empre- sa llamada Squirrel, AI Learning. Esta, a través de la IA, se encarga de personalizar la educación matemática y de lectoescritura de cada es- tudiante, haciendo que cada uno aprenda a su ritmo y método. Este ejemplo invita a reflexionar sobre el costo beneficio de preparar a las y los alumnos con un mismo modelo educativo, o por el contrario, hacer de la IA una herramienta que permita potenciar las habilida- des y los aprendizajes de cada persona de manera particular y acorde con sus necesidades. Igualmente, cabe preguntar si esta personaliza- ción de la enseñanza puede ser escalable y si puede fomentar otras habilidades, como las socioemocionales. Para avanzar en estos procesos, es importante poner en el centro de la conversación una educación basada en los propósitos, que fomen- te la cooperación y la ciudadanía global, la suma de esfuerzos para la solución de diversas problemáticas; una educación en la cual las tecnologías sean integradas para potencializar y escalar las capacida- des y habilidades humanas, como ya lo está haciendo la inteligencia artificial. Soy optimista al respecto, tenemos las herramientas para creer y crear un mundo mejor. Podemos soñar juntos como seres huma- nos y podemos hacer juntos con la inteligencia artificial. Soñemos junt@s, hagam@s juntos. DIÁLOGO REGIONAL INTELIGENCIA