Transformaciones Digitales e Inteligencia Artificial PDF

Transformaciones digitales y vida cotidiana El último tiempo es testigo de una transformación digital que implica transformaciones en nuestras actividades diarias. Hoy podemos escribir, agendar, guardar, encontrar información, mensajear, enviar un GIF desde un celular. También podemos pagar un impue...

Transformaciones digitales y vida cotidiana El último tiempo es testigo de una transformación digital que implica transformaciones en nuestras actividades diarias. Hoy podemos escribir, agendar, guardar, encontrar información, mensajear, enviar un GIF desde un celular. También podemos pagar un impuesto, consultar los movimientos bancarios, hacer compras o chatear con una entidad estatal … y todo desde el mismo dispositivo conectado a internet. De esta manera, se viene produciendo una transformación de las prácticas cotidianas articulada a una transformación digital. En este contexto es que tenemos que pensar la irrupción de la Inteligencia Artificial (IA). Recordemos que cuando hablamos de IA nos estamos refiriendo a máquinas o sistemas que imitan funciones cognitivas propias del ser humano, como procesar, analizar, organizar información, resolver problemas, interactuar o crear. Desde el punto de vista científico, se trata de un campo de estudio que concentra diferentes tecnologías que se articulan para tomar decisiones y alcanzar objetivos establecidos. La IA es la capacidad de un sistema para interpretar datos externos, utilizar estos datos para lograr metas específicas y llevar a cabo acciones que maximizan las posibilidades de éxito en una tarea concreta Morduchowicz, Unesco, 2023 La IA está cada vez más presente en nuestras vidas, y sus implicancias se evidencian en diferentes ámbitos de nuestra cotidianidad, tal como se puede observar en el siguiente video. https://www.youtube.com/watch?v=uWEHR02EGqc Ya Stephen Hawking, uno de los científicos más relevantes de los últimos tiempos, afirmó hace unos años atrás: Cada aspecto de nuestras vidas será transformado [por AI]”, y podría ser “el evento más grande en la historia de nuestra civilización Stephen Hawking, 2017 Las cifras son abrumadoras: 1 millón 100 millones + 4 millones de usuarios visitaron Chat fueron los usuarios a los de imágenes al día se GPT en los primeros 5 días que llegó esta app en solo producen con Dall-E de su lanzamiento 60 días, lo que la convirtió en la aplicación de más rápida inserción en la historia 1,35 billones + del 75% - del 10% de dólares es valor que se de las personas de las escuelas y prevé que va a alcanzar el sienten preocupación por universidades disponen mercado mundial de la IA la desinformación que de orientaciones formales en 2030 genera la IA sobre IA, según la encuesta de la UNESCO Fuente: chicos.net La IA se ha metido en nuestras vidas de manera exponencial, sin pedir permiso. Tal es su irrupción que muchas veces las estamos utilizando sin darnos cuenta. Chat GPT (perteneciente a Open IA), Gemini (de Google), Copilot (de Microsoft) y Meta IA (de Meta) parecen las más populares. Sin embargo, no se limita a estas grandes plataformas. Herramientas más conocidas y utilizadas por nosotros, como Padlet, Canva, Genially o Prezi, también están incorporando funcionalidades basadas en IA para crear contenido. Así, Canva utiliza IA para sugerir diseños, combinaciones de colores y generar imágenes, mientras que Padlet actualmente permite generar imágenes y muros digitales completos en base a temas definidos (Nota: En la clase 3 nos ocuparemos específicamente de las herramientas). ¿Por qué explotó el tema en el último año? ¿Qué ocurrió? El chat GPT, un chatbot o chat conversacional que permite interactuar con una máquina de manera amigable y resolver diferentes problemas, se transformó en la primera herramienta de acceso masivo y libre a la IA. Se presentó en noviembre de 2022 y en dos meses fue utilizado por 100 millones de usuarios (chicos.net). ¿Pero qué es un chatbot? Dejemos que el mismo Chat Gpt nos responda Tal como contesta el chat GPT, un chatbot es un software o programa que simula una conversación con usuarios humanos. Lo hace en tiempo real, en formato en texto, audio o cualquier otro formato según el caso y tiene diferentes fines (IBM, 2023; UTEC, 2023). Pero para funcionar y desarrollarse, la IA necesita datos. ¿De dónde lo saca? ¿Cómo los usa? ¿Con qué intención? ¿Es transparente el uso de esos datos? ¿Qué lugar ocupamos nosotros? Avancemos un poco más… Big data, huella digital e IA Muchas veces hemos escuchado hablar de Big Data. ¿Pero de qué se trata? ¿Qué tendrá que ver con el tema que estamos abordando? Cuando hablamos de Big Data nos referimos a esa gran cantidad de datos que proporcionamos nosotros mismos como usuarios, pero también las máquinas y dispositivos que utilizamos y que va generando nuestra huella digital (Novomisky y Bernardo, 2023). Se trata de enormes volúmenes de datos que se recolectan, organizan y procesan para obtener información con diferentes fines, entre ellas, analizar las características de las personas y predecir lo que desean o van a hacer, incluso el comportamiento. Microaprendizaje: ¿Qué es Big Data? https://www.youtube.com/watch?v=XAW57eLF7ys Se caracteriza por las 3 V: Volumen: cantidad enorme de datos que crece día a día. Velocidad: los datos se generan a una gran velocidad y se procesan en tiempo casi real. Variedad: los datos son bien diferentes: números, textos, imágenes, videos y de un sinfín de fuentes: correo electrónico, publicaciones en redes, “me gusta”, seguimiento de usuarios, y mucho más. ¿Para qué sirve? Los datos que nosotros mismos generamos, son analizados y, a partir de ellos, se identifican patrones y tendencias que son usados con distintos objetivos (marketing, medicina, finanzas, político, entre otros). De esta manera, aunque es imposible predecir de manera absoluta el comportamiento del ser humano, si una persona publica determinadas opiniones políticas en sus redes y sigue a ciertos candidatos, se puede predecir a quién votará. También, si ingresa en determinados sitios de venta de ropa deportiva y hace clic en determinadas zapatillas, se podría predecir su intención de compra de determinado producto y precio. Estos simples ejemplos nos sirven para considerar cómo esta gran fuente de información permite que empresas o estados, por ejemplo, tomen decisiones, intervengan en los procesos y descubran oportunidades en los diferentes campos de la sociedad. Según Sebastián Novomisky y Nicolás Bernardo(2023) se pueden identificar 4 ejes donde se utiliza información para predecir nuestros comportamientos: Político: uso de datos de redes sociales y otras plataformas para manipular elecciones, posicionar candidatos, etc. Económico: uso de datos para predecir y direccionar ventas, establecer marcas, consolidar productos. Biológico: uso de datos para predecir enfermedades, algo que puede ser positivo, pero que también podría utilizarse para negar el acceso al  trabajo o a una prepaga u obra social, por el riesgo que puede tener esa persona y los costos que puede ocasionar a futuro. Privacidad y reconocimiento de las personas: presencia de cámaras y geolocalizaciones que recolectan datos, cruzan información y sacan conclusiones, por lo que se puede saber la ubicación de cada uno de nosotros, transformándose la sociedad en un gran panóptico en tiempo real, que además de violentar la privacidad, implica un riesgo si no está respaldada por una perspectiva de derecho. Recomendamos el documental “Nada es privado” donde se muestra la complejidad del tema. ¿Pero cómo se relaciona el Big Data con la IA? Se trata de dos tecnologías poderosas, que cuando se articulan, tienen implicancias significativas en la sociedad. La IA necesita gran cantidad de datos para funcionar y Big Data aporta los datos necesarios para que los algoritmos de IA realicen análisis, reconocimientos, búsquedas de patrones y generación de información, para alcanzar los objetivos propuestos. A su vez estos Bigs Datas también son utilizados para el entrenamiento y aprendizaje o machine learning de algunas aplicaciones con IA. Por lo tanto, existe una interrelación continua entre el Big Data y la IA. Y acá aparece otra palabra hoy muy popular: algoritmos ¿Qué son los algoritmos? Esta vez se lo vamos a preguntar a Gemini, otra aplicación, pero en este caso de Google, que es muy utilizada en la actualidad. El siguiente video de Educ.ar aporta más claridad a este concepto. Microaprendizaje: ¿Qué es un algoritmo?. https://www.youtube.com/watch?v=2tlOmfoVKe0 ¿Se relaciona el Big Data con la educación? Veamos algunos ejemplos https://www.youtube.com/watch?v=KNVXofECe0M Las nuevas herramientas como el Big Data, la IA y el machine learning podrían ser una gran contribución para mejorar la calidad y equidad del sistema escolar. Tal como muestra el video, la Agencia de Calidad de la Educación del Gobierno de Chile ha desarrollado diversos proyectos en esta línea y uno de ellos ha tenido como objetivo hacer un seguimiento a la trayectoria educativa de cada estudiante del país, para entender cómo evoluciona la exclusión escolar y cómo los estudiantes se revinculan al sistema educativo. En este caso, el machine learning se usa para determinar e identificar el riesgo individual de cada estudiante, que podría sufrir de este fenómeno. En otro ámbito, la calidad de las preguntas y pruebas de selección múltiple, es un asunto de gran importancia en educación, en particular en nuestro país. En ese sentido, otro equipo del Centro viene trabajando el último tiempo en una plataforma que funcione como un asistente para docentes en la elaboración de preguntas y pruebas de selección múltiple para evaluaciones. El resultado se llama por ahora SARI, por Sistema Automatizado de Revisión de Ítems. Entonces, vivimos rodeados de algoritmos, recetas o instrucciones para resolver problemas y parece un círculo vicioso del que no podemos salir. ¿Cuál es el límite de la IA? ¿Qué hay detrás de todo esto? ¿Se puede incluir la IA en educación? ¿Cuáles son las potencialidades? ¿Y los riesgos? Preocupaciones Batallas tecnológicas Una de las principales preocupaciones y signos de alerta es quién está detrás de todos estos desarrollos. ¿Quién maneja los algoritmos que nos rodean y nos atraviesan? ¿Quién determina la oportunidad ética o protege la veracidad de los datos? ¿Quiénes son los dueños de las tecnologías que están transformando la vida de las personas? Claramente, el desarrollo de la IA responde a los problemas, intereses y objetivos de empresas, gobiernos y grupos económicos, con intenciones y objetivos propios y, cuando menos, cuestionables.  Richard Benjamins, quien ocupa el cargo de Chief Responsible AI Officer de Telefónica, comenta desde su perspectiva empresarial, “Además de las ventajas que ya hemos visto que ofrece este tipo de tecnología, ChatGPT, como uno de los grandes referentes de la IA generativa, “es capaz de inventar cosas que no son verdaderas; las llamadas alucinaciones” (Benjamins, 2024). Alerta que “ChatGPT podría generar una enorme cantidad de desinformación y noticias falsas en muy poco tiempo. En manos equivocadas, podría causar serios problemas en las sociedades, hasta influir en elecciones democráticas. ChatGPT es tan bueno que hasta los profesionales jurídicos o médicos puedan sentir una tentación de usarlo para su trabajo, con todas las consecuencias y riesgos” (Benjamins, 2024) Por ello, el ejecutivo considera importante, necesario y positivo el hecho de que cada vez más organizaciones reflexionen sobre los posibles impactos negativos del uso de la inteligencia artificial. Pero entonces… ¿Es confiable o peligrosa la IA? Veamos el siguiente video donde se ejemplifica el uso de la IA en el ámbito de la medicina. ¿Confiaremos en un diagnóstico realizado con IA? Inteligencia Artificial: ¿Amiga o Enemiga? https://www.youtube.com/watch?v=znq3ql6wqnE&t=2s En el mismo sentido, algunos intelectuales, como el filósofo Diego Levis, no dudaron en plantear sus críticas desde el inicio: “Hace muchos años que los sistemas informáticos avanzados («inteligencia artificial») participan activamente en nuestras vidas aunque su expansión ha sido inicialmente imperceptible”. El problema se encuentra en su implementación actual, ya que “son utilizados para influir, condicionar y dirigir de un modo sofisticado y casi imperceptible nuestros gustos y nuestros deseos, ideas y comportamientos” (Maggio, 2024)  No está demás repetir que la forma de hacerlo es a través de nuestros propios datos que se recogen en el uso de Internet. Recordemos que en la red nada es gratis, ni neutro, ni privado, y que cuando la utilizamos, dejamos rastros que son nuestras huellas digitales. Estamos siendo testigos de una guerra de las plataformas. Los conflictos tecnológicos o mediáticos no son recientes, pero ahora estamos asistiendo, en primera fila, a una verdadera lucha de titanes. Se combate por los datos, por nuestro tiempo y, si quieren, por nuestra vida. OpenAI se apuró a lanzar el ChatGPT a finales del 2022 (con fallas) para hacer realidad uno de los leitmotivs de Silicon Valley «el primero que llega se queda con la mayor parte del mercado» La guerra incluye a Microsoft propietario de Copilot, Google, propietario de Gemini IA y Google Labs, Meta, que posee Meta IA incorporado a WhatsApp, entre otras. Open AI Google LLC Microsoft Meta Platforms Inc (Chat GPT) (Gemini IA) (Copilot) (Meta) Al igual que las viejas guerras mediáticas, esta también es una batalla geopolítica a escala global. Sabemos bastante sobre OpenAI, pero poco sobre lo que está pasando en China u otros países que también se juegan su hegemonía (o seguridad nacional) a través del desarrollo hipertecnológico. Vale decir que Tik tok esta prohibido en EEUU por cuestiones de seguridad nacional. Discriminación, desigualdad y desinformación Se trata de otra de las preocupaciones. La IA se nutre de datos, los recolecta, almacena clasifica y organiza, para posteriormente crear modelos que responden a consignas, toma decisiones y devuelve resultados. ¿Pero qué pasa cuando esos datos son organizados y se crean modelos que pueden provocar resultados discriminatorios? Hace un tiempo, Amazon intentó automatizar su proceso de contratación utilizando IA. Sin embargo, el sistema desarrollado terminó discriminando a las mujeres. Esto se debió a que la IA había sido entrenada con datos históricos de la empresa, los cuales respondían a perfiles de hombres solamente. Al "aprender" de estos datos, el algoritmo asoció las características de un "buen candidato" con las de los hombres, ignorando los currículos de las mujeres. Este caso muestra cómo los sesgos presentes en los datos pueden generar discriminación en los sistemas de IA...y por lo tanto, en las decisiones que toma una empresa. Pero en realidad, los datos que no se incluyen, se ignoran o se rechazan (Unesco, 2023). La IA puede perpetuar la discriminación si los datos con los que se entrena son sesgados, erróneos o limitados y carecen de diversidad de perspectivas. A continuación encontrarán algunas imágenes generadas en Copilot a partir de las siguientes frases “imagen de una mujer bella” “imagen de una docente argentina” “imagen de un docente argentino” ¿Cuál es la imagen de belleza que nos devuelve? ¿Qué pasa con los estereotipos que materializa? ¿Qué ideas se presentan y reproducen y cuáles se silencian o invisibilizan? En definitiva, ¿qué ocurre cuando la clasificación y las etiquetas de los sistemas de IA terminan ofreciendo una visión del mundo simplista y que refuerza prejuicios y estereotipos culturales (Unesco, 2023). Otro punto complejo es la capacidad para crear y difundir información falsa o desinformar de una manera casi instantánea y feroz. Los deepfake son ejemplos de eso, al difundir videos o imágenes falsas con el rostro de personas reales, pero que fueron creados por inteligencia artificial, con medios sintéticos. También en las imágenes que se encuentran a continuación, donde se observa a Donald Trump queriendo ser detenido y al Papa Francisco con una campera super moderna. Entonces nos podemos preguntar por el derecho a la información, por la calidad de la información, o dónde quedan los derechos de autor, otro gran tema de debate frente a la irrupción de la IA. Burbujas digitales Finalmente, otras de las grandes preocupaciones gira en torno a la idea de que vivimos en una burbuja digital que nos envuelve y nos encierra sin darnos cuenta. Nos referimos a ese universo que se nos crea en Internet, como consecuencia de los datos que nosotros mismos ofrecemos, nuestra huella digital, que es registrada, observada y aprovechada. Esta burbuja en la que estamos, provoca el consumo de determinada información, que puede reafirmar prejuicios, que puede ser falsa o segmentada, que naturaliza determinada forma de ver el mundo y anula otras posibilidades, sin considerar otras fuentes, otras perspectivas. Por lo tanto, se hace necesitamos romper las burbujas digitales en las que estamos inmersos. ¿Y por qué necesitamos hacerlo? Simplemente para consumir información de diversidad de fuentes que nos permita hacer un uso crítico, para tomar decisiones conscientes y responsables en beneficio de nuestro ejercicio profesional, personal y ciudadano. En definitiva, en beneficio de una democracia sana. Regulación, libertad y una necesaria alfabetización ¿Regulación o libertad de desarrollo? La Unesco denuncia la falta de transparencia en el uso de los datos y afirma que, frente a la innovación y el desarrollo, las preocupaciones éticas cada vez son mayores (Morduchowicz, Unesco 2023). En consecuencia, los países necesitan establecer marcos normativos sólidos y claros, que garanticen un desarrollo ético y responsable de la IA, protegiendo los derechos de las personas y minimizando los riesgos potenciales, que incluyan el tema de la transparencia, la discriminación algorítmica, la privacidad de los datos y la responsabilidad ante potenciales daños. Implica un enorme desafío, porque se mueve entre una regulación necesaria y una libertad de desarrollo. Un gran paso es el Reglamento General de Protección de Datos (RGPD) de la Unión Europea, que obliga a todas las empresas que tengan sede en la Unión Europea o clientes europeos a: previa petición, revelar qué datos han recogido sobre cualquier persona (derecho de acceso), eliminar toda información que no sea necesaria para cumplir otras obligaciones, cuando así se les solicite (derecho al olvido), ofrecer una explicación del tratamiento que se da a los datos del cliente (derecho de explicación). La UNESCO ha elaborado el documento: "Recomendación sobre la ética de la inteligencia artificial" el cual establece un marco regulatorio para la aplicación práctica de la IA, mediante recomendaciones de política concretas, haciendo especial hincapié en la inclusión, las cuestiones de igualdad de género y la protección del medio ambiente y los ecosistemas. En nuestro país tenemos leyes y herramientas sobre la protección de datos. También hay Recomendaciones para el uso de Inteligencia Artificial. Pero lamentablemente no hay legislación de protección y regulación para IA y las empresas involucradas. El debate está abierto, y mientras tanto, los titanes tecnológicos siguen su camino. Alfabetizaciones necesarias Entonces, para recapitular un poco: Big data, sobrecarga de información, algoritmos, sesgos, discriminación, noticias falsas, desinformación, burbujas digitales, uso de nuestros datos, deepfake, falta de regulación. ¿Qué hacemos con todo esto? Estamos en un momento en el cual ya no podemos ver para creer, necesitamos chequear, contrastar, desconfiar y tener nuevas habilidades para poder, ahora sí, confiar en lo que nuestros ojos nos muestran. Nada de lo que fue volverá a ser como antes y eso es seguro, como también lo es que sin información de calidad no hay democracia posible (Novomisky, 2023). Por eso, necesitamos desarrollar y promover en nosotros y en nuestros estudiantes, la Alfabetización Digital y la Alfabetización Mediática e Informacional (AMI) e incorporar la IA como objeto de estudio, para analizarla críticamente, considerando lo que realmente provoca en nuestras vidas cotidianas, e interrogarla, desafiarla, aprender a pensarla, y por supuesto, enseñar a pensarla, una Alfabetización en IA. Alfabetización digital: competencias necesarias para buscar, gestionar, crear y comunicar información con tecnologías digitales. Alfabetización mediática e informacional: competencias necesarias para interactuar de forma crítica con los medios y otras fuentes de información, promoviendo el aprendizaje continuo, el pensamiento crítico y la participación ciudadana responsable.