TELOS 123: Entrevista Inteligencia Artificial PDF

Cuaderno_ Inteligencia_artificial_ Expertos...

Cuaderno_ Inteligencia_artificial_ Expertos españoles abordan los retos éticos, de seguridad y regulación de la inteligencia artificial 1 DESAFÍOS Preguntamos a un ¿Cómo describiría El desarrollo de la inteligencia artificial en las últimas décadas grupo de especialistas el estado actual ha sido muy rápido debido al cre- en inteligencia de la inteligencia cimiento de la capacidad computa- artificial sobre las artificial y qué cional, la disponibilidad de grandes principales incógnitas conjuntos de datos y avances en algo- que despierta su uso avances considera ritmos. Esto ha llevado a la creación y desarrollo. Nos han que veremos en el de múltiples aplicaciones y sistemas Y señalado cuáles son futuro inmediato? de IA en diversas áreas. Se trata de los mayores desafíos un campo en constante crecimiento con un gran potencial para transfor- éticos, de seguridad, privacidad y regulación, 2 mar diferentes aspectos de nuestras vidas. Por este motivo, hemos con- haciendo hincapié tactado con una gran variedad de en la necesidad de ¿Qué desafíos expertos en IA de diferentes ámbi- supervisión humana éticos ve asociados tos de trabajo. Hemos preguntado a OPORTUNIDADES y señalando el avance al avance de la Ramón López de Mántaras, uno de los pioneros de la IA en España; exponencial que IA y cómo cree Nerea Luis, cofundadora de T3ch- seguiremos viendo que debemos Fest; Jordi Torres, profesor del grado en el progreso de la IA. abordarlos? de IA en la UPC; Idoia Salazar, co- fundadora de OdiseIA; Óscar Cor- cho, director académico de AI4Gov 3 y Elena Gil, directora en Telefónica DE LA IA Tech. Es importante abordar este Spanish experts address the ethical, tema desde diferentes puntos de vista, security and regulatory challenges of ¿Cómo afecta la explicando de manera comprensible artificial intelligence CHALLENGES AND OPPORTUNITIES IA a la privacidad las implicaciones, beneficios y desa- OF THE AI y la seguridad de fíos de la IA. Con ello buscamos ayu- We asked a group of specialists in dar a contrarrestar la desinformación y artificial intelligence about the main los datos de las los mitos sobre la inteligencia artificial, questions raised by its use and development.Theypointedoutthemajor personas? brindando información precisa basada ethical, security, privacy and regulatory en la experiencia de los entrevistados. challenges, emphasizing the need “Lo fundamental es la necesidad de in- for human oversight and noting the CON LAS RESPUESTAS DE volucrar a la sociedad en su conjunto en exponential advance we will continue to RAMÓN LÓPEZ DE MÁNTARAS see in the progress of AI.. NEREA LUIS MINGUEZA la toma de decisiones sobre la IA para Palabras clave: Keywords: artificial intelligence, IDOIA SALAZAR garantizar que esta tecnología sea utili- Inteligencia artificial, ciberseguridad, JORDI TORRES cybersecurity, privacy, regulation, ÓSCAR CORCHO zada de manera responsable”, remarca privacidad, regulación, supervisión, oversight, appropriate technology. ELENA GIL LIZASOAIN Jordi Torres en este reportaje. tecnología adecuada. — 54 — TELOS 123 POR MARISOL SALES Cuaderno_ Inteligencia_artificial_ CUESTIONARIO 1. ¿Cómo describiría el estado actual de la inteligencia artificial y qué avances considera que veremos en el futuro inmediato? 2. ¿Qué desafíos éticos ve asociados al avance de la IA y cómo cree que debemos abordarlos? 3. ¿Cómo afecta la IA a la privacidad y la seguridad de los datos de las personas? “LA RECOGIDA DE “LA INTELIGENCIA DATO S PA R A E L ARTIFICIAL NO ES ENTRENAMIENTO N I TA N I N T E L I G E N T E, DE LOS MODELOS ES N I TA N A R T I F I C I A L” UN PRIMER DESAFÍO” Ramón 1 Este boom del último año sobre todo viene dado a la respuesta a la pregun- ta de si habrá inteligencias tará un vídeo o una imagen de alguien cometiendo un artificial. Hace ya bastan- tes años que parece que Nerea 1 Vivimos un momento en el que la inteligencia artifi- suística alrededor de cómo pedir permiso o cómo re- López de por lo que llamamos “in- artificiales que verdade- delito infraganti y no se mucha gente ha renuncia- Luis cial se está integrando en las portar sobre las fuentes de Mántaras teligencia artificial gene- rativa”. Esta inteligencia ramente entiendan. Por ello me interesan más bien podrá utilizar porque no habrá manera de saber si es do a la privacidad. Yo creo que fue en el momento que Mingueza herramientas que conoce- mos tales como aquellas re- datos que se utilizan para entrenar a los modelos. artificial generativa no es poco. A mí lo que me inte- verdadero o falso. Esto es aparecen los móviles y los lacionadas con la ofimática, Otro punto es la propie- ES EL PIONERO nueva. Cuando empezó a resa es hacer ciencia. muy grave porque hace ex- sistemas que hacen reco- DOCTORA EN los gestores de email, de vi- dad intelectual de los textos desarrollarse parecía inte- plotar la convivencia social mendaciones o un perfil de deollamadas o el diseño grá- e imágenes generadas, tanto DE LA CIENCIAS DE LA resante, pero no que fuera 2 Desde hace mucho, e incluso la democracia. tus gustos y preferencias fico. Esto hará que rápida- para reclamar autoría como INTELIGENCIA COMPUTACIÓN Y a explotar de esta manera tenemos una serie de Además, otro problema que están diseñados para mente aprendamos a sacarle para reclamar un mal uso de ARTIFICIAL EN COFUNDADORA DE ni que se iban a meter las desafíos éticos como, ético que se presenta son que te enganches y que su potencial en las tareas co- las herramientas de IA si se ESPAÑA. T3CHFEST. TRABAJA grandes empresas tecno- por ejemplo, que un sis- los millones de personas además son supuestamente tidianas y que los mismos utilizan para generar desin- PROFESOR lógicas como ha ocurrido. tema de inteligencia arti- en países del sur global que gratis. Hay que moverse COMO INGENIERA modelos de IA aprendan y formación o deepfakes. INVESTIGADOR En mi opinión, esto tiene ficial sea una caja negra llaman, como Filipinas o desde la sociedad civil y or- EN INTELIGENCIA personalicen su tono, es- DEL CENTRO aspectos positivos y aspec- y que no se sepa cómo fun- Pakistán, que están horas ganizarse para enfrentarse ARTIFICIAL EN tilo y uso de la palabra en 3 Existen multitud de ser- SUPERIOR DE tos negativos. ciona y que no tenga capa- y horas al día limpiando lo a todo lo que se nos está SNGULAR función de los documentos vicios web ahora mismo INVESTIGACIONES Yo sigo pensando que cidad explicativa. Plantea que hacen los modelos de viniendo encima con esto previos que hayamos escri- que utilizan por detrás mo- CIENTÍFICAS las grandes preguntas una serie de cuestiones no lenguaje por 0,50€/hora de la inteligencia artificial to. Sin duda la personali- delos de inteligencia arti- (CSIC) Y DIRECTOR científicas que hay detrás sobre su uso ni sobre su e, inlcuso, algunos trabajos generativa. Por primera zación será una pieza clave ficial generativa. Generar DEL INSTITUTO DE de la inteligencia artifi- impacto, sino sobre la pru- que no se llegan ni a pagar. vez en mi vida, viendo la para simplificar los prompts. imágenes, hacer preguntas INVESTIGACIÓN cial, como si podrá haber dencia necesaria a la hora También modelando con- balanza, soy más pesimista Por otro lado, en la genera- sobre un PDF, resumir DE INTELIGENCIA inteligencias artificiales de desplegarlo. tenido o entrenando estas que optimista porque, ¿en ción de imágenes, técnicas reuniones... En todos estos ARTIFICIAL (IIIA) verdaderamente genera- Con la inteligencia artifi- inteligencias artificiales qué mal momento salió la como Gaussian Splatting servicios, a la hora de usar- les, y el avance hacia una cial generativa nos aparecen generativas o etiquetan- inteligencia artificial gene- están dando muy buenos los, tenemos que preocupar- inteligencia artificial ge- problemas, digamos, “nue- do imágenes indicándole rativa? A nivel científico resultados para recrear es- nos de saber si los datos que neral que verdaderamen- vos” que hace unos años no que esto es un árbol o esto no sirve de nada práctica- cenas 2D > 3D. Sin duda volcamos los utilizan para te entienda el mundo no se veían tan claramente y es es una persona o esto una mente y a nivel práctico no se convertirá en otra de las “reentrenar” o si por el con- lo veo por ninguna parte. el tema de generar todas las farola. Todo esto hecho veo muy claro quién está tendencias próximas. trario solo los mantienen un Muchos defienden que la falsedades que se hacen y a mano por una persona. ganando con esta IA. tiempo online con mero fin inteligencia artificial ge- esa facilidad con la que pue- Como digo, no estamos a la 2 Hay un primer desafío consultivo. De esta forma nerativa es la antesala para des falsificar personas o ha- vuelta de la esquina de una alrededor de la recogida sabremos a qué riesgo nos conseguir una inteligencia certe pasar por personas, ya inteligencia artificial gene- de datos para el entre- estamos exponiendo cuan- artificial general, pero yo sea de manera textual o au- ral porque cada vez nece- namiento de los modelos do los utilizamos. no lo pienso en absoluto. diovisual. si seguimos con la sitamos más intervención “grandes” o “fundacio- Poco a poco van saliendo La generalidad de la inteli- inteligencia artificial gene- humana. He llegado a la nales” (como la familia licencias de uso personal, gencia artificial generativa rativa le veo difícil solución. conclusión de que la inteli- GPT o Palm2). En algu- para empresas y entornos en es muy limitada. Con estos La manipulación se gencia artificial no es ni tan nos casos se están viendo la nube donde se respeta la sistemas preentrenados no acentúa mucho más con inteligente, ni tan artificial. avances como en Adobe privacidad y la seguridad de estamos ganando genera- esta capacidad de generar Firefly, donde solo entre- los datos, eso sí. lidad. Estas inteligencias fakes. Llegará el día en el 3 Esto ya era un problema nan con imágenes libres, artificiales no nos acercan que en un juicio se presen- incluso sin la inteligencia pero aún hay mucha ca- — 56 — — 57 — TELOS 123 TELOS 123 Cuaderno_ Inteligencia_artificial_ CUESTIONARIO 1. ¿Cómo describiría el estado actual de la inteligencia artificial y qué avances considera que veremos en el futuro inmediato? 2. ¿Qué desafíos éticos ve asociados al avance de la IA y cómo cree que debemos abordarlos? 3. ¿Cómo afecta la IA a la privacidad y la seguridad de los datos de las personas? “LA HUMANIDAD SE BENEFICIARÁ ENORMEMENTE DE LA INTELIGENCIA A R T I F I C I A L A C T U A L” Jordi 1 A pesar que actualmente la población en general tie- pósito no es sostenible por mucho más tiempo, el ritmo Por otro lado, encontra- mos desafíos relacionados de estar. Espero que las apli- caciones específicas de IA Lo desafíos apropiada. Por ejemplo, los sistemas de IA que utilizan Torres ne la percepción de que la del progreso de la IA podría con su uso. La automati- estén también reguladas y, el reconocimiento facial inteligencia artificial (IA) volver a sorprendernos. zación impulsada por la en algunos casos, prohibidas éticos requieren pueden identificar a las ha alcanzado competencias De todos modos, de mo- IA puede llevar a la rees- si fuese necesario para po- personas de manera preci- CATEDRÁTICO DE LA UNIVERSIDAD casi humanas, la realidad es que los algoritmos en que mento, en la comunidad científica se coincide en tructuración y pérdida de empleos en diversos sec- der así mitigar sus riesgos. una colaboración sa, una tecnología útil en ciertos contextos, pero que POLITÉCNICA se basan las IA no tienen que para lograr una IA mu- tores económicos, lo que 3 El avance de la IA tiene plantea preocupaciones so- DE CATALUÑA inteligencia, sino solo “ha- cho más inteligente que se plantea interrogantes éti- importantes implicaciones entre gobiernos, bre la invasión de la priva- (UPC). ES AUTOR bilidades sin comprensión”, asemeje a la inteligencia hu- cos sobre cómo garantizar en la privacidad y la seguri- cidad y un posible uso inde- DE MÁS DE 200 PUBLICACIONES en el sentido de que son al- goritmos que pueden llegar mana se necesitarán inno- vaciones disruptivas, cuyas una transición justa hacia una economía basada en dad de los datos personales. Esto se debe a que la IA de- empresas y bido. Además, los sistemas de IA son susceptibles a ata- a ser muy hábiles realizando características son inciertas la IA. Además, existe la pende en gran medida del ques, con el riesgo de robo DE INVESTIGACIÓN, Y LIBROS SOBRE tareas específicas, pero sin y nadie sabe si realmente se preocupación sobre el uso análisis de datos para fun- desarrolladores de datos y la generación de comprender absolutamente producirán algún día. indebido de la IA, como su cionar de manera efectiva información falsa por parte COMPUTACIÓN DE nada de lo que están hacien- aplicación en ciberseguri- lo que resulta en la recopila- de algoritmos maliciosos. ALTO RENDIMIENTO do, ni cuentan con el llama- 2 Que no estemos cerca de dad, la producción de no- ción masiva de información En resumen, estos desa- Y DE INTELIGENCIA do “sentido común” de la disponer de una IA próxima ticias falsas o el desarrollo personal. Por ejemplo, los fíos éticos o de privacidad ARTIFICIAL inteligencia humana que la a la inteligencia humana no y uso de armas totalmente algoritmos en que se basan son abordables, pero requie- hace tan diversa, rica, es- quita que el actual progre- autónomas en conflictos los motores de búsqueda ren una colaboración decidi- pontánea y maravillosamen- so de la IA esté generando militares, lo cual genera in- en Internet, o simplemente da entre gobiernos, empre- te imprevisible. nuevos desafíos éticos que quietudes profundas. nuestro teléfono móvil, co- sas y desarrolladores de IA A pesar de que los siste- debemos abordar. Por un La humanidad se benefi- nocen muy bien, gracias al para establecer regulaciones mas actuales de IA todavía lado, tenemos desafíos en su ciará enormemente de la IA acceso a cantidades masivas sólidas que promuevan un carecen de capacidades desarrollo, como la tenden- actual, a pesar de ser limi- de información que genera- uso y desarrollo responsa- importantes, estamos in- cia de los algoritmos de IA tada, pero no hay duda de mos, nuestras preferencias bles de la IA. Sin embargo, mersos en una carrera para a heredar sesgos de los datos que su uso presenta muchos y pueden llegar a inferir lo más fundamental es la ne- crear sistemas de IA cada de entrenamiento, lo que riesgos. Por ello, al igual que cómo pensamos. cesidad de involucrar a la so- vez más potentes. Estos úl- puede llevar a decisiones ha ocurrido en otras áreas Esto amplía sustancial- ciedad en su conjunto en la timos años este progreso de discriminatorias o incorrec- importantes en nuestra vida, mente el poder y el alcance toma de decisiones sobre la las IA se ha sustentado en tas. Esto, a su vez, plantea la es necesario establecer un de las empresas o gobiernos IA para garantizar que esta una aproximación de “fuer- cuestión de la responsabili- marco regulador consensua- que controlan estos datos tecnología sea utilizada de za bruta”, con la creación dad en caso de fallos de una do, en el más amplio sentido y pueden socavar nuestras manera responsable, bene- de algoritmos cada vez más IA. ¿Deberíamos conside- del término: leyes, reglas, expectativas de privacidad ficiosa y en línea con los va- grandes, entrenados en su- rar al creador del algoritmo protocolos de actuación, au- personal. La capacidad de lores humanos. Esto implica percomputadores cada vez o al usuario como responsa- torregulación o sensibiliza- la IA para analizar grandes el compromiso individual de más potentes, procesando ble? Es esencial establecer ción ciudadana, entre otras. conjuntos de datos conlleva todos nosotros en adquirir cada vez más y más datos. marcos legales y éticos que A nadie le gusta ser regula- un riesgo potencial de vio- un mayor entendimiento de Pero, aunque este creci- traten la cuestión de los do, pero todo lo que puede lación de la privacidad, ya esta revolución tecnológica, miento exponencial de re- errores o daños causados entrañar un potencial peli- que la información podría de manera que podamos to- cursos dedicados a este pro- por la IA. gro para la sociedad lo debe ser utilizada de manera in- mar decisiones informadas. — 58 — TELOS 123 Cuaderno_ Inteligencia_artificial_ CUESTIONARIO 1. ¿Cómo describiría el estado actual de la inteligencia artificial y qué avances considera que veremos en el futuro inmediato? 2. ¿Qué desafíos éticos ve asociados al avance de la IA y cómo cree que debemos abordarlos? 3. ¿Cómo afecta la IA a la privacidad y la seguridad de los datos de las personas? “ E L P R I N C I PA L DESAFÍO ÉTICO ES “DEBERÍA DE HABER MÁS EL POSIBLE SESGO H E R R AM I E N TA S Q U E C R E E N DE LOS MODELOS CONCIENCIA EN EL USUARIO” QUE SE GENERAN” Idoia 1 Yo diría que la inteligen- cia artificial está teniendo cesidad de que, a la vez que evoluciona la tecnología, casos de discriminación si no se ha hecho un eficien- problema de privacidad. Por ello son muy impor- Óscar 1 En estos últimos años se han producido avances muy puede existir en los datos que se utilizan para el en- Salazar ya, y tendrá aún más en el también aumentemos sig- te uso, limpieza y revisión tantes las labores de con- Corcho considerables en la inteli- trenamiento. Necesitamos futuro, un avance expo- nificativamente el esfuerzo de los datos, algo que en sentimiento. Todo esto está gencia artificial, sobre todo investigación en técnicas nencial. Cada vez son más para hacer una regulación temas de transparencia es regulado por la Ley Gene- en las áreas de aprendizaje cada vez más robustas para PERIODISTA, las empresas que apuestan competente y poder preve- muy importante. ral de Protección de Datos CATEDRÁTICO automático y en todo lo re- explicar los resultados ob- INVESTIGADORA por esa tecnología porque nir los riesgos que vienen También las cuestiones europea. Así que, en prin- DE LA UPM EN EL lacionado con el lenguaje, tenidos por modelos que Y PROFESORA. no es una opción no usarla. asociados a esta tecnología. de la explicabilidad son cipio, si se cumple con la DEPARTAMENTO debido a que cada vez hemos actúan como cajas negras, PRESIDENTA Y Hay muchísima investiga- Cada vez hay más empre- fundamentales en la lógica regulación europea en pro- DE INTELIGENCIA tenido más datos y docu- y una buena regulación que CODIRECTORA DEL ción, muchísima inversión sas que están dispuestas a algorítmica de ver cómo se tección de datos, este tema ARTIFICIAL mentos disponibles para po- no necesariamente frene ÁREA DE ÉTICA Y y en los próximos años va- adoptar estas normas éticas ha tomado la decisión. La debería de estar zanjado. Y DIRECTOR der entrenar modelos, y que los avances, pero que nos RESPONSABILIDAD mos a ver un aumento sig- y regulatorias, una vez que transparencia en cuestio- Sin embargo, hay otro ACADÉMICO DEL ha sido posible hacerlo con genere seguridad en que no DE ODISEIA nificativo en el uso y desa- entre en vigor la regulación nes como la IA generativa tipo de temas como, por MÁSTER EUROPEO las infraestructuras tecnoló- se producen estos sesgos. rrollo de estos sistemas de de inteligencia artificial para es muy importante para ejemplo, la IA usada en AI4GOV (ARTIFICIAL gicas de las que disponemos. inteligencia artificial. intentar prevenir posibles que se vea que el que ha he- motores de recomenda- Quizás el avance más 3 No creo que este sea un INTELLIGENCE FOR A nivel tecnológico po- impactos negativos. cho el output es la máquina ción con los que se debe de significativo de estos últi- problema que se vea agra- PUBLIC SERVICES) siblemente se siga avan- y no la persona. crear una mayor concien- mos años haya sido la apa- vado por la IA puesto que zando bastante para inten- 2 Los desafíos éticos que Por supuesto también cia en el usuario, porque rición de la IA generativa, ya éramos conscientes de los tar hacer bancos públicos vienen asociados al avance hay motivos específicos al final la máquina está con los grandes modelos de posibles riesgos en este sen- para que sea más fácil, no de esta tecnología son los de ciberseguridad que son usando datos personales lenguaje como uno de los tido cuando se puso el foco solamente para las grandes mismos que tenemos que fundamentales. Es muy que el usuario va gene- pilares básicos. en la regulación de protec- empresas de los datos, sino tener asociados a la ética importante que todas las rando. Si no ha habido un ¿Qué veremos en el fu- ción de datos, por ejemplo. también para pymes y po- humana. Uno de los princi- empresas empiecen a adop- consentimiento previo es turo inmediato? Bueno, lo Por supuesto, si cualquiera der optar a esta tecnología pales es la supervisión hu- tar estos criterios éticos, una intrusión en el propio vemos ya… Una gran can- de los modelos que usamos para usarla para la eficien- mana. Como sabemos, esta que al final serán parecidos día a día de los usuarios, tidad de aplicaciones que se ha entrenado con datos cia de procesos y otro tipo tecnología puede actuar de a los que van a implemen- que obviamente es para hacen uso de estos modelos personales, o los usuarios de cuestiones. manera autónoma y los hu- tar la regulación de inteli- mejorar la personalización y de estas capacidades para no son conscientes de que También veo un au- manos siempre tendemos gencia artificial, para que del servicio. En cualquier poder hacer nuestro trabajo están entregando datos per- mento bastante grande a tener confianza excesiva consigamos tener desde el caso, creo que debería de aún más eficiente. Pero no sonales al interactuar con en la implementación de en ella. Debemos poner diseño un uso adecuado de haber más herramientas debemos olvidarnos tam- sistemas como ChatGPT, IA generativa a todos los ciertas medidas técnicas estos sistemas de inteligen- que creen conciencia en el bién del “Good old AI”. Se podemos poner en riesgo niveles y es algo que va a y de supervisión huma- cia artificial. usuario de que se va a rea- siguen utilizando técnicas esa privacidad. suponer una revolución na, sobre todo en casos en lizar esa labor de gestión tradicionales para resolver también a nivel social que el que la acción de la IA 3 En este caso, tenemos de sus datos de alguna for- una gran cantidad de proble- tendremos que aprender a pueda afectar a los dere- que saber que, a pesar de ma para que se haga más mas que ya eran conocidos. sobrellevar para que el im- chos fundamentales. Pue- que los sistemas de inteli- visible esa información. pacto sea positivo. de causar un problema si gencia artificial funcionan 2 El principal desafío ético A nivel de regulación nosotros no realizamos esa con datos, la mayoría de los es el del posible sesgo de los estamos asistiendo también supervisión adecuada. datos que usa son persona- modelos que se generan, a un avance bastante signi- Por otro lado, hay cues- les, por lo que, obviamente, basado fundamentalmen- ficativo. Se ha visto la ne- tiones relativas a posibles puede llegar a suponer un te en el sesgo que siempre — 60 — — 61 — TELOS 123 TELOS 123 Cuaderno_ Inteligencia_artificial_ CUESTIONARIO 1. ¿Cómo describiría el estado actual de la inteligencia artificial y qué avances considera que veremos en el futuro inmediato? 2. ¿Qué desafíos éticos ve asociados al avance de la IA y cómo cree que debemos abordarlos? 3. ¿Cómo afecta la IA a la privacidad y la seguridad de los datos de las personas? “LA IA TODAVÍA CARECE DE LA VERDADERA COMPRENSIÓN HUMANA” Elena Gil 1 La inteligencia artificial se encuentra en una fase online. La principal diferen- cia, ahora, es que se están marco que promueva, a ni- vel global, el desarrollo de Lizasoain de aceleración y democra- amplificando sus capacida- la IA responsable y que pon- tización, impulsada recien- des y la formación es una ga un énfasis especial en la temente por los avances de herramienta esencial para transparencia y la rendición DIRECTORA DE LA la IA generativa y modelos adaptarse a esta nueva rea- de cuentas. UNIDAD DE NEGOCIO de lenguaje de gran escala lidad. Aparecen nuevos 3 La inteligencia artificial DE INTELIGENCIA (LLM). Es una realidad y perfiles con formación es- tiene múltiples efectos para ARTIFICIAL Y BIG una parte esencial de la acti- pecífica en esta tecnología la privacidad y seguridad. DATA EN TELEFÓNICA vidad diaria de las personas, y los empleos preexistentes Por un lado, ha incremen- TECH, ES LICENCIADA así como un motor de inno- se verán transformados. Es tado la vulnerabilidad por EN CIENCIAS vación en muchos sectores. una tendencia imparable y, la recopilación y almacena- ECONÓMICAS En el futuro más inmedia- somo sociedad, debemos miento de más información Y EMPRESARIALES EN to, veremos avances signi- prepararnos para extraer sobre las personas, como el ficativos en la aplicación el máximo valor de la IA robo de datos y la suplan- LA UNIVERSIDAD DE de la IA en ámbitos como la de manera responsable, tación de la identidad. Sin DEUSTO Y MBA POR medicina personalizada de adaptando la regulación y la embargo, también se ha pro- EL MIT SLOAN SCHOOL precisión, automatización fuerza de trabajo. ducido una mayor concien- OF MANAGEMENT inteligente de tareas o el de- ciación de la importancia sarrollo sostenible de la mo- 2 Como toda tecnología de proteger la privacidad de vilidad y las ciudades. Sin disruptiva, la adopción de la información y, tanto las embargo, aún queda mucho la IA plantea desafíos que empresas como los gobier- por investigar y desarrollar deben ser abordados. Exis- nos, están invirtiendo y uti- ya que, a pesar de la impre- ten desafíos en el desarro- lizando de manera creciente sionante capacidad de la IA llo de las herramientas de IA para protegerse. Esto para detectar patrones y au- IA como el respeto a la pri- incluye el cifrado de datos, tomatizar tareas específicas vacidad, la protección de la autenticación de usuarios en un dominio concreto, to- la propiedad intelectual de y el monitoreo de redes y sis- davía carece de la verdadera los datos de entrenamien- temas para detectar posibles comprensión humana. to, la eliminación de ses- amenazas. La normativa Como ha ocurrido hasta gos o, incluso, el consumo europea está siendo pionera ahora, adoptaremos nue- energético asociado. en materia de protección de vas herramientas de IA en Adicionalmente, se plan- la privacidad y seguridad de nuestro día a día de mane- tean retos éticos relaciona- los datos de las personas. ra natural. La inteligencia dos con la desigualdad, des- artificial lleva muchos años información, suplantación estando presente en nues- de la identidad o el fraude. tras vidas como cuando Resolverlos requiere un en- usamos un GPS, utiliza- foque multidisciplinario y mos un asistente virtual o es responsabilidad de todos. compramos en una tienda Es necesario desarrollar un — 62 — TELOS 123