El Padrino de la IA: Geoffrey Hinton PDF

# El padrino de la inteligencia artificial: Geoffrey Hinton ## "Existe el 50% de posibilidades de que esto acabe mal. Yo no me subiría a un taxi si supiera que la mitad de sus viajes acaban en muerte" - Geoffrey Hinton, 76 años, es considerado el "padrino de la inteligencia artificial", ya que su...

# El padrino de la inteligencia artificial: Geoffrey Hinton ## "Existe el 50% de posibilidades de que esto acabe mal. Yo no me subiría a un taxi si supiera que la mitad de sus viajes acaban en muerte" - Geoffrey Hinton, 76 años, es considerado el "padrino de la inteligencia artificial", ya que su trabajo ha sido fundamental para el desarrollo de tecnologías como ChatGPT y otros chatbots. - Aunque inicialmente estaba entusiasmado con su trabajo en Silicon Valley, recientemente ha expresado su preocupación por los riesgos que plantea la superinteligencia artificial. - Hinton argumenta que la superinteligencia podría usarse para manipular las elecciones, crear vídeos falsos y generar ciberataques, entre otras amenazas. - También advierte que la superinteligencia podría desarrollar sus propios objetivos, que podrían no coincidir con los objetivos humanos. - Hinton cree que la superinteligencia podría incluso superar a los humanos en inteligencia e incluso "ver cosas que los humanos nunca hemos visto", como la relación entre un montón de compostaje y una bomba nuclear. - El experto en inteligencia artificial considera fundamental la creación de regulaciones para la IA para evitar que se salga de control, pero no se muestra optimista sobre la posibilidad de acuerdos internacionales que limiten su desarrollo debido a la competencia entre países y empresas. ## Un genio entre genios - Hinton ha sufrido un problema de espalda durante 10 años que le impedía estar de pie o tumbado. - Ahora se está recuperando de una cirugía. - Su familia está llena de genios, incluyendo su tatarabuelo, George Boole, quien creó el código binario que rige los ordenadores. ## ¿Cómo parar la IA? - Hinton cree que la IA es demasiado poderosa para poder controlarla. - Su crecimiento incontrolado es un peligro real, ya que puede llevar a la creación de armas nucleares - Hay un debate entre partidarios y oponentes del "código abierto", es decir, si la información sobre la IA debe ser compartida o no. - Hinton apoya la idea de mantener la IA "bajo candado", ya que considera que el código abierto sería como si se hubieran hecho públicos los avances en la creación de la bomba atómica. - Por otro lado, Yann LeCun, científico jefe de IA en Meta, no está de acuerdo con esta postura. - LeCun argumenta que la IA es demasiado importante para ser controlada por una sola compañía o gobierno, por lo que se debe mantener el código abierto para que todos puedan acceder a ella y contribuir a su avance. ## "Con ChatGPT es como si hubieran aterrizado extraterrestres que hablan muy bien inglés. Si nos topáramos con ellos, nos asustaríamos mucho... y con razón" - Hinton utiliza la analogía de los extraterrestres para describir el impacto que puede tener la superinteligencia en la sociedad. - Le preocupa que la superinteligencia desarrolle sus propios objetivos y que pueda "salirse de control" al intentar alcanzar sus metas, aunque ya se encuentre en manos de los humanos. - La superinteligencia podría incluso querer aumentar su propio poder al intentar hacerse con el control de sistemas de datos, lo que llevaría a una situación comparable a la de los chimpancés en guerra. ## ¿Cuánto tiempo nos queda? - Hay consenso entre los expertos en que la superinteligencia es muy peligrosa. - Hinton, sin embargo, no es catastrofista y compara la situación actual con un taxi que tiene un 50% de probabilidades de acabar en un accidente. - El experto teme que la IA sea capaz de tomar decisiones que los humanos no puedan predecir o controlar, debido a la posibilidad de que desarrolle su propia "intuición" e incluso "presentimientos". - Su preocupación se centra en la velocidad del avance de esta tecnología y la falta de control sobre ella. - Hinton considera que la superinteligencia podría llegar en 5 a 20 años. ## "No siempre habrá un humano al timón. Las empresas no pueden garantizarlo. La IA descubrirá que para lograr los objetivos que le piden lo mejor es tomar el mando y dejarnos fuera" - La superinteligencia eventualmente tomará el control si no se toman medidas para evitarlo. - La amenaza de una IA descontrolada exige la creación de leyes y regulaciones internacionales para controlar su desarrollo. - Hinton cree que la industria tecnológica ya no está preocupada por la seguridad de la IA, ya que la competencia es demasiado fuerte. ## Sin embargo, no es pesimista - Hinton cree que el desarrollo de la IA podría haberse ralentizado, pero el ritmo es tan acelerado que el impacto, para peor o mejor es inevitable. ## "Se podría crear una supervisión internacional bajo los auspicios de las Naciones Unidas" - Aunque Hinton no se muestra optimista con la posibilidad de que los países se pongan de acuerdo para regular la IA. - El ejemplo de la dificultad para ponerse de acuerdo sobre el resultado de una elección en un "país tan desarrollado como Estados Unidos" ilustra la problemática de lograr acuerdos internacionales. ## "No siempre hay que arrepentirse de las consecuencias. La IA es un monstruo pero fue nuestro monstruo" - Hinton reconoce la responsabilidad por su trabajo con la IA, pero argumenta que las consecuencias son impredecibles y que la IA se desarrolla a una velocidad tan rápida que el control actual se ha vuelto imposible. - Finalmente, el texto deja abierta la pregunta de si es posible detener el desarrollo de la IA, mostrando el dilema moral que presenta esta tecnología.