Podcast
Questions and Answers
¿Cuál es uno de los problemas destacados de los sistemas de reconocimiento de rasgos biométricos según la investigación mencionada?
¿Cuál es uno de los problemas destacados de los sistemas de reconocimiento de rasgos biométricos según la investigación mencionada?
¿Qué afirmaba James Manyika, vicepresidente de Google, sobre la inteligencia artificial en una entrevista?
¿Qué afirmaba James Manyika, vicepresidente de Google, sobre la inteligencia artificial en una entrevista?
En el ámbito académico, ¿se observa un bombardeo de información constante sobre la inteligencia artificial?
En el ámbito académico, ¿se observa un bombardeo de información constante sobre la inteligencia artificial?
True
¿Cómo se ha acuñado el término para referirse a las expectativas exageradas sobre la inteligencia artificial?
¿Cómo se ha acuñado el término para referirse a las expectativas exageradas sobre la inteligencia artificial?
Signup and view all the answers
¿Qué es la falacia de la tasa base mencionada en el texto?
¿Qué es la falacia de la tasa base mencionada en el texto?
Signup and view all the answers
Además de reducir costes y optimizar la asignación de recursos, las herramientas basadas en inteligencia artificial en el control policial prometen una alta precisión en las predicciones gracias al uso de técnicas de aprendizaje ___.
Además de reducir costes y optimizar la asignación de recursos, las herramientas basadas en inteligencia artificial en el control policial prometen una alta precisión en las predicciones gracias al uso de técnicas de aprendizaje ___.
Signup and view all the answers
¿Qué proyecto europeo promete desarrollar un sistema capaz de detectar mentiras en los relatos de personas que quieren cruzar la frontera?
¿Qué proyecto europeo promete desarrollar un sistema capaz de detectar mentiras en los relatos de personas que quieren cruzar la frontera?
Signup and view all the answers
¿Qué porcentaje aproximado de acierto tenían las predicciones del software de PredPol en la ciudad de Plainfield a partir de 2021?
¿Qué porcentaje aproximado de acierto tenían las predicciones del software de PredPol en la ciudad de Plainfield a partir de 2021?
Signup and view all the answers
¿Cuál es el principal problema de los sistemas predictivos?
¿Cuál es el principal problema de los sistemas predictivos?
Signup and view all the answers
El uso de la Strategic Subjects List (SSL) por parte de la Policía de Chicago resultó efectivo en la prevención de violencia mediante armas de fuego.
El uso de la Strategic Subjects List (SSL) por parte de la Policía de Chicago resultó efectivo en la prevención de violencia mediante armas de fuego.
Signup and view all the answers
¿Por qué los algoritmos pueden discriminar por raza o género?
¿Por qué los algoritmos pueden discriminar por raza o género?
Signup and view all the answers
La intervención policial sugerida por el sistema predictivo es siempre la que se lleva a cabo
La intervención policial sugerida por el sistema predictivo es siempre la que se lleva a cabo
Signup and view all the answers
¿Cuál es el problema de transparencia en los algoritmos?
¿Cuál es el problema de transparencia en los algoritmos?
Signup and view all the answers
¿Por qué es difícil exigir responsabilidad en la policía predictiva?
¿Por qué es difícil exigir responsabilidad en la policía predictiva?
Signup and view all the answers
¿Qué contribuye al hype de la policía predictiva?
¿Qué contribuye al hype de la policía predictiva?
Signup and view all the answers
¿Qué significa AUC en el contexto de evaluación de modelos predictivos?
¿Qué significa AUC en el contexto de evaluación de modelos predictivos?
Signup and view all the answers
¿Cómo se define la sensibilidad en el contexto del estudio de la valoración policial del riesgo de violencia de género?
¿Cómo se define la sensibilidad en el contexto del estudio de la valoración policial del riesgo de violencia de género?
Signup and view all the answers
El valor predictivo negativo es el número de casos negativos observados dividido entre el total de _____ negativos.
El valor predictivo negativo es el número de casos negativos observados dividido entre el total de _____ negativos.
Signup and view all the answers
Según MARTÍNEZ GARAY y MONTES SUAY, un valor predictivo positivo bajo puede indicar la eficacia de las medidas policiales tomadas.
Según MARTÍNEZ GARAY y MONTES SUAY, un valor predictivo positivo bajo puede indicar la eficacia de las medidas policiales tomadas.
Signup and view all the answers
¿Cuál es el problema principal de los sistemas policiales predictivos?
¿Cuál es el problema principal de los sistemas policiales predictivos?
Signup and view all the answers
Existen bases científicas para inferir emociones en base a las expresiones faciales
Existen bases científicas para inferir emociones en base a las expresiones faciales
Signup and view all the answers
¿Qué es la optimización predictiva?
¿Qué es la optimización predictiva?
Signup and view all the answers
Los sistemas de reconocimiento de rasgos biométricos pueden detectar ________________
Los sistemas de reconocimiento de rasgos biométricos pueden detectar ________________
Signup and view all the answers
¿Qué es VeriPol?
¿Qué es VeriPol?
Signup and view all the answers
¿En qué año se publicó el artículo 'Runaway Feedback Loops in Predictive Policing'?
¿En qué año se publicó el artículo 'Runaway Feedback Loops in Predictive Policing'?
Signup and view all the answers
La editorial de 'The Culture of Control: Crime and Social Order in Contemporary Society' es The University of Chicago Press.
La editorial de 'The Culture of Control: Crime and Social Order in Contemporary Society' es The University of Chicago Press.
Signup and view all the answers
¿Cuál fue el año de la 'Evaluación del Experimento de Policiamiento Predictivo de Shreveport'?
¿Cuál fue el año de la 'Evaluación del Experimento de Policiamiento Predictivo de Shreveport'?
Signup and view all the answers
¿Cuál fue la editorial que publicó 'Against Prediction: Profiling, policing and punishing in an actuarial age'?
¿Cuál fue la editorial que publicó 'Against Prediction: Profiling, policing and punishing in an actuarial age'?
Signup and view all the answers
Según HARCOURT, ¿qué supuso el programa actuarialista en el marco del giro preventivo?
Según HARCOURT, ¿qué supuso el programa actuarialista en el marco del giro preventivo?
Signup and view all the answers
¿En qué consiste el 'giro preventivo' en el sistema de justicia penal?
¿En qué consiste el 'giro preventivo' en el sistema de justicia penal?
Signup and view all the answers
El tecnosolucionismo plantea que los problemas sociales se pueden resolver únicamente a través de la tecnología.
El tecnosolucionismo plantea que los problemas sociales se pueden resolver únicamente a través de la tecnología.
Signup and view all the answers
¿Qué es importante considerar al debatir sobre el uso de herramientas basadas en inteligencia artificial en la labor policial? Se debe tener claro qué está en juego cuando debatimos sobre cualquier aspecto de la ______ o la ______.
¿Qué es importante considerar al debatir sobre el uso de herramientas basadas en inteligencia artificial en la labor policial? Se debe tener claro qué está en juego cuando debatimos sobre cualquier aspecto de la ______ o la ______.
Signup and view all the answers
¿Cuál fue el resultado del estudio de SALGANIK et al. sobre la predictibilidad de la vida?
¿Cuál fue el resultado del estudio de SALGANIK et al. sobre la predictibilidad de la vida?
Signup and view all the answers
¿Por qué NARAYANAN señaló que la aplicación de la inteligencia artificial en el campo de la policía predictiva tiene muchos problemas?
¿Por qué NARAYANAN señaló que la aplicación de la inteligencia artificial en el campo de la policía predictiva tiene muchos problemas?
Signup and view all the answers
La inteligencia artificial en el control policial busca principalmente mejorar la ________ y la eficiencia en la reducción de la delincuencia.
La inteligencia artificial en el control policial busca principalmente mejorar la ________ y la eficiencia en la reducción de la delincuencia.
Signup and view all the answers
El estudio de STAGOFF-BELFORT, BODAH y GILBERT intenta sistematizar los costes sociales asociados al control policial.
El estudio de STAGOFF-BELFORT, BODAH y GILBERT intenta sistematizar los costes sociales asociados al control policial.
Signup and view all the answers
Study Notes
Inteligencia Artificial y Control Policial
- La implementación de la inteligencia artificial en el ámbito del control policial ha generado una perspectiva dual: por un lado, una creciente fascinación y entusiasmo debido a las posibilidades innovadoras, y por otro lado, una serie de preocupaciones y cuestionamientos profundos sobre su implementación y sus posibles implicaciones en términos de derechos y justicia social.
Expectativas sobre la Inteligencia Artificial
- Existe un bombardeo de información constante sobre la inteligencia artificial y las promesas de revolución que conlleva en todos los ámbitos.
- La inteligencia artificial promete, principalmente, aumentar la eficiencia, reducir el coste y optimizar la asignación de recursos en el campo del control policial.
- La inteligencia artificial también promete una alta precisión en las predicciones, al hacer uso de técnicas de aprendizaje automático.
Tipos de Herramientas Basadas en Inteligencia Artificial en el Control Policial
- Sistemas de vigilancia con reconocimiento (de rasgos biométricos, de matrículas, etc.) o procesamiento de texto o lenguaje natural.
- Sistemas de reconocimiento facial, que implican procesamiento biométrico a tiempo real de imágenes capturadas por cámaras de vídeo fijas o móviles.
- Sistemas de reconocimiento automático de matrículas, que procesan en tiempo real las matrículas de los coches y las cotejan con bases de datos policiales o administrativas.
- Sistemas predictivos, también conocidos como "policía predictiva", que predicen el riesgo de comisión de delitos en determinados momentos y lugares.
Problemas Conocidos de las Herramientas Basadas en la Inteligencia Artificial
- La investigación ya ha destacado algunos de los problemas de las herramientas basadas en inteligencia artificial que están utilizando los cuerpos de policía en la actualidad.
- Procesamiento de datos sesgados, que reproducen las desigualdades y discriminaciones existentes en la sociedad.
- Problemas de transparencia y rendición de cuentas en la toma de decisiones y la implementación de estas herramientas.
- Asunciones teóricas detrás de estas herramientas, que pueden ser problemáticas y no siempre se ajustan a la realidad.
Ejemplos de Implementación en España
- VioGén, un sistema que ha evolucionado desde su estadio actuarial al predictivo, y que sirve para predecir el riesgo en casos de violencia de género.
- Pred-Crime, un software para predecir el momento y lugar de ocurrencia de determinados delitos utilizado por la Policía Local de Rivas-Vaciamadrid.### Introducción
- La tecnología de policía predictiva se ha desarrollado para ayudar a la policía a predecir y prevenir delitos.
- Existen dudas acerca de la eficacia y la implantación de estas tecnologías.
Problemas con la tecnología de policía predictiva
- La tecnología de reconocimiento facial reconoce mejor a hombres blancos que a otros grupos.
- La sobrerrepresentación de hombres blancos en losconjuntos de datos de entrenamiento puede llevar a sesgos en los resultados.
- La tecnología de policía predictiva puede incurrir en la falacia de la tasa base, lo que significa que el riesgo de falsos positivos aumenta con el tamaño de los conjuntos de datos.
- La discrecionalidad policial sigue siendo un problema, ya que los agentes pueden elegir dónde instalar cámaras y quién será sometido a vigilancia.
Evaluaciones de la eficacia de la tecnología de policía predictiva
- Algunos estudios muestran resultados positivos, como el uso del algoritmo ETAS (Epidemic Type Aftershock Sequence) para predecir delitos.
- Otros estudios, como el de Hunt, Saunders y Hollywood, no encuentran una reducción significativa de delitos luego de la implementación de un sistema predictivo.
Críticas a la tecnología de policía predictiva
- Algunos autores argumentan que la tecnología de policía predictiva "predice el control policial futuro, no los delitos futuros".
- La investigación periodística de Sankin et al. encontró un patrón consistente en las predicciones de PredPol y recomendaciones: el software recomendaba concentrar patrullas en barrios de mayoría negra o latina y de bajos ingresos.
Consideraciones importantes
- La integridad de los datos utilizados para entrenar el algoritmo es crucial, ya que los datos contaminados pueden llevar a sesgos en los resultados.
- La discrecionalidad policial y los sesgos en la toma de decisiones pueden afectar la eficacia de la tecnología de policía predictiva.
- Es importante considerar la limitación de los indicadores de riesgo relativo, como el AUC, y analizar los valores predictivos positivos y negativos.### Evaluación de las Herramientas Predictivas en la Vigilancia Policial
Limitaciones y Problemas
- La sensibilidad indica el porcentaje de identificación de los verdaderos positivos, y en este caso es relativamente alto (85%).
- La especificidad se refiere al porcentaje de clasificación de los verdaderos negativos, y en este caso es relativamente bajo (53.7%).
- Valores negativos en todos los casos, lo que sugiere que la herramienta no es útil en este supuesto.
- La transición del sistema actuarial a un sistema predictivo alimentado por aprendizaje automático puede crear nuevas incógnitas.
Asunciones Problemáticas
- La primera asunción es que los datos disponibles reflejan la realidad de la delincuencia, lo que es difícilmente armonizable con años de investigación criminológica.
- La segunda asunción es que las dinámicas delincuenciales futuras serán similares a las dinámicas del pasado, lo que es una asunción discutible.
- La tercera asunción es que la intervención policial sugerida por el sistema predictivo es la que se llevará a cabo, lo que no tiene en cuenta las discrepancias entre el "conocimiento" generado por los sistemas predictivos y la experiencia profesional de los agentes de policía.
Transparencia y Rendición de Cuentas
- Los algoritmos que utilizan las herramientas predictivas presentan dos problemas de transparencia: el secreto comercial y la naturaleza de caja negra.
- Derivado de este problema de transparencia existe otro de rendición de cuentas, ya que es difícil exigir responsabilidad en un contexto en el que intervienen una gran variedad de actores.
- Es difícil justificar las actuaciones, ya que los criterios no están definidos previamente y la persona que implementa las recomendaciones del sistema no conoce el "razonamiento" detrás de las predicciones.
Intereses Económicos
- El desarrollo de herramientas que hacen uso de inteligencia artificial para la vigilancia y control de la delincuencia son adjudicadas a empresas privadas por parte de administraciones públicas.
- La Unión Europea financia, directa o indirectamente, empresas que desarrollan varias de estas tecnologías a través de los fondos del programa Horizonte 2020.
- El interés económico no está solo en el desarrollo de estas herramientas sino también en fases posteriores como la supervisión de su uso.
Studying That Suits You
Use AI to generate personalized quizzes and flashcards to suit your learning preferences.
Related Documents
Description
Cuestiones para un debate sobre las aplicaciones de la inteligencia artificial en el ámbito del control policial, desde la fascinación innovadora hasta las preocupaciones éticas. ¿Cómo abordar este tema?
