Tecnología
Minority Report en las policías europeas: llegan los sistemas de predicción de delitos

La comisaria europea de Derechos Humanos alerta del uso de algoritmos en sistemas policiales y judiciales de la Unión que atentan contra los derechos ciudadanos.

12 may 2019 12:02

Algoritmos para predecir en qué zonas es más probable que tengan lugar robos u otro tipo de crímenes, algoritmos para ayudar a decidir si imponer prisión preventiva o no a una persona pendiente de juicio. Los algoritmos han llegado y también lo han hecho a los sistemas policiales y judiciales europeos. Y de ello alerta la comisaria de Derechos Humanos en el Consejo de Europa, Dunja Mijatović. “Aunque aún se encuentran en sus etapas experimentales, el uso de algoritmos de aprendizaje automático en los sistemas de justicia penal es cada vez más común”, afirma Mijatović en un texto publicado en la web del Consejo de Europa en el que señalaba los resultados “potencialmente discriminatorios” de este tipo de programas de predicción de delitos.

Como ejemplo, cita PredPol, un programa diseñado por el departamento de policía de Los Ángeles (Estados Unidos) en colaboración con la Universidad de California en Los Ángeles (UCLA) que extrapola los datos de estadísticas criminales CompStat —sí, esa que usaban los policías de la serie The Wire—. ¿Cómo funciona? En la web de PredPol se explica que calcula las predicciones en base a tres tipos de datos: tipo de crimen, localización y fecha y hora. No usa información personal, ni demográfica, étnica o socioeconómica —se afirma en la web—, y los resultados se representan en un Google Map en el que se localizan las áreas con más alto riesgo de delitos cada día y en cada turno. En 2013, la policía de Kent (Reino Unido) compró los derechos de uso del programa por 100.000 libras anuales. Lo probó durante cinco años y en noviembre de 2018 desechó su uso, anunciando que seguirían trabajando en esa dirección, con un nuevo proyecto o construyendo su propio sistema. “Predpol tenía un buen historial de predecir dónde es probable que se cometan los crímenes”, afirmaba entonces John Phillips, superintendente de la policía de Kent, al Financial Times. “Lo que es más difícil es demostrar que hemos podido reducir el crimen con esa información”.

Este programa de algoritmos, así como otros parecidos usados en otras zonas de Reino Unido —como Manchester, Yorkshire o West Midlands— fueron criticados por organizaciones como Big Brother Watch en un informe en el que citaban estudios realizados sobre este tipo de sistemas que concluían que estos refuerzan patrones ya existentes de discriminación y dan lugar a una retroalimentación, conllevando que la policía sea enviada a vecindarios en los que ya hay una presencia excesiva de policías, independientemente de la tasa real de criminalidad.

Otro de los sistemas de algoritmos a los que hace referencia la comisaria de Derechos Humanos europea es la Herramienta de Evaluación de Riesgo de Daños (HART por sus siglas en inglés), usada por la policía de Durham, también en Reino Unido, para decidir si mantener o no a un sospechoso de un delito en custodia o si derivarlo a un programa de rehabilitación. Para ello, Hart utiliza hasta 34 categorías diferentes de datos que van de la edad y el sexo al historial delictivo. Y, al menos hasta abril, también usaba el código postal del sospechoso, lo que desde Big Brother Watch señalan que deriva en la criminalización de la pobreza. Un informe de 2018 elaborado por el Royal United Services Institute for Defence and Security Studies —que no es precisamente un lobby conservador en cuanto a tecnología aplicada a defensa y seguridad— también alertaba de que sistemas como Hart “reproducirán inevitablemente los sesgos inherentes a los datos que se les proporcionan”, lo que perjudicará a las minorías étnicas y religiosas.

Pero más allá de la experiencia británica, este tipo de sistemas de algoritmos también han llegado a otros países de la Unión Europea, como Italia, donde el sistema XLAW se usa en Nápoles y Venecia para prevenir robos, o en Alemania, donde el sistema Precobs —que suena aún más a los precons de Minority Report— se usa ya, de manera corriente o en fase piloto, en los cantones de Aargau, Basel, Baden-Württemberg, Babaria, en Sajonia y en Zug. Precobs también se usa desde 2013 en Zurich (Suiza) para prevención de robos en viviendas.

En España, este tipo de sistemas predictivos también han comenzado a hacerse hueco. A finales de 2015 Rivas (Madrid) fue el primer municipio en comenzar a experimentar con el sistema Pred-Crime. Su policía local lo usó durante nueve meses tras los cuales lo descartaron. “Necesita seguir desarrollándose para ser realmente eficaz”, señalan a El Salto desde el prensa del Ayuntamiento. Diseñada por EuroCop Security Systems, empresa constituida en 2004 y que a día de hoy cuenta con doce empleados y, en 2017, facturó 3,7 millones de euros —casi el doble que en los dos ejercicios anteriores—. En España, su administrador único y director general, financiero, comercial, de márketing y de informática es Ramón García Esteve.

También en 2015, desde la Policía Nacional se comenzó a desarrollar un sistema parecido de la mano del policía científico Miguel Camacho Collados, que en 2014 había recibido una beca Fullbright para estudiar este tipo de sistemas, en colaboración con la Universidad de Granada, la UCLA y la Policía de Los Ángeles, siguiendo la senda de PredPol. Aunque no hay más información sobre el posterior desarrollo de este sistema, desde finales de 2018 sí entró en fase piloto en la Policía Nacional otro sistema basado en algoritmos, en este caso para detectar denuncias falsas, Veripol, también desarrollado por Camacho e instalado ya en todas las comisarías.

Informar de un error
Es necesario tener cuenta y acceder a ella para poder hacer envíos. Regístrate. Entra en tu cuenta.

Relacionadas

Economía social y solidaria
Tecnología Inteligencia Artificial y economía solidaria: ¿posibles aliadas?
¿Cómo debe relacionarse la economía solidaria con una tecnología que vulnera derechos humanos y ambientales constantemente? Cooperativas e investigadoras tecnológicas animan al movimiento a perderle el miedo y a utilizarla de manera crítica.
Inteligencia artificial
Resistencia ante la IA en pos de una transición justa Resistencia ante la IA en pos de una transición justa
No se puede concebir una transición justa sin cuestionar el engranaje de la inteligencia artificial
Inteligencia artificial
Inteligencia artificial La demanda energética de los centros de datos de IA se cuadruplicará para 2030, según un informe
Un estudio de la Agencia Internacional de la Energía predice que los centros de datos aumentarán la demanda de electricidad en un 20% de aquí a 2030 en el Norte global.
#34184
13/5/2019 15:42

En españita los órganos fascistas PN y GC lo hacen desde hace ochenta años.

2
0
#34149
12/5/2019 16:11

La IA tiene el sesgo ideológico de quien la elabora. Es tendenciosa y discriminatoria como toda la estadística en que se basa.
Vamos hacia una idiotización colectiva.

4
0
#34139
12/5/2019 13:02

Cesare Lombroso estaría maravillado con este sistema

4
0
Gasto militar
Rearme Pedro Sánchez anuncia un aumento del gasto militar de más de 10.000 millones de euros
El presidente del Gobierno ha anunciado la intención de cumplir este año con el objetivo de invertir el 2% del PIB en Defensa, para lo que se van a gastar 10.471 millones de euros.
Sáhara Occidental
Sáhara Occidental Crece la indignación por el apoyo de Sánchez a los planes expansionistas de Marruecos en el Sáhara
Los socios del Gobierno y el Frente Polisario acusan al Ejecutivo de Sánchez de dar la espalda al derecho internacional y usar el Sáhara como “moneda de cambio” para mejorar las relaciones con Rabat.
Religión
Iglesia Católica El viaje de Jorge Bergoglio, el papa que intentó reformar la Iglesia y no lo consiguió
De ser acusado de cómplice con la dictadura argentina, Jorge Bergoglio, ya ungido como papa Francisco, se convirtió en una de las principales voces de denuncia de la ultraderecha, del neoliberalismo y las violaciones de los derechos humanos.
Culturas
Cultura Tiphaine Rivière y la necesidad de entender a Bourdieu
La francesa Tiphaine Rivière se enfrenta en ‘La distinción’ (Garbuix, 2025) a la obra de Bourdieu para entender el diálogo entre los diferentes estratos sociales.

Últimas

Eventos
Taller de podcast El Salto invita a estudiantes a explorar las posibilidades del formato audiovisual
Proponemos un taller de guion y producción de programas para estudiantes de comunicación y periodismo los días 24 de abril y 8 de mayo.
Ocupación israelí
Ocupación Israelí Tel Aviv encubre en un informe “lleno de mentiras” el asesinato de 15 trabajadores humanitarios
Una investigación interna admite la masacre realizada el pasado 23 de marzo, pero oculta información, es contradictoria y llena de falsedades, según denuncia la Media Luna Roja y la organización israelí Breaking The Silence.
Opinión
Opinión Defender la Tierra significa desmilitarizar
Buscamos vida en otros planetas mientras despreciamos la vida en la Tierra, ignorando la dignidad de las personas, maltratando su biosfera, y tratando sus recursos como si fueran ilimitados.
Galicia
Medio ambiente Una cementera con emisiones de mercurio proyecta una planta de residuos a metros de un pueblo gallego
Sarria convive desde hace décadas con la contaminación provocada por la cementera de O Oural. Ahora, Votorantim Cimientos proyecta la instalación de una nueva planta para la producción de combustible a partir de la coincineración de residuos.
Más noticias
Humor
Humor Reacciones a la muerte del papa
La viñeta de Mauro Entrialgo sobre las reacciones a la muerte del Papa Francisco
China
Pulsos bajo el cielo Taiwán, la isla hermosa en la encrucijada
En este episodio recorremos la isla de Taiwan para explicar su relación geopolítica con China continental desde la perspectiva de los movimientos indígenas y su música
Poesía
Poesía Poética de un temblor disidente
Frente al mandato de la sobreproducción, Txetxu González propone una poética de la lentitud en ‘Si te preguntas por qué un poco (Orígenes de la hiperestesia)’, una obra híbrida que se mueve entre la poesía, el ensayo y el archivo afectivo.

Recomendadas

Galicia
Galicia Así opera en la sombra la banca en el proyecto de la celulosa de Altri en Galicia
La sociedad público-privada Impulsa Galicia, que cimentó los primeros planes de la multinacional papelera y , está participada fundamentalmente por la Xunta y por el banco que surgió de la desastrosa fusión de la cajas de ahorro gallegas.
Líbano
Líbano Cinco décadas sin paz ni justicia en Líbano
El país mediterráneo conmemora el 50 aniversario desde el inicio de la guerra civil, un conflicto cuyos crímenes no se han juzgado y cuyos desaparecidos no se han encontrado
València
València “‘El vol de Guillem’ ha supuesto la liberación de todos estos años de lucha”
Ricard Tàpera, autor del cuento, y Betlem Agulló, hermana de Guillem Agulló, que ha puesto voz a la historia, nos explican cómo ha sido el proceso de creación de esta obra coral, ilustrada por Helga Ambak.