Inteligencia Artificial

'RisCanvi', el algoritmo que decide tu libertad

Un 'ordenador' decide en Cataluña el destino de los reos tras las rejas, decidiendo mediante cálculos matemáticos si un recluso reincidirá o no en sus delitos al salir de la cárcel
Montaje Redacción: Fotos iStock | Vitalii Pasichnyk | holwichaikawee

REDACCIÓN 'EL OBSERVATORIO'

En el corazón del sistema penitenciario catalán, un silencioso 'operador' toma decisiones que pueden cambiar el destino de los presos. Se llama RisCanvi, un algoritmo desarrollado para evaluar el riesgo de reincidencia de los prisioneros que solicitan la libertad condicional o tercer grado. Sin embargo, la presencia de esta máquina en un proceso tan crítico ha dividido a expertos y ha desatado un debate sobre su transparencia y su papel en la justicia penal.

Mientras todos conocemos las hazañas de las grandes empresas tecnológicas al utilizar algoritmos para traducir el mundo real a un lenguaje digital, pocos saben que la administración pública en Cataluña emplea una operación similar pero en este caso para evaluar el riesgo de reincidencia de los reclusos.

En 2009, el Departamento de Justicia catalán lanzó el protocolo RisCanvi, una herramienta que influye en las decisiones de libertad condicional. Aunque las autoridades argumentan que el algoritmo solo proporciona orientación a los jueces, su influencia en la toma de decisiones en los tribunales de aquella comunidad ha sido objeto de controversia, con abogados denunciando su impacto negativo en las vidas de los presos.

En un mundo donde Reino Unido y Estados Unidos adquieren sistemas similares de empresas privadas, Cataluña optó por desarrollar RisCanvi en sus propias instituciones públicas. El Grupo de Estudios Avanzados en Violencia de la Universidad de Barcelona, en colaboración con los servicios penitenciarios, creó este algoritmo que considera hasta 43 factores de riesgo divididos en categorías personales, sociales, penales y penitenciarias.

Según Luis Caperochipi Cabasés, abogado por la Universidad de Deusto, en sus 14 años de funcionamiento, RisCanvi había evaluado hasta 2022 a casi 38.000 internos, sometiéndolos a revisiones cada seis meses. A pesar de un 77 % de precisión en casos de riesgo alto o moderado de reincidencia y un 4,6 % de falsos negativos, se revela una cifra impactante: un 82 % de falsos positivos, personas clasificadas como propensas a reincidir que no lo hacen. Esto ha llevado a críticas por parte de letrados y expertos que se sienten indefensos ante las decisiones del algoritmo basadas en estadísticas impersonales en lugar de la situación particular de cada individuo.

Un equipo multidisciplinario de la prisión es responsable de evaluar el informe que alimenta el algoritmo, pero las estadísticas muestran que solo en un 3,2 % de los casos se ha contradicho la decisión de la máquina. Aunque inicialmente diseñado para detectar el riesgo de reincidencia, RisCanvi también se ha revelado como una herramienta para predecir suicidios y autolesiones, y desempeña un papel crítico en casos de sociopatía, donde la objetividad es esencial.

Aunque la Inteligencia Artificial de RisCanvi ha mejorado el proceso de toma de decisiones, la falta de transparencia y la incapacidad de someterlo a auditorías plantean dudas sobre su funcionamiento y la posibilidad de sesgos discriminatorios. A pesar de no haber evidencia de vulneraciones de derechos fundamentales en Cataluña, ejemplos como el algoritmo Compas en los Estados Unidos, señalado por discriminar a personas de color, plantean preocupaciones.

La cuestión de si es preferible dejar en libertad a cien culpables o encarcelar a cien inocentes sigue dividiendo a la sociedad. RisCanvi, el algoritmo que decide el futuro de los reclusos en Cataluña, es un elemento clave en este debate en constante evolución.

Noticias relacionadas

Adiós a las 24 horas: se 'acercan' los días de 25 horas

La rotación de la Tierra podría modificar el tiempo y aumentar en una hora los días. Todo hace pensar que ya no habrá nadie en nuestro planeta cuando cuando este suceda, pero los científicos ya avisan de ello

Las 8 tecnologías del futuro que ahora están en fase de desarrollo

La vanguardia tecnológica del mañana: un viaje por las innovaciones menos conocidas y que cambiarán las reglas del juego científico

El enigma del Manuscrito Voynich: 600 años de misterio sin resolver

Explorando el fascinante mundo de un libro que desafía a la decodificación y que tiene perpleja a la comunidad científica

Los 11 lugares más remotos de la Tierra, casi desconocidos para los humanos

Rincones inexplorados, que muchos de nosotros no sabemos ni que existen, donde la soledad se fusiona con la naturaleza