REDACCIÓN 'EL OBSERVATORIO'
En el corazón del sistema penitenciario catalán, un silencioso 'operador' toma decisiones que pueden cambiar el destino de los presos. Se llama RisCanvi, un algoritmo desarrollado para evaluar el riesgo de reincidencia de los prisioneros que solicitan la libertad condicional o tercer grado. Sin embargo, la presencia de esta máquina en un proceso tan crítico ha dividido a expertos y ha desatado un debate sobre su transparencia y su papel en la justicia penal.
Mientras todos conocemos las hazañas de las grandes empresas tecnológicas al utilizar algoritmos para traducir el mundo real a un lenguaje digital, pocos saben que la administración pública en Cataluña emplea una operación similar pero en este caso para evaluar el riesgo de reincidencia de los reclusos.
En 2009, el Departamento de Justicia catalán lanzó el protocolo RisCanvi, una herramienta que influye en las decisiones de libertad condicional. Aunque las autoridades argumentan que el algoritmo solo proporciona orientación a los jueces, su influencia en la toma de decisiones en los tribunales de aquella comunidad ha sido objeto de controversia, con abogados denunciando su impacto negativo en las vidas de los presos.
En un mundo donde Reino Unido y Estados Unidos adquieren sistemas similares de empresas privadas, Cataluña optó por desarrollar RisCanvi en sus propias instituciones públicas. El Grupo de Estudios Avanzados en Violencia de la Universidad de Barcelona, en colaboración con los servicios penitenciarios, creó este algoritmo que considera hasta 43 factores de riesgo divididos en categorías personales, sociales, penales y penitenciarias.
Según Luis Caperochipi Cabasés, abogado por la Universidad de Deusto, en sus 14 años de funcionamiento, RisCanvi había evaluado hasta 2022 a casi 38.000 internos, sometiéndolos a revisiones cada seis meses. A pesar de un 77 % de precisión en casos de riesgo alto o moderado de reincidencia y un 4,6 % de falsos negativos, se revela una cifra impactante: un 82 % de falsos positivos, personas clasificadas como propensas a reincidir que no lo hacen. Esto ha llevado a críticas por parte de letrados y expertos que se sienten indefensos ante las decisiones del algoritmo basadas en estadísticas impersonales en lugar de la situación particular de cada individuo.
Un equipo multidisciplinario de la prisión es responsable de evaluar el informe que alimenta el algoritmo, pero las estadísticas muestran que solo en un 3,2 % de los casos se ha contradicho la decisión de la máquina. Aunque inicialmente diseñado para detectar el riesgo de reincidencia, RisCanvi también se ha revelado como una herramienta para predecir suicidios y autolesiones, y desempeña un papel crítico en casos de sociopatía, donde la objetividad es esencial.
Aunque la Inteligencia Artificial de RisCanvi ha mejorado el proceso de toma de decisiones, la falta de transparencia y la incapacidad de someterlo a auditorías plantean dudas sobre su funcionamiento y la posibilidad de sesgos discriminatorios. A pesar de no haber evidencia de vulneraciones de derechos fundamentales en Cataluña, ejemplos como el algoritmo Compas en los Estados Unidos, señalado por discriminar a personas de color, plantean preocupaciones.
La cuestión de si es preferible dejar en libertad a cien culpables o encarcelar a cien inocentes sigue dividiendo a la sociedad. RisCanvi, el algoritmo que decide el futuro de los reclusos en Cataluña, es un elemento clave en este debate en constante evolución.