Inteligencia artificial y violencia contra las mujeres:¿ funcionan los sistemas automatizados de evaluación del riesgo?

Abstract

Este trabajo presenta un análisis reflexivo de la violencia contra la mujer basado en la valoración automatizada del riesgo mediante sistemas informáticos que hacen uso de algoritmos de inteligencia artificial. Se toma como punto de partida la Sentencia de la Audiencia Nacional de 30 de septiembre de 2020, que condena al Ministerio del Interior español a pagar una indemnización en concepto de responsabilidad patrimonial del Estado por un error de cálculo. Se estudia el sistema de valoración empleado en España (VioGen) con perspectiva crítica.

This work presents a reflective analysis of violence against women based on computer-mediated automated risk assessment using artificial intelligence algorithms. A Judgment of the National Audience dated 30 September of 2020, which condemned the Spanish Ministry of the Interior to pay a compensation due to a calculation error, is the starting point of the research. The Spanish risk assessment system applied to gender-based violence cases (VioGen) is studied from a critical perspective.