El Gobierno de Mendoza indicó que habrá doble instancia de control humano de las alertas emitidas con inteligencia artifical.
El Gobierno de Mendoza reglamentó el sistema de reconocimiento facial con IA.
Foto: Yemel Fil
Este jueves, el Gobierno de Mendoza publicó en el Boletín Oficial el decreto reglamentario para el funcionamiento del sistema de videovigilancia de reconocimiento facial, que establece las bases del procedimiento de actuación para la identificación de personas prófugas de la Justicia a través de alertas generadas por inteligencia artificial.
El decreto 1673 establece en qué situaciones podrá utilizarse esta tecnología, cómo deberán validarse las alertas y qué controles se aplicarán para proteger los datos personales y evitar falsos positivos. Este sistema ya está en funcionamiento, generó 107 alertas y permitió aprehender a 23 personas, indicó el Ejecutivo.
Para incorporar una persona a una lista de alertas será necesaria una fuente habilitante verificable, que deberá provenir del Ministerio Público Fiscal o del Poder Judicial, tanto nacional como provincial. Las alertas se activarán solo para tres circunstancias: búsqueda de personas denunciadas como desaparecidas o extraviadas, personas bajo prisión o detención domiciliaria cuando exista una orden judicial que disponga su control mediante esta tecnología, y personas con pedido de captura o detención.
La normativa establece que una alerta de coincidencia tendrá carácter indiciario y no concluyente. Es decir, el resultado del algoritmo no será suficiente por sí solo para considerar identificada a una persona ni para adoptar medidas que restrinjan sus derechos. Además, no serán válidas las alertas que se encuentren por debajo del umbral técnico que determine la autoridad de aplicación mediante una resolución fundada.
Una vez generada una alerta, deberá intervenir una persona para realizar una validación reforzada. El operador habilitado del Centro Estratégico de Operaciones (CEO) deberá verificar la calidad de la imagen, el umbral alcanzado, la correspondencia visual preliminar y el código de alerta.
Si la validación resulta positiva, el CEO comunicará la novedad al personal policial correspondiente y dejará registrada la alerta, el operador interviniente, el horario, la cámara utilizada, la fuente habilitante, el código y los motivos de la actuación. Luego, el personal policial que concurra al lugar deberá realizar una segunda validación humana, mediante una constatación fehaciente de identidad y la verificación de que la medida judicial continúe vigente.
En los casos de búsqueda de paradero, la intervención deberá priorizar el resguardo de la persona y la protección especial de niñas, niños, adolescentes, personas mayores y personas en situación de vulnerabilidad.
La reglamentación considera como dato personal a toda información que permita identificar directa o indirectamente a una persona. Dentro de esta definición incluye imágenes, voz, rasgos físicos, datos biométricos, ubicación, metadatos e identificadores técnicos.
En tanto, el reconocimiento facial será entendido como el tratamiento automatizado o semiautomatizado de imágenes faciales para comparar un rostro captado por las cámaras con una o más imágenes de referencia y generar una hipótesis de coincidencia o similitud. Esto significa que el sistema puede procesar información vinculada con personas que aparecen frente a las cámaras, pero las alertas de reconocimiento facial no podrán utilizarse de manera indiscriminada.
La normativa establece que el sistema solo podrá operar respecto de personas determinadas e individualizadas que estén vinculadas con alguno de los códigos de alerta previstos. Además, queda prohibida la creación informal, paralela o no documentada de listas de personas.
Cuando una alerta genere un evento, el sistema deberá conservar únicamente el extracto de video estrictamente necesario para documentarlo, junto con los metadatos mínimos asociados, según el decreto. Los registros deberán quedar identificados para permitir su recuperación y eventual entrega a una autoridad competente.
De acuerdo con los datos oficiales, el sistema funciona desde el pasado 1 de mayo. Generó 107 alertas, de las cuales el 57% correspondió a pedidos de captura y el 24% a búsquedas de paradero.
Las alertas vinculadas con pedidos de captura permitieron detener a 23 personas buscadas por la Justicia. Entre ellas había individuos requeridos en causas por robos, tentativa de homicidio y hechos de violencia de género. Durante este período no se registraron falsos positivos, aseguró el Gobierno.
