La iniciativa de ODIA: https://amicus.odia.legal/
El sistema de reconocimiento facial es una aplicación que identifica automáticamente a una persona mediante un análisis de las características faciales del sujeto extraídas de cámaras de vídeo y comparándolas con una base de datos en la que los sujetos ya estan identificados.
Toda aplicación de reconocimiento facial está basada en tecnologías de aprendizaje automático, comúnmente denominado machine learning. Los algoritmos de reconocimiento facial deben ser entrenados con bases de datos en donde aprenden cómo reconocer a las personas de acuerdo a sus rasgos faciales. Estas bases de datos utilizadas para entrenar los algoritmos determinan directamente el tipo de características que se consideran relevantes para identificar un rostro. Es decir, si se utilizan solamente videos o fotos de personas de una etnia, género o edad en particular, el algoritmo se especializa en reconocer esos casos específicos pero no reconoce otros tipos de personas.
Hay evidencia de público conocimiento[1][2][3] que demuestra cómo la implementación de las cámaras de reconocimiento facial puede atentar contra las poblaciones menos representadas de la sociedad.
Si las bases de datos utilizadas para entrenar al sistama no son curadas desde una perspectiva de representatividad social que incluya las personas pertenecientes a etnias o caracterésticas minoritarias, el sistema entonces tendrá pocos ejemplos de donde aprender para reconocerlas adecuadamente. Incluso habiendo cuidado estos aspectos el sistema de reconocimiento facial, por su naturaleza de aprendizaje y generalización inductiva, tendrá invariablemente distintos márgenes de error por lo que se deben tomar decisiones humanas de calibración (por ejemplo aceptar mayor tasa de errores con determinado segmento poblacional, o priorizar falsos negativos por sobre falsos positivos, etc.).
En el caso de nuestro país, dada la diversidad y complejidad de su composición, es necesario un peritaje público de que los modelos estén adaptados a las características de las poblaciones que habitan el estado, y que no se atente contra poblaciones menos representadas.
En este sentido el estado debe disponibilizar públicamente el set de datos que se ha utilizado para crear estos modelos, las decisiones técnicas en la elaboración del modelo, y la transparencia del mismo.
La búsqueda de prófugos de la justicia no habilita al estado a avanzar sobre los derechos individuales en términos de privacidad, libre asociación y presunta inocencia.
La recoleccion masiva de datos biométricos por parte del estado sin el conscentimiento previo de parte de las personas entra en contravención con la Ley 25.326 de datos personales. En la misma se expresa claramente la necesidad de informar previamente a los titulares de los datos en forma expresa y clara la finalidad para la que serán tratados los datos (biométricos), y dar la posibilidad de ejercer los derechos de acceso, rectificación y supresión de los mismos.
La obtención de datos y metadatos individuales, tales como características físicas, sin autorización por parte de los individuos, se ubica como una práctica por fuera del estado de derecho, en el que se presupone que todos los individuos deben ser examinados para comprobar su inocencia.
Cabe resaltar que todo sistema informático es vulnerable, producto de fallas de software o uso de protocolos informáticos inadecuados para el manejo de datos. Es por esto que ademas de exponer el código del sistema para poder ser auditado, es deber del estado informar cómo y dónde se guardan los datos, qué mecanismos de seguridad hay para limitar quienes acceden a ellos, qué registros hay de tales accesos, y cómo hacen para que esos datos no se utilicen para otros fines.
En la misma cuna de la industria informática (San Francisco, EEUU) se ha prohibido su utilización debido a los riesgos que estas conllevan, en tanto manipulación, errores en la identificacion, sesgos con minorias y privacidad de los datos. [4]
La utilización de cámaras de reconocimiento facial por parte del estado, por el cual puede monitorear y controlar vastos espacios públicos e identificar las personas que circulan en ellos, nos remite inequívocamente a la vigencia del espacio público sucedida en los peores momentos de nuestra historia reciente [5].
El peligro implícito en la utilización de esta tecnología supera con creces las ventajas que la misma pretende brindar a la sociedad.
Les camaradas de cybercirujas mandaron también un amicus: https://cybercirujas.sutty.nl/2021/09/15/cybercirujas-en-contra-del-sistema-de-reconocimiento-facial-de-pr%C3%B3fugos.html
Y un post al respecto en: https://rebelion.digital/2021/09/14/en-contra-del-sistema-de-reconocimiento-facial-de-profugos/