Cybercirujas se suma a la presentación de un amicus curiae para intentar frenar el Sistema de Reconocimiento Facial de Prófugos que impulsó el Gobierno de la Ciudad de Buenos Aires. Si quieren saber más de la movida, hay tiempo hasta el 22 de septiembre para presentar los textos y acá tienen más data.
Dejamos entonces la presentación hecha por Cybercirujas.
Soldán, en representación de Cybercirujas, con sede en Junin y Santa Fe, CABA,presenta este memorial de amicus curiae en el caso 182908/2020-0 relativo al Sistema de Reconocimiento Facial de Prófugos (SRFP) de la Ciudad Autónoma de Buenos Aires.
Cybercirujas es una organización de militancia en torno a las tecnologías informáticas y la utilización de software libre. Nuestro objetivo es recircular computadoras y darles una sobrevida con software libre. Es en este andar a través de distintos espacios que hemos ido construyendo lazos con distintas grupalidades, acercándonos siempre a colectivos trans y de disidencias de género. Con estas grupalidades intentamos construir lazos comunitarios en torno a la reapropiación tecnológica y la construcción colectiva de conocimiento.
Al enterarnos, entonces, del recurso de amparo presentado por el Observatorio de Derecho Informático Argentino en torno al SRFP y al mecanismo de amicus curiae, creímos como grupalidad que debíamos plantar nuestra posición y rechazo ante este sistema totalmente inconstitucional.
En primer lugar, estamos completamente en contra de cualquier sistema de vigilancia que debido a su funcionamiento intrínseco transforme a cada ciudadano en un potencial criminal hasta que el sistema mismo pueda demostrar lo contrario. La utilización de un sistema que funciona bajo estas características viola varios derechos individuales que no hace falta siquiera mencionar.
En segundo lugar, al tratarse de un sistema informático que analiza una base de datos biométricos y que a través de ese análisis determina si una persona es o no es un criminal, resulta fundamental para la ciudadanía conocer y comprender cómo funciona el software. Actualmente no sabemos siquiera si el software está corriendo en servidores dentro de nuestro país o fuera de él. No podemos saber cómo funciona el algoritmo de inteligencia artificial que permite realizar un reconocimiento facial en tiempo real ni cómo analiza o procesa la enorme base de datos biométricos que el Estado posee. Resulta crucial saber estas cosas, ya que se trata de un sistema automatizado que está encargado de lanzar alertas de criminales buscados, ¿cómo no podemos conocer el modo en que esté sistema toma estas decisiones tan importantes? Hay sobrados casos en los últimos años donde distintos ciudadanos y ciudadanas fueron detenidas arbitrariamente debido a las alertas levantadas por el SRFP.
En tercer lugar, y como mencionamos previamente, al ser Cybercirujas una grupalidad amplia que aglutina diversidades, nos preocupa muchisimo este sistema de reconocimiento. Sabemos, porque hay casos comprobados, que este tipo de software de algoritmos de reconocimiento poseen sesgos raciales o de género. Hay varios casos en el mundo donde se ha comprobado esto, y este sistema, del cual sabemos poco y nada, no estará exento de ese tipo de problemas. Siendo las comunidades trans históricamente criminalizadas y perseguidas, preocupa gravemente el accionar de este sistema. No solo las comunidades trans sino cualquier población no-caucásica se encuentra con más chances que un varón blanco cis de ser catalogados como alguno de los criminales que el sistema dice buscar.
En cuarto lugar, toda esta información biométrica que pertenece al Estado argentino y que está resguardada por la ley de protección de datos personales (Ley 25.326) se encuentra a disposición de un algoritmo diseñado por una empresa que no conocemos. Tampoco sabemos si esos datos son procesados en nuestro país o en servidores extranjeros. No sabemos si es posible garantizar la protección de esos datos, que se encuentran manipulados por un software de tercero del que, insistimos, no sabemos absolutamente nada de su funcionamiento.
Por estas y otras razones, desde Cybercirujas nos oponemos firmemente a la utilización de este tipo de sistemas de reconocimiento facial. Esperamos que la Justicia escuche a la ciudadanía y a los especialistas para que puedan entender el riesgo que implica este tipo de sistemas.