fbpx
#ChileenCrisis #Plan9Especial #Plan9Originals El Infinito

Reconocimiento facial en Chile: En camino a la distopía cyberpunk11 min read

6 febrero, 2020 8 min read

author:

Reconocimiento facial en Chile: En camino a la distopía cyberpunk11 min read

Cuánto me demoro? 8 minutes

El reconocimiento facial a gran escala existe hace varios años. No hay novedad en eso. Facebook, por ejemplo, tiene la opción de etiquetar gente en fotos desde hace más de una década. En Google, si ingresas una foto de tu cara en la búsqueda inversa, te da resultados similares (tomando en cuenta elementos como el fondo o los colores en la fotografía), y la mayoría de los teléfonos de alta gama posee lector facial para su desbloqueo. En todo caso, Occidente es un niño de pecho ante China, que, fiel a su estrategia de adaptar 1984 en formato políticas públicas, está usando la tecnología para el genocidio racial.

Esta tecnología lleva años junto a nosotros. Sin embargo, desde que Chile implotó el pasado 18 de octubre, han surgido figuras siniestras que quieren ampliar su uso para asegurar el «orden» y la «paz social«. Y sí, con figura siniestra me refiero a Joaquín Lavín y a su sistema de reconocimiento facial empleado en Las Condes, pero el hombre supernumerario del Opus Dei no es el único. De hecho, hace no mucho se encontró una licitación en Mercadopublico para instalar 1000 cámaras de televigilancia a lo largo y ancho de todo Chile con la finalidad de hacer nada menos que reconocimiento facial en nombre de la seguridad.

No, nos estamos volviendo paranoicos, estamos empezando a vivir la distopía cyberpunk, solo que ahora no es cool.

Una lección de historia

La cibernética es la ciencia que estudia en forma abstracta los principios de organización de sistemas complejos. Lo importante no es cómo se componen estos sistemas, sino que cómo funcionan.

A finales de 1960,  Heinz von Foerster publicó Cybernetics of Cybernetics, en que postulaba la idea de una cibernética de segundo orden, en la que el observador también es parte del sistema.

¿Cuál es el punto? La cibernética se encarga del funcionamiento de los sistemas, ya sean mecánicos, electrónicos o sociales. La cibernética de segundo orden entrega un marco de estudio sobre cómo las sociedades se organizan a sí mismas, o, como diría Humberto Maturana, cómo se autorregulan.

El reconocimiento facial, las cámaras de vigilancia, las redes sociales donde subimos fotos y los distintos usos que les damos a nuestros rostros se incorporan directamente dentro de las teorías de von Foerster. Es cibernética de segundo orden. Porque aunque no sepamos que estamos siendo filmados o que nuestra cara figura en una base de datos de Google o Facebook, nuestro comportamiento se ve afectado por ello.

Para ahondar más en el tema, el documental alemán Das Netz incluye una entrevista con von Foerster en la que explica un poco más en profundidad su teoría, además de ser una breve síntesis de las ideas en los campos de sociología, cibernética y ciencias políticas desarrolladas durante el siglo XX, que están agarrando mucha fuerza en la actualidad. Así también están disponibles las Macy Conferences, reuniones interdisciplinarias de científicos realizadas entre 1941 y 1960 que son material útiles como puerta de entrada para entender estos ítems a los legos como nosotros.

¿Cómo funciona?

No se trata de magia, el reconocimiento facial funciona de la siguiente forma: se utiliza datos biométricos y una base de datos de fotografías (la que puede ser creada por medio de fotografías para el carnet, fichas policiales o de redes sociales) para crear una especie de mapa facial y dar con características claves. La más importante es la geometría de cada cara, es decir, la distancia entre ambos ojos y la distancia de la frente hasta el mentón. Eso crea una firma facial que se ingresa al programa de reconocimiento, en el cual un algoritmo compara y busca patrones con las caras dentro de la base de datos.

Como no tenemos un doctorado en ciencias de la computación ni big data (con cuea cambiábamos el HTML de esta weá de sitio), solo podemos darles una sencilla síntesis sobre cómo funciona todo eso. En primer lugar, se le enseña al computador a través de un algoritmo a reconocer un rostro. Cada vez que se le presenta una nueva cara, el algoritmo debe estimar dónde se encuentra.

En primera instancia, los algoritmos son peores que nuestros reportajes sobre tecnología, pero, con el tiempo, desarrollan la habilidad de reconocer caras.

En segundo lugar está el reconocimiento de un rostro determinado. Para esto, se utiliza otra red neuronal, que es alimentada con una serie de distintos rostros y a través de rondas aprende a distinguir uno de otra. Algunas usan datos biométricos y otras lo hacen utilizando una serie de vectores faciales que luego son comparados con los rostros en las bases de datos.

Debido a los últimos avances en la tecnología del big data, de redes neuronales artificiales y de motores gráficos (GPU), la capacidad de análisis hoy se está haciendo cada vez más rápida y eficiente. Esto, sumado al fácil acceso a bases de datos de fotografías con los que cuentan grandes empresas en el área de tecnología (Flickr, Instagram, Google y Facebook y, Fotolog), la inversión en el área de reconocimiento facial ha aumentado exponencialmente, en gran medida para poder utilizarlo en marketing, pero ¿realmente funciona?

Según los estudios realizados por el National Institute of Standars and Technology (NIST) de Estados Unidos entre 2010, 2014 y 2018, los sistemas de reconocimiento facial mejoraron en 20 veces su capacidad de encontrar símiles en bases datos de 12 millones de fotografías tipo retrato. Para esto evaluaron 127 algoritmos de 39 desarrolladores distintos, encontrando que solo el 0.2% de las búsquedas en 2018 fallaron, mientras que en 2014 esa cifra equivalía al 4% y, en 2010, al 5%.

También encontraron que los algoritmos que arrojaron mejores resultados utilizan un softwares de aprendizaje automáticos llamadsos Convolutional Neural Networks, dejando en claro que la mejora exponencial en estos sistemas ha revolucionado la industria.

Un reportaje de Wired publicado en julio de 2018, expone el prejuicio/sesgo que presentan los sistemas de reconocimiento facial. Estos softwares son diseñados y alimentados por seres humanos que tienen sus propios prejuicios, lo que da lugar a situaciones como que, por ejemplo, tengan problemas para reconocer rostros de mujeres negras.

Y no solo se trata sobre el tono de la tez, también está el problema con respecto a los rostros de adolescentes y niños. Un reportaje del New York Times publicado en agosto de 2019 señalaba que existe un mayor riesgo de falsos emparejamientos entre rostros de jóvenes. También expone que el Departamento de Policia de New York (NYPD) ha alimentado dicha tecnología con rostros de adolescentes entre 13 y 16, e incluso con niños de tan solo 11 años de edad.

Como si esto fuera poco, The Intercept reveló que IBM comenzó a desarrollar dicho software utilizando videos confidenciales de la NYPD. La excusa usada fue una amenaza terrorista. Al respecto, Jonathan Connell, investigador de IBM, señaló:

‘’Mira lo que hicieron los terroristas antes. Y podrían volver. Dénnos dinero y nosotros pondremos una cámara allí.

Un informe realizado por el NITS en 2018, arrojó que en la mayoría de los 100 algoritmos de reconocimiento facial probados existían problemas para encontrar coincidencias o pares en rostros de niños. Los errores eran más pronunciados en niños pequeños, sin embargo, también existían en el rango entre los 10 y 16 años. La apariencia de estos pude cambiar drásticamente, ya que los huesos se agrandan y cambian, alterando de forma considerable la estructura facial.

Sin embargo, Chile es Chile y somos campeón mundial en copiar superficialmente a los países desarrollados para envolver nuestra podredumbre institucional, por lo que contamos con el único Mall de América Latina con sistema de reconocimiento facial, dejando en claro que no hemos aprendido nada de la experiencia internacional en el tema.

El que nada hace, nada teme

En el caso de Estados Unidos, la excusa utilizada fue el terrorismo. En nuestro país, se trata de la delincuencia. Crear un ambiente de constante miedo, en que la población acepte medidas represivas para combatir un enemigo imaginario. Totalitarismo 101.

Lo que los líderes populistas que apelan a la seguridad nacional suelen pasar por alto es que existe una clara relación entre la desigualdad de ingresos y la tasa de crímenes en un país dado.

Según un artículo de The Economist que toma en cuenta una encuesta realizada por Gallup a 148.000 personas en 142 países, los crímenes como asalto a mano armada (el buen lanzazo) disminuyen en la medida que la desigualdad de ingresos (medida a través del coeficiente de Gini) cae también.

Como mencionábamos en el breve apartado histórico, la función de las cámaras y la implementación de softwares de reconocimiento facial es la autoregulación de la sociedad; no aumentar la sensación de seguridad. Busca que estemos en constante estado de alerta con respecto a nuestras reacciones corporales, la forma en que nos comportamos y cómo nos relacionamos con el entorno.

En todo caso, como se han encargado de recordarnos en Hong Kong, todavía es fácil burlar el reconocimiento facial con medidas como maquillaje simétrico y otros trucos que confunden a las máquinas (sí, todavía podemos evitar el juicio final, John Connor).

1. El reconocimiento facial viola el derecho a la privacidad de las personas: vulnera la protección de nuestra identidad permitiéndole al Estado y empresas privadas un monitoreo constante sin autorización previa.

2. Tiene claros efectos en la democracia: La vigilancia constante puede impedir que personas atiendan a eventos públicos, manifestaciones sociales, se acerquen a organizaciones como la comunidad LGTBI o eviten ciertos lugares por miedo a ser asociados a agrupaciones de activismo político. Es una clara vulneración de los derechos de reunión, asociación y expresión.

3. Opera sin marco legal ni regulación: En la actualidad, nuestro país no cuenta con leyes especializadas en reconocimiento facial. Por lo tanto, entramos en un espacio donde es posible obtener imágenes sin nuestro consentimiento o conocimiento para fines desconocidos.

4. El reconocimiento facial aumenta la vigilancia: Es lógico. Sin embargo, lo que queremos plantear es que esta tecnología permite a los gobiernos una vigilancia sin precedentes en la historia. Una vigilancia constante, sin tiempos muertos, en cualquier lugar donde se instalen cámaras, registrando cada uno de nuestros movimientos.

5. Se pasa por la raja el consentimiento ciudadano: Debido a la falta de marco regulatorio, a la forma en que está empleado y a la carencia de información específica de los lugares en que se utiliza, la capacidad de entregar nuestro consentimiento informado se ve vulnerada, dejando tanto al estado como a los privados recopilar y utilizar nuestros datos biométricos.

6. Derecho la oscuridad de la identidad: Para esto, un ejemplo: el navegador más utilizado en Rusia, Yandex, tiene por defecto en su búsqueda inversa de imágenes el reconocimiento facial. Al introducir una foto de cualquier persona, arroja resultados relacionados directamente a ella, lo que puede dar paso a que cualquier desconocido nos tome una foto en la vía pública y encuentre información sobre nosotros.

7. Permite la creación de listas de seguimiento refinadas: Al menos en Chile, debido al leak de información de Carabineros, tenemos la certeza que la institución lleva a cabo un seguimiento de dirigentes sociales, periodistas y agrupaciones de trabajadores. El reconocimiento facial sería un catalizador del estado de vigilancia en estos casos.

8. Incentiva la creación de perfiles raciales en instituciones de seguridad pública: Ya en Estados Unidos existen casos de departamentos de policias que han utilizado software de reconocimiento facial para crear objetivos directamente vinculados a etnias o colores de piel distintos. En nuestro país, Carabineros ha creado una campaña del terror entorno a las comunidades mapuches.

9. Va contra las resoluciones de las Naciones Unidas: En 2014, Naciones Unidas llegó a la resolución de que la vigilancia estatal no es necesaria ni proporcional, además de vulnerar el derecho a la privacidad de toda persona. La implementación del reconocimiento facial solo debe ser justificada bajo los principios de legalidad, necesidad y proporcionalidad.

Por eso en Plan9 invitamos a todos nuestros lectores a investigar más sobre el tema e instar a los legisladores de sus distritos a comenzar iniciativas para regular o de lleno prohibir el uso de reconocimiento facial. Aún estamos a tiempo de hacer algo al respecto, antes que sea tarde y nuestros países se conviertan en estados totalitarios como China. Porque si vamos a ser una distopía, mínimo que seamos Mad Max. Onda, ahí los autos por lo menos son bacanes.

Comenta o muere

김치볶음밥