Regulación de reconocimiento facial: AB 2261 es una solución esperada desde hace mucho tiempo

El año pasado, un agente de la ley de California navegaba por una plataforma de redes sociales y se topó con la fotografía de un niño desaparecido, publicada por el Centro Nacional para Niños Desaparecidos y Explotados. Después de tomar una captura de pantalla, el oficial introdujo la imagen en el sistema de reconocimiento facial que arrojó una lista de anuncios sexuales en línea que mostraban a niña desaparecida. 

Los delincuentes habían estado traficando con la niña durante semanas hasta su descubrimiento y rescate final. De manera similar, en Nueva York, la policía utilizó tecnología de reconocimiento facial arrestar a un violador acusado dentro de las 24 horas posteriores a amenazar a una mujer con un cuchillo. El Centro Nacional para Niños Desaparecidos y Explotados nos dice que de los casi 26.300 fugitivos Según informes de 2019, una de cada seis probablemente era víctima de trata sexual infantil.  

En situaciones de lucha contra el crimen en las que el tiempo es esencial, como la localización de niños desaparecidos, no hay duda de que la tecnología de reconocimiento facial es y ha sido increíblemente útil. Ahora que estamos luchando contra el COVID-19 e implementando tecnología de sensores sin contacto para medir la temperatura corporal y rastrear a las personas, la tecnología de reconocimiento facial vuelve a estar en primer plano. 

Si bien esta tecnología ofrece algunos beneficios, su uso también plantea serios desafíos. Por ejemplo, existen preocupaciones legítimas con respecto a la precisión de estos sistemas en algunos grupos raciales o étnicos, y varios estudios han descubierto sesgos en los algoritmos de reconocimiento facial. También hay denuncias sobre el uso de sistemas de reconocimiento facial por parte de entidades estatales y privadas para atacar a inmigrantes y personas de color, y para oprimir a las minorías religiosas y desalentar la libre expresión. 

Es evidente que la incursión de la tecnología de reconocimiento facial en nuestra vida cotidiana ya está presente, pero tenemos pocas herramientas para descubrir o limitar su uso. ¿Por qué? Porque no existe una regulación integral sobre la tecnología de reconocimiento facial.

En otras palabras, existe un vacío legal y regulatorio que deja la puerta abierta a nuevos abusos. Algunos municipios han prohibido el uso de tecnología de reconocimiento facial por parte de entidades públicas, pero las entidades privadas siguen sin estar reguladas en gran medida. Recientemente, el ACLU preguntó 20 de los operadores de tiendas físicas más grandes si utilizan tecnología de reconocimiento facial. Sólo una negó afirmativamente haberlo usado, una verificó que efectivamente lo usaban para la prevención de pérdidas y las otras 18 tiendas se negaron a responder la pregunta. 

No podemos dejar que un puñado de ciudades con visión de futuro regulen este espacio. La creación de una prohibición tipo tablero de ajedrez en todo el estado no aborda completamente los problemas de discriminación. Debemos responsabilizar a las entidades públicas y privadas por igual y todos en todo el estado deben recibir protecciones fundamentales contra los usos invasivos y discriminatorios de esta tecnología. 

El sentido común dicta que tomemos el control de la tecnología, en lugar de dejar que ella nos controle a nosotros. 

Deberíamos establecer un marco que permita el aviso previo, el consentimiento afirmativo, pruebas independientes para detectar sesgos y una revisión humana significativa, en lugar de permitir que los algoritmos impulsen las decisiones. Para uso gubernamental, deberíamos exigir mayor transparencia y participación y aprobación local. En cuanto a las investigaciones de lucha contra el crimen, las órdenes de registro y la causa probable deberían ser los principios básicos. 

Proyecto de Ley 2261 de la Asamblea, que he presentado, es la solución esperada desde hace mucho tiempo para regular el uso de la tecnología de reconocimiento facial por parte de entidades públicas comerciales, estatales y locales. 

La última vez que el estado intentó regular integralmente la tecnología de reconocimiento facial fue hace unos 20 años con el Proyecto de Ley del Senado 169, que no fue aprobado. Hoy en día, dondequiera que vayamos parece haber una cámara de vigilancia vigilándonos. Si no se toman medidas inmediatas y decisivas para regular esta tecnología, será cada vez más difícil regularla en el futuro porque cada día más entidades implementan servicios de reconocimiento facial sin limitaciones. 

¿Queremos esperar otras dos décadas sólo para mirar hacia atrás y darnos cuenta de que, una vez más, fracasamos en proteger nuestra privacidad individual? Personalmente me niego a hacerlo. No estoy dispuesto a quedarme de brazos cruzados y observar la expansión desenfrenada de una tecnología potencialmente invasiva. 

_____

Ed Chau es un demócrata del condado de Los Ángeles y representa al Distrito 49 de la Asamblea. es el presidente del Comité de Privacidad y Protección del Consumidor de la Asamblea. Para contactar al asambleísta, por favor hágalo en Assemblymember.Chau@assembly.ca.gov. Escribió este comentario para CalMatters.