EN RESUMEN:
Tres hombres arrestados falsamente basándose en la tecnología de reconocimiento facial se han unido a la lucha contra un proyecto de ley de California, que tiene como objetivo colocar barreras contra el uso policial de esta tecnología. Dicen que seguirá permitiendo abusos y detenciones equivocadas.
Read this story in English
En 2019 y 2020, tres hombres negros fueron acusados y encarcelados por delitos que no cometieron después de que la policía utilizó el reconocimiento facial para identificarlos falsamente. Sus demandas por arresto injustificado aún están pendientes, pero sus casos sacan a la luz cómo las herramientas basadas en inteligencia artificial pueden provocar violaciones de derechos civiles y consecuencias duraderas para las familias de los acusados.
Ahora los tres hombres están hablando en contra de la legislación pendiente de California, que haría ilegal que la policía utilice la tecnología de reconocimiento facial como único motivo para un registro o arresto. Más bien requeriría indicadores que lo corroboren. El problema, dicen los críticos, es que una posible “coincidencia” de reconocimiento facial no es evidencia y que puede desviar las investigaciones incluso si la policía busca pruebas que lo corroboren.
El mes pasado, la Asamblea estatal aprobó el Proyecto de Ley 1814 con una votación de 70-0. Hoy enfrentó una audiencia polémica en el Comité de Seguridad Pública del Senado.
Un proyecto de ley de este tipo “no habría impedido que la policía me arrestara falsamente delante de mi esposa y mis hijas”, dijo Robert Williams a CalMatters en un comunicado. En 2020, la policía de Detroit acusó a Williams de robar relojes por valor de miles de dólares (el primer caso conocido de arresto falso que involucra reconocimiento facial en los Estados Unidos) después de que el reconocimiento facial relacionara un video de vigilancia con una foto de Williams en una base de datos estatal. Los investigadores pusieron su foto en una “fila de abdominales” con otras cinco personas, de la que seleccionó un guardia de seguridad, que había visto una imagen de vigilancia y no el robo en sí.
“En mi caso, como en otros, la policía hizo exactamente lo que AB 1814 les exigiría hacer, pero no ayudó”, dijo Williams, que es negra. “Una vez que el software de reconocimiento facial les dijo que yo era el sospechoso, envenenó la investigación. Esta tecnología tiene prejuicios raciales y es poco confiable y debería prohibirse.
“Les imploro a los legisladores de California que no se conformen con medidas a medias que en realidad no protegerán a personas como yo”.
Las primeras búsquedas de reconocimiento facial en Estados Unidos tuvieron lugar hace más de dos décadas. Es un proceso que comienza con una fotografía de un sospechoso generalmente tomada a partir de imágenes de cámaras de seguridad. El reconocimiento facial de su iPhone está entrenado para coincidir con su foto, pero el tipo utilizado por las agencias de aplicación de la ley busca en bases de datos de fotografías policiales o fotografías de licencias de conducir puede contener millones de fotos y puede fallar de numerosas maneras. Las pruebas realizadas por investigadores han demostrado que la tecnología es menos precisa cuando se intenta identificar a personas de piel oscura, personas asiáticas, nativas americanas, personas que se identifican como transgénero, si la imagen de una sonda de un sospechoso es de baja calidad o si la imagen en una base de datos está desactualizada.
Después de que una computadora reúne una lista de posibles coincidencias a partir de una base de datos de imágenes, la policía elige a un sospechoso entre una serie de candidatos y luego muestra esa foto a un testigo. Aunque la gente tiende a pensar que se les da bien, el testimonio de testigos oculares es una de las principales causas de condenas injustas en los Estados Unidos.
Debido a que los fiscales utilizan el reconocimiento facial para identificar posibles sospechosos pero, en última instancia, se basan en el testimonio de testigos presenciales, la tecnología puede desempeñar un papel en una investigación criminal pero permanecer oculta para los acusados y los abogados defensores.
Las directivas de no considerar una posible coincidencia mediante un sistema de reconocimiento facial como única base para un arresto a veces no hacen ninguna diferencia; no lo hicieron, por ejemplo, en el caso de Alonzo Sawyer, un hombre que fue arrestado falsamente cerca de Baltimore y pasó nueve días en la cárcel.
Nijeer Parks, quien pasó casi un año luchando contra las acusaciones de que robó artículos de la tienda de regalos de un hotel en Nueva Jersey y luego casi atropella a un oficial de policía con un vehículo robado, se manifestó en contra del proyecto de ley de California en un video publicado en Instagram la semana pasada. La policía “no va a hacer su trabajo si la IA ya dice ‘es él’. Eso es lo que me pasó.”
“Tuve suerte”, dijo a CalMatters en una entrevista telefónica sobre un recibo que lo exoneró y lo mantuvo fuera de prisión. “No quiero ver a nadie en la cárcel por algo que no hizo”.
El abogado de Michael Oliver, un tercer hombre negro que fue acusado injustamente de agredir a un maestro de secundaria en Detroit en 2020, testificará en la audiencia legislativa de hoy en Sacramento, dijo la Unión Estadounidense de Libertades Civiles.
“Una vez que el software de reconocimiento facial les dijo que yo era el sospechoso, envenenó la investigación”.
ROBERT WILLIAMS, ARRESTADO ERRONEAMENTE EN DETROIT
Los partidarios del proyecto de ley incluyen la Asociación de Profesores de California y la Liga de Ciudades de California. La Asociación de Jefes de Policía de California sostiene que el reconocimiento facial puede reducir la actividad criminal y proporcionar a la policía pistas procesables, y que dicha tecnología será importante ahora que California busca albergar eventos internacionales como la Copa Mundial de 2026 y los Juegos Olímpicos de Verano de 2028 en Los Ángeles.
“En todo el país, los ejemplos del mundo real de aplicación de la ley que utilizan (tecnología de reconocimiento facial) para resolver delitos graves muestran cuán importante puede ser esta nueva tecnología para proteger a nuestras comunidades”, ha argumentado la Asociación de Jefes de Policía de California. Citó casos en los que dice que el reconocimiento facial jugó un papel en la identificación de los culpables, incluido el tiroteo en la sede de un periódico en Maryland y una violación en Nueva York.
El reconocimiento facial por sí solo nunca debería conducir a arrestos falsos, dijo Jake Parker, de la Asociación de la Industria de Seguridad, a los miembros de la Asamblea de California hace unas semanas. Es por eso que AB 1814 está destinado a corroborar pistas de investigación con evidencia, no solo una posible coincidencia de reconocimiento facial.
“Existe una clara necesidad de reforzar la confianza pública en que esta tecnología se está aprovechando de manera precisa, legal y efectiva, que también sea limitada y no discriminatoria de una manera que beneficie a nuestras comunidades”, dijo. “Por eso creemos que AB 1814 ayudará a reforzar esta confianza y por esa razón les instamos a que apoyen este proyecto de ley en su forma actual”.
“Creo que tener una medida de precaución puede ayudar a proteger la privacidad de las personas y los derechos al debido proceso, al mismo tiempo que permite a los gobiernos locales ir más allá y aplicar sus propias prohibiciones de reconocimiento facial”.
ASAMBLEÍSTA PHIL TING, DEMÓCRATA DE SAN FRANCISCO
Pero más de 50 organizaciones de defensa, incluidas la ACLU, Access Reproductive Justice y Electronic Frontier Foundation, firmaron una carta oponiéndose al proyecto de ley la semana pasada. Calificaron el reconocimiento facial como poco confiable, una amenaza comprobada para los hombres negros y una amenaza potencial para los manifestantes, las personas que buscan abortos y las comunidades de inmigrantes y LGBTQ.
“Al permitir que la policía escanee e identifique a las personas sin limitación, AB 1814 también aumentará las interacciones policiales innecesarias que con demasiada frecuencia tienen el potencial de convertirse en encuentros fatales. Esto seguirá siendo cierto independientemente de cuán precisa sea la tecnología de reconocimiento facial”, dijeron las organizaciones en una carta. “No hay forma de que la gente sepa si se utiliza el reconocimiento facial en su contra ni ningún mecanismo para garantizar que la policía cumpla la ley”.
El autor del proyecto de ley, el asambleísta demócrata Phil Ting, también fue autor de un proyecto de ley de 2019 que inicialmente prohibía permanentemente el uso policial de imágenes de cámaras corporales con reconocimiento facial. Esto se modificó a una prohibición temporal, que finalizó en enero de 2023.
Ting dijo a CalMatters que se siente incómodo con el hecho de que California actualmente no tiene límites sobre cómo las agencias policiales utilizan el reconocimiento facial.
Dijo en un comunicado que su proyecto de ley “simplemente requiere que los agentes tengan pruebas adicionales antes de poder proceder con una búsqueda, arresto o declaración jurada para obtener una orden judicial. Creo que tener una medida de precaución puede ayudar a proteger la privacidad de las personas y los derechos al debido proceso, al mismo tiempo que permite a los gobiernos locales ir más allá y aplicar sus propias prohibiciones de reconocimiento facial”.
La ciudad de San Francisco, de Ting, se convirtió en la primera ciudad importante del país en prohibir el reconocimiento facial en 2019, pero un análisis realizado por el fiscal municipal David Chiu encontró que la aprobación de la Proposición E por parte de la ciudad en marzo permite a la policía realizar búsquedas de reconocimiento facial en imágenes captadas por cámaras y drones. El mes pasado, el Washington Post informó que la policía de San Francisco elude las restricciones solicitando que las fuerzas del orden de las ciudades vecinas lleven a cabo la búsqueda de ellos.
Chesa Boudin, fiscal de distrito de San Francisco, dice que es casi seguro que ha habido arrestos falsos asociados con el uso del reconocimiento facial en California, pero que seguirían siendo desconocidos para el público a menos que los fiscales presentaran cargos y el acusado luego fuera a juicio con una demanda civil solicitando daños y perjuicios. A menudo estos casos se resolvían fuera de los tribunales.
Boudin, quien ahora dirige el Centro de Justicia y Derecho Penal de UC Berkeley, inicialmente reaccionó negativamente al proyecto de ley, pero luego le dijo a CalMatters que había decidido que era “un primer paso importante hacia un enfoque que permita el uso de estas nuevas y poderosas tecnologías mientras creando barandillas y estándares”.
Los legisladores tienen hasta el final de la sesión legislativa de agosto para decidir si aprueban la AB 1814.