Cómo trabajan juntos California y la Unión Europea para regular la Inteligencia Artificial

Read this story in English

Si bien el gobierno federal parece contento con sentarse y esperar, más de 40 estados de EE. UU. están considerando cientos de proyectos de ley de regulación de la AI. 

California, con su estatus de estado tecnológico y su enorme economía, tiene la oportunidad de liderar el camino. De hecho, tanto es así que la Unión Europea está tratando de coordinar con el Estado las leyes de IA. La UE abrió una oficina en San Francisco en 2022 y envió a un enviado tecnológico, Gerard De Graaf, para comunicar mejor las leyes y regulaciones en torno a la IA. 

Estamos viviendo lo que De Graaf llama “el año de la IA”. De Graaf y la subdirectora de la oficina de la UE en San Francisco, Joanna Smolinska, dijeron a CalMatters que si los legisladores de California aprueban la regulación de la IA en los próximos meses, el estado puede convertirse en un abanderado de la regulación de la IA en los Estados Unidos. En otras palabras: las leyes de California podrían influir en el futuro de la IA tal como la conocemos.

El mes pasado, De Graaf viajó a Sacramento para hablar con varios legisladores estatales clave para la regulación de la IA: 

• La asambleísta Rebecca Bauer-Kahan, demócrata de San Ramón, es autora de un proyecto de ley que exige que las empresas y las agencias estatales informen los resultados de las pruebas de modelos de IA en un esfuerzo por prohibir la discriminación automatizada. 
• El senador estatal demócrata Scott Wiener de San Francisco es el autor de un proyecto de ley para regular la IA generativa 
• La asambleísta Buffy Wicks, demócrata de East Bay, es autora de un proyecto de ley que requeriría que las plataformas en línea coloquen marcas de agua en imágenes y videos generados por IA, a veces denominados deepfakes, antes de las elecciones de este otoño. 
• Y el senador Tom Umberg, presidente del Comité Judicial del Senado, a quien Politico se refirió como el “principal guardián de las reglas de IA de California”. 

La reunión para discutir los proyectos de ley fue al menos el sexto viaje que De Graaf u otros funcionarios de la UE realizaron a Sacramento en dos meses. Los funcionarios de la UE que ayudaron a redactar la Ley de IA y el vicepresidente de la Comisión de la UE, Josep Fontelles, también viajaron a Sacramento y Silicon Valley en las últimas semanas.

Esta semana, los líderes de la UE pusieron fin a un proceso de años con la aprobación de la Ley de IA, que regula el uso de la inteligencia artificial en 27 países. Prohíbe el reconocimiento de emociones en la escuela y en el lugar de trabajo, prohíbe las puntuaciones de crédito social como las que se utilizan en China para recompensar o castigar ciertos tipos de comportamiento y algunos casos de vigilancia predictiva. La Ley de IA aplica etiquetas de alto riesgo para la IA en la atención médica, la contratación y la emisión de beneficios gubernamentales.

Existen algunas diferencias notables entre la ley de la UE y lo que están considerando los legisladores de California. La Ley de IA aborda cómo los organismos encargados de hacer cumplir la ley pueden utilizar la IA, mientras que el proyecto de ley de Bauer-Kahan no, y el proyecto de ley de marcas de agua de Wicks podría terminar siendo más estricto que los requisitos de la Ley de IA. Pero los proyectos de ley de California y la Ley de IA adoptan un enfoque de regulación basado en el riesgo, ambos recomiendan pruebas y evaluaciones continuas de formas de IA consideradas de alto riesgo, y ambos exigen que se pongan marcas de agua en los resultados de la IA generativa.

“Si tomamos estos tres proyectos de ley juntos, probablemente alcancemos entre el 70% y el 80% de lo que cubrimos en la Ley de IA”, dijo De Graaf. “Es una relación muy sólida de la que ambos nos beneficiamos”.

En la reunión, De Graaf dijo que discutieron proyectos de ley de IA, evaluaciones de riesgos y sesgos de la IA, modelos avanzados de IA, el estado de las imágenes y videos con marcas de agua creados por IA, y qué temas priorizar. La oficina de San Francisco trabaja bajo la autoridad de la delegación de la UE en Washington DC para promover la política tecnológica de la UE y fortalecer la cooperación con figuras políticas y tecnológicas influyentes en los Estados Unidos.

La inteligencia artificial puede hacer predicciones sobre las personas, incluidas qué películas quieren ver en Netflix o las siguientes palabras de una oración, pero sin altos estándares y pruebas continuas, la IA que toma decisiones críticas sobre la vida de las personas puede automatizar la discriminación. La IA tiene un historial de dañar a las personas de color, como el uso policial del reconocimiento facial, al decidir si se concede una solicitud de hipoteca para un apartamento o una casa . La tecnología tiene una capacidad demostrada de afectar negativamente las vidas de la mayoría de las personas, incluidas las mujeres, las personas con discapacidades, los jóvenes, los ancianos y las personas que solicitan beneficios gubernamentales.

En una entrevista reciente con KQED, Umberg habló sobre la importancia de lograr un equilibrio e insistió en que “podríamos equivocarnos”. Muy poca regulación podría tener consecuencias catastróficas para la sociedad, y demasiada podría “estrangular la industria de la IA” que considera a California como su hogar.

La coordinación entre funcionarios de California y de la UE intenta combinar iniciativas regulatorias en dos mercados excepcionalmente influyentes.

La mayoría de las principales empresas de IA tienen su sede en California y, según el rastreador de startups Crunchbase, durante los últimos ocho meses, las empresas del Área de la Bahía de San Francisco recaudaron más dinero de inversión en IA que el resto del mundo combinado.

El Reglamento General de Protección de Datos, más conocido como GDPR, es la legislación de protección de la privacidad más conocida de la Unión Europea. También llevó a acuñar el término “efecto Bruselas”, cuando la aplicación de una sola ley genera una influencia enorme en otros países. En este caso, la ley de la UE obligó a las empresas de tecnología a adoptar protecciones de usuario más estrictas si querían acceder a los 450 millones de residentes de la región. Esa ley entró en vigor en 2018, el mismo año en que California aprobó una ley similar. Más de una docena de estados de Estados Unidos hicieron lo mismo.

Definición de AI

La coordinación es necesaria, dijo De Graaf, porque la tecnología es una industria global y es importante evitar políticas que compliquen que las empresas cumplan con las reglas en todo el mundo. 

Uno de los primeros pasos para trabajar juntos es una definición compartida de cómo definir la inteligencia artificial para acordar qué tecnología está cubierta por una ley. De Graaf dijo que su oficina trabajó con Bauer-Kahan y Umberg sobre cómo definir la IA “porque si para empezar tienes definiciones muy diferentes, entonces la convergencia o armonización es casi imposible”.

Dada la reciente aprobación de la Ley de IA, la ausencia de acción federal y la complejidad de regular la IA, los abogados del personal judicial del Senado celebraron numerosas reuniones con funcionarios y personal de la UE, dijo Umberg a CalMatters en un comunicado. La definición de IA utilizada por el comité Judicial del Senado de California se basa en varias voces, incluidas agencias federales, la Organización para la Cooperación y el Desarrollo Económico y la UE.

“Creo firmemente que podemos aprender del trabajo de los demás y regular responsablemente la IA sin dañar la innovación en este entorno dinámico y que cambia rápidamente”, dijo Umberg a CalMatters en una declaración escrita.

El trío de proyectos de ley discutidos con De Graaf en abril fueron aprobados por sus respectivas cámaras esta semana. Sospecha que las preguntas de los legisladores de California se volverán más específicas a medida que los proyectos de ley se acerquen a su adopción. 

Los legisladores de California propusieron más de 100 proyectos de ley para regular la IA en la actual sesión legislativa. 

“Creo que lo que ahora es imperativo para la Legislatura es reducir los proyectos de ley a un número más manejable”, dijo. “Quiero decir, hay más de 50, por lo que nos centramos particularmente en los proyectos de ley para estos asambleístas o senadores”. 

Agencia estatal también busca proteger la privacidad de los californianos

Los funcionarios electos y su personal no son los únicos que hablan con los funcionarios de la UE. La Agencia de Protección de la Privacidad de California, una agencia estatal creada para proteger la privacidad de las personas y exigir que las empresas cumplan con las solicitudes de eliminación de datos, también habla periódicamente con funcionarios de la UE, incluido De Graaf.

La mayoría de los estados con leyes de protección de la privacidad dependen de los fiscales generales estatales para su aplicación. California es el único estado con una agencia independiente con autoridad para auditar empresas, imponer multas o llevar a las empresas ante los tribunales, dijo el director ejecutivo de la agencia, Ashkan Soltanti, porque elementos clave de la ley de protección de la privacidad de la UE influyeron en la formación de la ley de privacidad de California. De Graaf y Soltani testificaron sobre las similitudes entre las definiciones de IA en California y la UE en una audiencia del comité de privacidad de la asamblea en febrero.

“Las raíces de la agencia se inspiraron en gran medida en el Reglamento General de Protección de Datos (GDPR)”, dijo Soltani. “Hay un interés y un objetivo y, de hecho, nuestro estatuto nos dirige a, cuando sea posible, asegurarnos de que nuestro enfoque sea armonioso con los marcos de otras jurisdicciones, no sólo estatales sino también a nivel internacional”.

Soltani fue contratado cuando se creó la agencia en 2021. Le dijo a CalMatters que la coordinación internacional es una gran parte del trabajo. Después de contratar personal y abogados, una de sus primeras tareas fue unirse a la Asamblea Global de Privacidad, un grupo de 140 autoridades de privacidad de datos de todo el mundo. California es el único estado de EE. UU. que es miembro del grupo.

La alineación es importante para establecer las reglas de juego para las empresas, pero también para que los consumidores se protejan a sí mismos y a sus comunidades en un mundo digital donde las fronteras se difuminan.

“No piensan si están haciendo negocios con una empresa de California, una empresa europea o una empresa asiática, especialmente si todo está en inglés, simplemente piensan que están interactuando en línea, por lo que tener marcos consistentes de protección beneficia en última instancia a los consumidores”, dijo Soltani.

Al igual que los legisladores de California, la Agencia de Protección de la Privacidad de California está en el proceso de redactar reglas sobre cómo las empresas utilizan la IA y protecciones para consumidores, estudiantes y trabajadores. Y al igual que la Ley de IA, los proyectos de normas exigen evaluaciones de impacto. Su junta de cinco miembros considerará convertir las normas en ley en julio.

El último día del año calendario legislativo para que los legisladores de California aprueben un proyecto de ley es el 31 de agosto.