La principal experta en tecnología de la Legislatura estatal se enfrenta a la industria con un proyecto de ley sobre la Inteligencia Artificial

Read this story in English

La asambleísta demócrata Jacqui Irwin, ex conocedora de la tecnología, se enfrenta a la industria con un proyecto de ley de gran alcance que requeriría que los desarrolladores de inteligencia artificial revelen qué datos utilizan para “entrenar” sus sistemas.

“La confianza del consumidor en los sistemas de IA no ha crecido al mismo ritmo rápido que la adopción de la industria”, dijo Irwin en una audiencia el mes pasado. “Muchos consumidores tienen preguntas válidas sobre cómo se crean estos sistemas y servicios de IA”.

La preocupación de Irwin sobre la IA es notable ya que ella puede ser la principal experta de la Legislatura en la industria tecnológica y, ocasionalmente, su defensora.

Cuando era una joven ingeniera en el laboratorio de física aplicada de la Universidad Johns Hopkins, se le asignó la tarea de solucionar problemas en los lanzamientos de los misiles nucleares Trident II de la Marina de los EE. UU., lo que la convirtió en la única científica espacial real de la Legislatura.

Ella es una ex ingeniera de Teledyne Technologies, un conglomerado global aeroespacial y tecnológico con sede en la ciudad natal de Irwin, Thousand Oaks. 

Preside el Caucus de Innovación y Tecnología Legislativa de California y un grupo de trabajo legislativo nacional sobre IA, ciberseguridad y privacidad].

También ha sido una de las favoritas de las grandes empresas tecnológicas, y alguna vez fue autora de una legislación que los críticos acusaron de debilitar las protecciones de privacidad digital de California, en nombre de la industria tecnológica con la que tenía estrechos vínculos familiares. En ese momento, su marido era el director de operaciones de Ring, propiedad de Amazon.

El destacado grupo de presión TechNet la declaró en 2017 “Legisladora del año”. 

Pero ahora TechNet y casi todos los demás grupos de presión que representan a las principales empresas tecnológicas se oponen a su última legislación, el Proyecto de Ley de la Asamblea de 2013. La influyente Cámara de Comercio de California también se opone al proyecto de ley, que la Asamblea estatal votó 56-8 para pasar al Senado la semana pasada.

El mes pasado, Ronak Daylami, de la Cámara , dijo al Comité de Privacidad y Protección al Consumidor de la Asamblea, del que forma parte Irwin, que el proyecto de ley de Irwin podría exponer los secretos comerciales cuidadosamente guardados de las empresas de tecnología.

“Si bien puede que no sea obvio a primera vista”, dijo Daylami, “la experiencia y el juicio, así como la selección real de datos y conjuntos de datos elegidos para entrenar un modelo de IA específico, son en sí mismos propietarios”.

¿La divulgación evitaría el sesgo de la IA?

Pero Irwin dijo que su proyecto de ley daría a los consumidores una herramienta poderosa para comprender mejor la tecnología emergente, que ha generado alarmas de privacidad después de que se reveló que las empresas de tecnología utilizaron reconocimiento facial, publicaciones en redes sociales y material protegido por derechos de autor, como obras de arte y artículos de noticias, para entrenar a sus seres artificiales software de inteligencia.

Irwin dijo que el requisito de revelar datos de entrenamiento también podría ayudar a proteger contra posibles sesgos en la toma de decisiones del software de IA. 

Dijo que el tema despertó su interés en una reunión reciente de la Conferencia Nacional de Legislaturas Estatales donde escuchó a un grupo de médicos discutir el uso de IA en la dispensación de medicamentos. El problema, dijo, era que no estaba claro si dichos sistemas tenían sesgos inherentes, ya que las empresas no están obligadas a revelar los datos que utilizaron para entrenar sus sistemas. 

Se preguntó: ¿Qué pasaría si fuera como un ensayo clínico de un fármaco que solo probara el medicamento en hombres blancos de los suburbios, en lugar de en un grupo diverso de pacientes cuyos cuerpos podrían reaccionar de manera diferente?

“Con estos dispositivos médicos de IA, realmente deberías saber en qué grupo fue entrenado”, dijo. 

En términos más generales, Hayley Tsukayama, defensora legislativa de la Electronic Frontier Foundation, comparó los requisitos de divulgación con la capacidad de leer una lista de ingredientes que forman parte de una comida.

“En ocasiones, la lista de ingredientes es mucho más fácil de analizar que intentar probar un plato al final y descubrir qué contiene”, dijo.

Irwin posee Amazon y acciones tecnológicas 

El proyecto de ley de divulgación de la IA no es la primera incursión de Irwin en la regulación de la tecnología desde que se unió a la Asamblea en 2014.

Su oficina proporcionó lo que llamó una lista “no exhaustiva” de otros 13 proyectos de ley de tecnología y ciberseguridad escritos por Irwin, la mayoría de los cuales fueron aprobados. A algunos de ellos también se opuso la industria tecnológica, que ha donado al menos 288,000 dólares a sus campañas a lo largo de los años, según la base de datos Digital Democracy.

Desde 2015, los votos de Irwin se han alineado con la posición de TechNet sobre los proyectos de ley el 28% de las veces, según un análisis de Digital Democracy.

Sin embargo, su legislación tecnológica más controversial fue un proyecto de ley de 2019 que, según los críticos, habría debilitado la histórica Ley de Privacidad del Consumidor de California del estado. La ley otorga a los californianos autoridad legal para ordenar a las empresas de tecnología que les digan qué información personal han recopilado, y los clientes pueden decirles a las empresas que la eliminen y no la vendan. 

En ese momento, el esposo de Irwin, Jon, era el director de operaciones de Ring, propiedad de Amazon, lo que plantea la apariencia de un conflicto de intereses dado que la Ley de Privacidad regulaba la empresa.

Irwin insistió en que no había ninguno. En ese momento, le dijo al medio de prensa Político que era ofensivo suponer que estaba trabajando en nombre de la empresa de su marido, dada su experiencia y experiencia profesional.

Desde entonces, Jon Irwin dejó Amazon para convertirse en director de operaciones de CENTEGIX, una empresa de tecnología que fabrica dispositivos portátiles de alerta de emergencia y sistemas de seguridad para escuelas y otras instituciones, según su página de LinkedIn.

El asambleísta informó a los funcionarios de ética estatales el año pasado que la familia vendió acciones de Amazon, valoradas entre 300,000 y 3 millones de dólares. Los funcionarios de ética estatales permiten a los legisladores informar amplios rangos del valor de su cartera de acciones cuando presentan sus declaraciones financieras anuales. 

Las declaraciones de divulgación de Irwin muestran que también adquirió al menos 60,000 dólares en inversiones en criptomonedas, inteligencia artificial y semiconductores el año pasado.

En su entrevista de la semana pasada con CalMatters, Irwin se negó a proporcionar una cifra más precisa sobre las ventas de acciones de Amazon o abordar sus otras inversiones recientes en tecnología. Dijo que cumplió con los requisitos de divulgación de ética del estado y que sus inversiones y las de su esposo no influyen en su proceso de toma de decisiones.

“Tomo cada decisión basándome en lo que es mejor para mis electores”, dijo. “No necesito que nadie cuestione nada de lo que hago, por eso siempre somos muy cuidadosos con cada decisión”.

Más bien, dijo que se interesó en la legislación sobre tecnología y ciberseguridad porque su experiencia la hacía ideal para ello. Incluso, se ha propuesto educar a sus colegas legisladores sobre ciberseguridad.

“Puedes hablar con cualquiera de mis compañeros; A la mayoría de ellos les tomé el teléfono y les dije: ‘Dios mío, ya sabes, tu teléfono te está rastreando; Estas aplicaciones te están rastreando. Apaguemos los dispositivos de localización y hagamos una autenticación de dos pasos’”, dijo. “En el caucus, me levanto y le digo a la gente cómo hacer que sus teléfonos sean más seguros”. 

Tsukayama, defensor legislativo de la Electronic Frontier Foundation, dijo que Irwin definitivamente conoce temas tecnológicos complicados tan bien o mejor que nadie en la Legislatura, incluso si el grupo de derechos del consumidor digital a veces se opone a su legislación.

“No siempre hemos estado de acuerdo con ella”, dijo Tsukayama, “pero rara vez se debe a su malentendido sobre cómo funciona la tecnología”.

El reportero de economía de CalMatters, Levi Sumagaysay, y el reportero de datos, Jeremia Kimelman, contribuyeron a esta historia.