Jueces de California están probando un nuevo asistente judicial con inteligencia artificial, y no sabrás si está revisando tu caso

This article is also available in English. Read it here.

Dos de los tribunales más importantes de California están probando una herramienta de inteligencia artificial capaz de redactar órdenes judiciales y elaborar informes de investigación.

Hasta ahora, los jueces lo utilizan principalmente en casos civiles, pero los documentos obtenidos por CalMatters indican la posibilidad de ampliar su aplicación a casos penales, donde están en juego la libertad de las personas y su acceso a la justicia.

El Tribunal Superior del Condado de Los Ángeles inició en febrero un programa piloto para probar una herramienta creada por la empresa Learned Hand. Según Shlomo Klapper, fundador y director ejecutivo de Learned Hand, otros tribunales podrían seguir su ejemplo.

Learned Hand utiliza una combinación de modelos lingüísticos de Anthropic, OpenAI y Google para funcionar como asistente virtual de inteligencia artificial para jueces. La empresa afirma que realiza pruebas de sesgo y precisión, pero aún no ha publicado los resultados.

En el condado de Riverside, que tiene un acuerdo de 10,000 dólares con la empresa para probar el programa, los abogados de derecho civil y sucesiones utilizan principalmente la herramienta para redactar informes de investigación que ayudan a los jueces a tomar sus decisiones. Es habitual que los abogados investigadores asistan a los jueces durante la revisión de los casos.

El Tribunal Superior del Condado de Los Ángeles tiene un contrato de aproximadamente 314,000 dólares que incluye una hoja de ruta para probar el uso de la herramienta en las divisiones penal, familiar y sucesoria. Los funcionarios no describieron en detalle a CalMatters los criterios que están utilizando para evaluar si el uso de la herramienta puede extenderse de forma segura a los tribunales penales y familiares, donde lo que está en juego suele ser mucho mayor que en los casos civiles.

Un juez que habló con CalMatters bajo condición de anonimato debido a las normas de conducta judicial se mostró alarmado cuando sus colegas, durante un almuerzo reciente, comentaron que la tecnología podría utilizarse algún día para evaluar las apelaciones de personas que creen que su condena o sentencia estuvo viciada por prejuicios raciales. Los tribunales de California están tramitando una oleada de estas demandas tras la aprobación de la Ley de Justicia Racial por los legisladores en 2020.

“Me parece indignante”, declaró el juez del Tribunal Superior del Condado de Los Ángeles. “La IA no puede ni podrá jamás sustituir el juicio humano a la hora de evaluar dinámicas sociales complejas. En última instancia, esto erosionará la confianza pública en la competencia e imparcialidad del poder judicial”.

Según documentos obtenidos por CalMatters mediante solicitudes de acceso a la información pública, la mayoría de los tribunales superiores de California cuentan ahora con políticas de uso de inteligencia artificial generativa. El Consejo Judicial estatal les exigió que elaboraran dichas políticas antes de utilizar la tecnología. Aproximadamente una docena de los 51 tribunales que respondieron a las solicitudes de CalMatters indicaron que utilizan herramientas de IA de LexisNexis, Thomson Reuters y Microsoft Copilot.

El uso de la IA en los tribunales es controversial debido a la tendencia de los modelos de IA a citar falsedades y a producir textos aduladores. Según un estudio del MIT de 2025, los modelos de grandes empresas como Google y Anthropic pueden reducir el pensamiento crítico y la actividad cerebral.

Las alucinaciones provocadas por los modelos de lenguaje ya han llegado al sistema judicial. El investigador Damien Charlotin ha documentado cientos de casos de litigantes, abogados y jueces que cometen errores al usar la IA para realizar su trabajo, incluyendo casi 90 casos en tribunales estatales o federales con sede en California desde agosto de 2024.

El otoño pasado, un abogado de Los Ángeles recibió una multa histórica de 10,000 dólares por citar casos inexistentes, y a principios de este mes, el Sacramento Bee informó que el uso de IA provocó errores en cuatro casos gestionados por fiscales del condado de Nevada . La mayoría de estos casos involucran a abogados o personas que se representan a sí mismas en los tribunales, pero profesores de la Facultad de Derecho de UCLA predicen que más jueces cometerán errores impulsados por la IA en el futuro. En los últimos meses, el Senado de los Estados Unidos investigó a jueces federales de Misisipi y Nueva Jersey por redactar decisiones con IA generativa que contenían graves errores de hecho.

Klapper, quien anteriormente trabajó como asistente judicial en un tribunal federal de apelaciones y para la empresa de tecnología de vigilancia Palantir, dijo que el poder judicial necesita la IA para reducir la acumulación de casos y aumentar la eficiencia.

“¿Podríamos contratar a más personal?”, preguntó a CalMatters. “Tal vez, pero no será suficiente para seguir el ritmo del crecimiento exponencial que se avecina, ni para resolver adecuadamente la crisis actual. Creo que la única solución es asignar a cada juez y abogado su propio asistente con inteligencia artificial”.

Klapper afirmó que su objetivo es combinar lo mejor de lo que pueden hacer los jueces humanos con lo mejor de lo que aportan las máquinas.

“No digo que todas las máquinas estén exentas de sesgos”, afirmó. “Ni siquiera digo que mi máquina esté exenta de ellos. Lo que digo es que podemos probarla y que la gente ya lo ha hecho. Y esa es la ventaja sobre los humanos”.

Las políticas de uso de IA generativa para los tribunales superiores de los condados de Los Ángeles y Riverside solo exigen la divulgación si una moción, decisión u otro documento se redacta íntegramente con IA generativa.

Ambos tribunales se negaron a aclarar si los demandantes están al tanto de que la herramienta se está probando en sus casos. En una declaración a CalMatters, un portavoz del Tribunal Superior del Condado de Los Ángeles afirmó que las pruebas se realizan en mociones ya resueltas, al margen de los casos reales. Sin embargo, el contrato permite realizar pruebas en casos reales.

“Es importante señalar que, incluso con una evaluación satisfactoria y pruebas exhaustivas, el Tribunal aún tardará varios meses, si no años, en implementar este tipo de herramienta”, dijo el portavoz.

El contrato permite que la herramienta se utilice para dos mociones cruciales en la división penal: una moción de supresión, diseñada para determinar qué tipo de evidencia puede presentar la fiscalía en el juicio, y mociones de alivio posterior a la condena, presentadas por personas que ya han sido condenadas y desean una nueva oportunidad de obtener la libertad.

Esa es la “mayor preocupación” del fiscal de distrito del condado de Los Ángeles, Nathan Hochman. Al revisar el contrato, se refirió a las mociones como “dos mociones increíblemente importantes en el sistema de justicia penal”.

“Cuando se trata de la libertad de una persona —a diferencia del ámbito civil, que abarca todo lo demás—, lo que está en juego es de suma importancia”, afirmó Hochman. “No quiero arriesgarme, sobre todo en un caso penal, a que la IA se equivoque. Y que se vulneren los derechos constitucionales de alguien. Que alguien vaya a prisión injustamente o, por el contrario, que alguien quede impune”.

‘Una carretera extremadamente peligrosa’

En Los Ángeles, algunos jueces se enteraron del nuevo contrato de Learned Hand durante una presentación en marzo a cargo de las juezas del Tribunal Superior Yvette Verastegui y Olivia Rosales. Ellas dirigen la división penal y visitan juzgados de todo el condado como parte de una gira anual, donde informan a los jueces sobre el funcionamiento de los tribunales, analizan la carga de trabajo y responden preguntas. Durante un almuerzo, Verastegui y Rosales indicaron que la herramienta podría utilizarse en el futuro para ayudar con las peticiones amparadas por la Ley de Justicia Racial.

La Ley de Justicia Racial de California permite impugnar una condena o sentencia penal que se considere basada en prejuicios raciales. Las personas encarceladas en prisiones estatales presentan las peticiones directamente ante el tribunal. Si se determina que un caso tiene fundamento, el proceso incluye la designación de un abogado, la presentación de alegatos y la celebración de audiencias probatorias antes de que un juez decida si concede o no la petición.

Ese proceso podría ser diferente con una herramienta como Learned Hand. Verastegui y Rosales explicaron que, tras la petición de una persona encarcelada, la herramienta podría generar decisiones provisionales para que los jueces las consideren al denegar o aprobar los casos para las siguientes etapas, según un juez que asistió al almuerzo.

“Mi preocupación, por supuesto, es que los tribunales utilicen eso como punto de referencia y se aferren a ese análisis inicial”, dijo el juez. “Es un camino sumamente peligroso. Dejando de lado la inexactitud, que será una preocupación importante, deshumaniza todo el proceso. No trata a las personas como individuos con experiencias vividas. En esencia, reimpone un estilo de justicia uniforme”.

Un segundo juez del Tribunal Superior de Los Ángeles, que habló con CalMatters bajo condición de anonimato, recordó la presentación y dijo que no confiaría en la herramienta ni la utilizaría para resumir una petición amparada en la Ley de Justicia Racial.

La IA puede replicar o intensificar patrones contenidos en los datos utilizados para crear un modelo, incluidos los sesgos humanos. Los grandes modelos de lenguaje tienen un historial de mostrar sesgos raciales y de género ; un análisis de la tecnología de predicción policial utilizada por el Departamento de Policía de Los Ángeles (LAPD) encontró sesgos raciales , y un análisis del algoritmo de evaluación de riesgos COMPAS descubrió que es más probable que etiquete a las personas negras como en riesgo de cometer delitos después del encarcelamiento que a las personas blancas con un historial similar.

Los defensores públicos que hablaron con CalMatters se hicieron eco de esas preocupaciones.

Elizabeth Lashley-Haynes, defensora pública adjunta de la Oficina del Defensor Público del Condado de Los Ángeles, dijo que sería “sumamente problemático y rozaría la falta de ética” que un juez utilizara esa herramienta para revisar las peticiones de la Ley de Justicia Racial, que describió como “increíblemente complejas”.

“No se parecen a nada que se haya hecho antes en el sistema legal”, dijo Lashley-Haynes, especialista en casos de la Ley de Justicia Racial. “Las palabras que se usan en estos casos, que tienen connotaciones o significados raciales, están mucho más allá del alcance de cualquier cosa que la inteligencia artificial pueda hacer”.

En entrevistas con CalMatters, Klapper y el director ejecutivo del Tribunal Superior del Condado de Los Ángeles, David Slayton, negaron que el tribunal tuviera planes de usar la herramienta para peticiones amparadas en la Ley de Justicia Racial. Un portavoz del Tribunal Superior de Los Ángeles confirmó posteriormente en un correo electrónico a CalMatters que el contrato permite el uso de la herramienta de esa manera, pero que dicha posibilidad aún no se ha puesto en práctica.

Klapper afirmó que, si se quisiera desarrollar un módulo sobre la Ley de Justicia Racial, la herramienta tendría que ser evaluada para detectar posibles sesgos y desarrollada conjuntamente con el tribunal.

“El momento es muy oportuno, ¿verdad?”, dijo. “Es una decisión muy delicada, no voy a mentir… hay mucho en juego; entiendo que la gente pueda estar muy preocupada. Sobre todo en lo que respecta a delitos, tengo aún más dudas y más precauciones de lo normal, porque están en juego derechos fundamentales”.

Más allá de los casos civiles

En Los Ángeles, seis jueces del tribunal superior y sus abogados investigadores utilizan principalmente la herramienta Learned Hand para realizar investigaciones, resumir mociones y ayudar en la redacción de resoluciones preliminares, según Slayton. Afirma que la herramienta no se extenderá más allá de la división civil “hasta que la dirección del tribunal se sienta cómoda”.

“El tribunal está siendo muy prudente y cuidadoso en el uso de este tipo de tecnología”, dijo. “Por lo tanto, hasta que no la evaluemos y determinemos que es efectiva en esas áreas, no la extenderemos a otras”.

La herramienta se evaluará trimestralmente para determinar su aplicación futura, dijo Slayton, pero no especificó qué tipo de evaluación implica. En un correo electrónico enviado a CalMatters, un portavoz declaró posteriormente que Learned Hand se evalúa “con los mismos criterios que se aplican a los asistentes legales y abogados investigadores: investigación jurídica precisa, análisis sólido, redacción neutral y apta para jueces, y un trabajo fiable que respalde la toma de decisiones judiciales”.

La jueza del Tribunal Superior del Condado de Los Ángeles, Samantha Jessner, quien preside el Comité Asesor de Tecnología Judicial, declaró que desconocía hasta hace poco la posibilidad de que la herramienta pudiera utilizarse fuera de la división civil. Según explicó, los jueces no participan en las negociaciones de contratos debido a ciertas limitaciones éticas.

“Creo que tenemos el deber y la obligación de explorar si la inteligencia artificial tiene cabida en nuestra labor como poder judicial, y precisamente para eso sirve este programa piloto”, dijo Jessner.

El Tribunal Superior del Condado de Riverside firmó un acuerdo con Learned Hand en febrero. En correos electrónicos obtenidos por CalMatters, Klapper propuso a dos ejecutivos del Tribunal Superior del Condado de Riverside, Jason Galkin y Sarah Hodgson, que el tribunal utilizara la herramienta para una moción civil común y que luego la expandiera rápidamente una vez que se consolidara. Sugirió que Hodgson elaborara una lista de mociones y flujos de trabajo “que generan más problemas”, citando como ejemplo la Ley de Justicia Racial.

Aproximadamente dos semanas después, Hodgson describió las mociones más laboriosas “que pretenden llevarnos a la jubilación”, incluyendo las mociones de descubrimiento de pruebas y las de honorarios de abogados. En los casos penales, el tribunal sugirió que Klapper se centrara en “los asuntos con mayor cantidad de documentación”, citando las peticiones de hábeas corpus en casos de pena de muerte y la revocación de la libertad condicional.

Desde que comenzó el programa piloto, siete abogados especializados en derecho civil y sucesiones han tenido acceso a la herramienta. Galkin, director ejecutivo del Tribunal Superior del Condado de Riverside, afirmó que están evaluando el producto para determinar sus funcionalidades. Aclaró que la herramienta no se está utilizando para redactar resoluciones preliminares.

“Ni siquiera sabemos si es probable que haya una expansión, por lo que no existen criterios establecidos sobre cómo podría ser esa expansión ni umbrales para ello, porque ahora mismo la pregunta fundamental es: ¿Esto ayuda al personal y contribuye al logro de sus objetivos profesionales?”, dijo Galkin.

Mientras se realizan las pruebas, abogados como Hochman afirman que el uso de la IA es inevitable, pero que sería más adecuada para tareas rutinarias, repetitivas y de bajo nivel.

“Es el análisis del caso en sí, junto con las conclusiones a las que se llegará, lo que me genera mucha desconfianza hacia la IA en este momento; en gran parte, porque desconozco todos los datos que utiliza para tomar su decisión. De lo único que estoy completamente seguro es de que la IA no estudió derecho”, afirmó Hochman.

Cayla Mihalovich es becaria de California Local News.