Un juez de Estados Unidos canceló un juicio después de descubrir que los abogados de ambas partes habían usado ChatGPT para preparar sus escritos. Los cuatro implicados citaron casos judiciales inventados, generados por herramientas de IA que simplemente alucinaron jurisprudencia inexistente. La jueza del caso no solo suspendió el proceso, sino que expulsó a todos los abogados involucrados y les impuso sanciones económicas.

Según recoge 404 Media, el caso giraba en torno a una disputa contractual sobre honorarios entre el abogado Tom Withers y la ciudad de Aberdeen, Mississippi. Aunque este asunto podría pasar desapercibido a simple vista, el caso cobró relevancia luego de que ambas partes recurrieran a IA para construir sus argumentos. Esto llevó al abogado Rob Freund, habitual seguidor de estos casos, a definirlo como una "comedia de errores de IA" en la que dos clientes estaban pagando esencialmente para que ChatGPT debatiera contra sí mismo.

Esta situación hizo que la jueza Sharion Aycock perdiera la paciencia y tomara medidas extraordinarias. La magistrada señaló que el tribunal se encontraba "una vez más" lidiando con alucinaciones de IA en documentos judiciales, y que el caso era un ejemplo de cómo las personas aprueban sin revisar los resultados de estas herramientas. Dos de los abogados quedaron inhabilitados para comparecer ante ese tribunal durante dos años y recibieron multas de entre 1.000 y 3.500 dólares, según el grado de responsabilidad de cada uno.

En la audiencia celebrada en enero, los cuatro abogados expresaron vergüenza y pidieron disculpas. Uno reconoció haber usado IA para investigación legal, mientras que otra admitió haber utilizado una herramienta llamada First Drafts para redactar íntegramente los escritos. Los otros dos dijeron que simplemente firmaron documentos preparados con IA sin revisarlos.

Uno de los abogados continuó usando la IA sin verificar los datos Kathleen Wilson, una de las implicadas en este fiasco, tiene un agravante notable. Tras ser sancionada en el caso de Mississippi, la abogada continuó usando IA en otros procedimientos sin revisar los resultados. Otros jueces encontraron casos alucinados en sus escritos de abril, cuatro meses después de que la juez Aycock le exigiera explicaciones.

La cuarta abogada implicada, Kathryn Williams, usó una herramienta de investigación legal que, según el fabricante, no debería generar casos inventados. El problema es que estaba diseñada para la jurisdicción habitual de su despacho, no para Mississippi. Este episodio se enmarca en una tendencia que los tribunales estadounidenses llevan tiempo denunciando.

Jueces de todo el país han expresado su frustración ante abogados que presentan citas jurisprudenciales fabricadas por modelos de lenguaje sin tomarse la molestia de comprobar si existen. La semana anterior a este caso, un tribunal de Nueva York tuvo que lidiar con una situación similar. El problema de fondo no es el uso de IA en sí, sino la falta de verificación.

Ninguna de estas herramientas garantiza la exactitud de sus resultados en contextos legales, por lo que confiar ciegamente en ellas para preparar documentos que un juez va a leer tiene consecuencias reales. En el caso de Mississippi, el juicio quedó cancelado y los abogados recibieron sanciones ejemplares, aunque la peor parte la llevaron los clientes, puesto que pagaron por un servicio que nunca estuvo a la altura de lo que necesitaban.