La inteligencia artificial generativa continúa transformando industrias a un ritmo vertiginoso, pero su aplicación irresponsable en el ámbito judicial está comenzando a tener consecuencias penales y económicas severas. En un fallo que sienta un importante precedente para la ética legal en la era digital, el Tribunal Supremo de Nuevo México ha sancionado al abogado Stephen Aarons por presentar argumentos basados en datos totalmente ficticios generados por algoritmos de inteligencia artificial en el marco de una apelación por homicidio.
Según informes publicados por la agencia Reuters, el máximo tribunal estatal impuso a Aarons una multa de 5.000 dólares y lo declaró en desacato por no cumplir con el deber fundamental de su profesión: verificar rigurosamente la veracidad de los hechos y los fundamentos jurídicos antes de remitirlos a un juez. Este incidente representa uno de los casos más graves documentados hasta la fecha sobre el uso imprudente de modelos de lenguaje en el derecho penal.
El caso de Nuevo México: Testigos fantasma y testimonios inexistentes
El conflicto se originó durante el recurso de apelación de un cliente de Aarons que había sido condenado por homicidio. En el escrito presentado ante la corte, el abogado incluyó citas directas de supuestos testigos clave y declaraciones atribuibles a oficiales de policía que, en teoría, respaldaban la inocencia o la reducción de condena del acusado.
Sin embargo, cuando la fiscalía y los magistrados revisaron detenidamente el expediente y las transcripciones originales del juicio, descubrieron algo insólito: ni los testimonios existían en los registros oficiales, ni los supuestos testigos habían declarado jamás en el proceso. Las declaraciones policiales citadas en el documento eran invenciones absolutas.
El tribunal determinó que el letrado incurrió en desacato al no verificar las afirmaciones fácticas y legales incluidas en su recurso, delegando de forma implícita la argumentación jurídica en un sistema automatizado no supervisado.
El propio letrado tuvo que admitir que había recurrido a herramientas de inteligencia artificial generativa para redactar y estructurar partes de su apelación. El software, al enfrentarse a peticiones de texto complejo, sufrió el fenómeno conocido como "alucinación", redactando testimonios convincentes pero completamente falsos.
¿Qué son las alucinaciones de la IA y por qué amenazan al sector legal?
Para comprender cómo un abogado experimentado pudo cometer un error de tal magnitud, es necesario analizar el funcionamiento interno de las herramientas basadas en Grandes Modelos de Lenguaje (LLM, por sus siglas en inglés), como ChatGPT, Claude o Gemini. Estas tecnologías no son motores de búsqueda tradicional ni bases de datos verificadas; son modelos estocásticos diseñados para predecir la palabra más probable que debe seguir a otra en función de patrones matemáticos.
Cuando a un LLM se le solicita información específica y esta no se encuentra directamente disponible en su conjunto de entrenamiento, el algoritmo tiende a inventar nombres, fechas, citas bibliográficas o antecedentes judiciales para dar una respuesta estructurada y sintácticamente coherente. Este fenómeno se denomina alucinación.
El peligro en el ámbito del derecho penal
En el periodismo o el entretenimiento, una alucinación algorítmica puede ser una simple anécdota o una errata. Sin embargo, en el sistema judicial, y especialmente en el derecho penal donde están en juego la libertad de las personas y el debido proceso, la invención de pruebas o testimonios constituye una falta gravísima que roza el fraude procesal.
- Vulneración del debido proceso: Introducir elementos probatorios falsos contamina el expediente y distorsiona la administración de justicia.
- Desdefensa del cliente: Lejos de ayudar al acusado, presentar argumentos ficticios invalida la estrategia de defensa y perjudica gravemente sus posibilidades legítimas de apelación.
- Perdida de tiempo y recursos públicos: Obliga a los fiscales y magistrados a invertir horas de trabajo verificando citas y testimonios que no existen.
De Mata v. Avianca a los tribunales estatales: Un patrón en aumento
El caso de Stephen Aarons en Nuevo México no es un incidente aislado, sino el capítulo más reciente de una inquietante tendencia que comenzó a ganar visibilidad global en 2023. El antecedente más célebre ocurrió en Nueva York con el caso Mata v. Avianca, donde dos abogados fueron multados por presentar un recurso lleno de jurisprudencia y fallos judiciales inventados por ChatGPT.
Desde entonces, los tribunales de diferentes partes del mundo han presenciado cómo profesionales de la ley citan leyes inexistentes, sentencias fantasma y, ahora en Nuevo México, testigos falsos. La diferencia sustancial radica en que los casos iniciales involucraban jurisprudencia ficticia en litigios civiles, mientras que la situación de Aarons cruza la línea hacia la invención de hechos y testimonios en un juicio por asesinato.
El deber de diligencia y el futuro de la IA en la abogacía
Frente a este escenario, diversos colegios de abogados y cortes supremas en Estados Unidos y Europa están promulgando normativas estrictas para regular el uso de herramientas tecnológicas en la práctica jurídica. Las nuevas directrices no prohíben el uso de la inteligencia artificial para tareas secundarias como la redacción inicial o el borrador de documentos, pero establecen normas éticas ineludibles:
- Obligación de verificación humana (Human-in-the-loop): El abogado es legal e individualmente responsable de cada palabra y cita contenida en los documentos firmados y presentados ante el juez.
- Declaración explícita de uso de IA: Varios juzgados exigen que los letrados certifiquen mediante declaración jurada si han utilizado IA generativa en la preparación de sus alegatos.
- Sanciones disciplinarias incrementadas: Las multas económicas de 5.000 dólares como la impuesta a Aarons se suman a posibles suspensiones de la licencia profesional y cargos por desacato.
El Tribunal Supremo de Nuevo México ha dejado claro que la tecnología no puede utilizarse como excusa para eximir a los profesionales de su deber fundamental de rigurosidad. La decisión envía un mensaje tajante a toda la comunidad jurídica: la responsabilidad ética y legal sigue siendo 100% humana.
Conclusión: La tecnología como herramienta, nunca como sustituto
El caso de Stephen Aarons marca un hito en la fiscalización del uso de la tecnología en la justicia. La inteligencia artificial posee un potencial enorme para agilizar procesos, analizar grandes volúmenes de texto y democratizar el acceso a la información legal. Sin embargo, cuando se elimina la supervisión crítica del profesional, los riesgos para el estado de derecho son inaceptables.
Para los profesionales del derecho y los observadores de la industria tecnológica en DudeHide, esta sanción pone de manifiesto que el futuro de la IA en sectores regulados dependerá no solo del avance de los algoritmos, sino del rigor ético con el que los humanos decidan utilizarlos.
