Por qué los prompts genéricos fallan en derecho argentino

Los modelos de IA generativa fallan de tres maneras predecibles cuando los aplicás al ámbito jurídico. No son fallas aleatorias: se pueden anticipar, se pueden medir y, sobre todo, se pueden evitar. Te muestro los tres tipos de error que encontrás más seguido y qué hacer para no firmarlos.

El problema de fondo: predicen, no entienden

Antes de hablar de fallas, hay que tener claro qué hace exactamente un modelo de lenguaje. ChatGPT, Claude, Gemini y todos los demás funcionan prediciendo qué palabra es más probable que aparezca a continuación. No tienen una base de datos de fallos a la cual consultar. No verifican fechas. No saben si una norma fue derogada.

Esto, en derecho, importa. Porque cada palabra que firmamos tiene consecuencias. Y porque los tribunales no aceptan "el modelo me dijo" como excusa.

Falla 1 · Alucinación de citas

Es la más conocida. Le pedís al modelo un fallo sobre cualquier tema y te entrega una cita perfecta: tribunal, autos, fecha, considerando. Todo coherente, todo verosímil, todo falso.

El modelo no inventa por mala fe. Predice qué cita "debería" existir según el patrón del lenguaje jurídico que ya vio. Predice bien la forma. La verdad es secundaria.

En Estados Unidos hay sanciones disciplinarias firmes contra abogados que presentaron escritos con jurisprudencia inventada por ChatGPT. En Argentina viene un caso. Es cuestión de tiempo.

La solución no es dejar de usar IA. La solución es no copiar nunca una cita generada por IA sin verificarla en SAIJ, Infoleg o IJ Editores. Cuatro chequeos antes de pegar al escrito: tribunal existe, autos existen, considerando coincide, fallo no fue revocado.

Falla 2 · Generalización fuera del derecho aplicable

El corpus de entrenamiento de los modelos es global. Si en tu prompt no aclarás explícitamente que querés derecho argentino, el modelo te promedia entre todas las jurisdicciones que más vio: España, México, Estados Unidos.

Lo que termina pasando es que el modelo te cita el Código Civil español, te aplica conceptos de Common Law a un sistema continental, o te mezcla doctrina mexicana con la nuestra como si fueran intercambiables.

La solución: cada prompt jurídico tiene que aclarar la jurisdicción aplicable. "Bajo Código Civil y Comercial argentino", "según LCT 20.744", "en jurisdicción argentina". No es paranoia, es economía: si no lo aclarás, te ahorrás tiempo en escribir el prompt pero perdés horas verificando si lo que el modelo dijo aplica.

Falla 3 · Pérdida de criterio profesional

La más sutil de las tres y, probablemente, la más peligrosa.

El modelo te entrega una respuesta segura, bien escrita, lógicamente coherente. Pero estratégicamente mala. Te sugiere admitir un hecho que tu defensa exigía negar. Te plantea defensas incompatibles entre sí. Te hace renunciar tácitamente a planteos que te convenían.

El abogado que confía ciegamente termina presentando un escrito que se lee bien y pierde el caso.

La solución: usar la IA como asistente, no como oráculo. Antes de aceptar una recomendación, preguntate dos cosas: ¿esta postura sirve a mi cliente?, ¿qué argumento del oponente derrota a esta recomendación? Si las respuestas no te convencen, descartá la sugerencia. Es tu firma, no la del modelo.

El paso siguiente: patrones

Las tres fallas tienen una solución común: dejar de escribir prompts genéricos y empezar a usar patrones. Un patrón es una estructura probada que reduce la probabilidad de error y que produce salidas auditables.

De eso se trata el Módulo 1 de nuestro curso Abogado IA Nivel 2: ocho patrones individuales y tres pipelines que combinan los patrones según la tarea (investigar, redactar, revisar).