Observatorio Tracewarden · Argentina / alucinación de IA / jurisprudencia falsa
Alucinación de IA y jurisprudencia falsa: el caso Trovato c/ Reisman vuelve a marcar el límite
Un tribunal argentino confirmó un llamado de atención por la incorporación de antecedentes jurisprudenciales falsos vinculados al uso indebido de inteligencia artificial. El caso muestra por qué la alucinación de IA ya no es un problema técnico: es un riesgo profesional y procesal.
Datos duros del caso
Trovato Franco c/ Reisman, Pablo José s/ daños y perjuicios
La inteligencia artificial ya está dentro del trabajo jurídico argentino. El problema no es su uso, sino la falta de control cuando sus resultados pasan al expediente sin verificación suficiente.
Cámara Nacional de Apelaciones en lo Civil, Sala H
Confirmación de llamado de atención
Microjuris publicó el fallo el 5 de mayo de 2026 e identifica la resolución vinculada al recurso de reposición “in extremis” como dictada el 13 de marzo de 2026. JurisprudenciaARG también identifica expediente, tribunal, jurisdicción, fuero y materia, aunque registra como fecha de sentencia el 2 de marzo de 2026. Esa diferencia temporal debe leerse con cautela: para este análisis, la referencia principal es la publicación de Microjuris sobre la resolución vinculada al llamado de atención.
Qué ocurrió
Jurisprudencia falsa y falta de confronte posible
Según el sumario publicado por Microjuris, el tribunal confirmó el llamado de atención por la utilización indebida de herramientas de inteligencia artificial para incorporar jurisprudencia. La cuestión central no fue simplemente que existieran otras decisiones posteriores con ideas parecidas, sino que las citas incorporadas impedían a la contraparte y al tribunal hacer el debido confronte: verificar autenticidad, contexto y pertinencia real de los precedentes citados.
Ese punto es decisivo. Una cita jurisprudencial falsa no es un detalle menor. Puede alterar la discusión, generar apariencia de autoridad, afectar el control contradictorio y consumir recursos jurisdiccionales. Cuando esa cita proviene de una alucinación de IA, el problema deja de ser tecnológico y pasa a ser profesional, procesal y reputacional.
Lectura Tracewarden
La frase “lo generó la IA” no defiende. En muchos casos, expone.
Desde Tracewarden, la lectura es clara: la IA no debe prohibirse ni idealizarse; debe gobernarse.
Una herramienta de inteligencia artificial puede asistir en la redacción, ordenar ideas o sugerir líneas de análisis. Pero no puede sustituir la validación humana sustantiva de fuentes jurídicas. Cuando un escrito se firma, la responsabilidad no queda en el sistema utilizado. Queda en quien presenta el documento.
La verdadera pregunta para estudios jurídicos, áreas legales y compañías de seguros no es si usan IA. La pregunta es si pueden explicar y defender cómo la usan.
Recomendaciones mínimas
Validación humana antes de que la cita llegue al expediente
Para reducir este tipo de riesgo, cualquier organización jurídica que utilice IA debería adoptar, al menos, criterios de control que separen claramente el borrador asistido por IA del documento jurídico listo para firma.
- Toda cita generada o sugerida por IA debe tratarse como no verificada hasta ser localizada en una fuente jurídica confiable.
- La jurisprudencia incorporada a un escrito debe pasar por control humano real: existencia, tribunal, fecha, contexto, vigencia y pertinencia.
- El equipo debe conservar trazabilidad básica del proceso: herramienta utilizada, finalidad de uso, fuente consultada y validación previa a la presentación.
- Debe existir una diferencia clara entre borrador asistido por IA y documento jurídico listo para firma.
El uso de IA en estudios jurídicos no puede depender de costumbre informal, confianza personal o improvisación. Requiere gobernanza de IA, trazabilidad de IA y validación humana sustantiva.
Cuando la inteligencia se abarata, la responsabilidad se encarece.
Tracewarden trabaja sobre esa infraestructura de defensabilidad: gobernanza, trazabilidad, validación y control del uso de IA en entornos jurídicos.
Si tu estudio usa IA para redactar, revisar o citar jurisprudencia, el riesgo ya no es hipotético.
El primer paso no es prohibir herramientas ni comprar otra plataforma. El primer paso es saber si el uso actual de IA puede explicarse, verificarse y defenderse antes de que un error llegue al expediente.
Evaluamos riesgos iniciales de trazabilidad, confidencialidad, validación humana, uso de herramientas externas y exposición profesional por alucinación de IA en escritos judiciales.
Respaldo externo
Fuentes consultadas
Las fuentes se incorporan como respaldo externo del caso. La diferencia de fechas entre publicaciones debe leerse con prudencia y no altera el punto central: el riesgo profesional por jurisprudencia falsa atribuida al uso indebido de IA.
Microjuris Argentina
Publicación del 5 de mayo de 2026 sobre confirmación del llamado de atención por antecedentes jurisprudenciales falsos mediante uso indebido de inteligencia artificial.
JurisprudenciaARG
Ficha del caso Trovato Franco c/ Reisman, Pablo José s/ daños y perjuicios, expediente CIV 002818/2022/CA001, Cámara Civil, Sala H.
Relacionado
Seguir el recorrido desde este análisis
Este caso conecta con citas falsas, alucinaciones, validación humana, política interna de IA y defensabilidad del uso de inteligencia artificial jurídica.
Citas falsas, IA y responsabilidad profesional
Casos recientes que muestran por qué la verificación de fuentes jurídicas no puede delegarse a la herramienta.
Riesgos de IA en escritos judiciales
Dónde aparece el riesgo procesal cuando el resultado asistido por IA no puede defenderse después.
Política interna de uso de IA
Cómo pasar de la confianza informal a reglas mínimas de uso, control y validación.
Solicitar diagnóstico inicial
Para revisar exposición, debilidades y prioridades antes de ordenar el uso de IA en el estudio.