Observatorio Tracewarden

Casos, sanciones y señales verificables para controlar el uso de IA

El Observatorio reúne decisiones, incidentes, sanciones y señales institucionales que permiten estudiar dónde falla el control cuando la IA, la automatización o proveedores tecnológicos intervienen en procesos sensibles. Cada incorporación separa hechos de inferencias y los traduce en controles de gobernanza, trazabilidad, validación y defensabilidad.

Cuatro frentes de lectura: riesgo de output; riesgo de input/adversarial; riesgo de acción/autonomía agéntica; y señales regulatorias sobre control, verificabilidad, continuidad y terceros tecnológicos.

Dos ámbitos prioritarios: entorno jurídico y sector asegurador. Las fichas se clasifican por evidencia y tipo de riesgo, no por conveniencia comercial.

Nueva orientación: Law Society e IA jurídica Seguridad adversarial / Prompt Injection

Estado del Observatorio

25 fichas y señales normalizadas

Actualizado al 23 de octubre de 2026.

Riesgo de output

Alucinaciones, citas falsas, errores de contexto, falta de verificación y supervisión insuficiente.

Riesgo de input / adversarial

Prompt injection, texto oculto, contaminación documental e integridad antes de la ingestión.

Riesgo de acción / autonomía

Acciones, accesos, comunicaciones o uso de herramientas fuera de límites previstos.

Control y terceros

Continuidad, verificabilidad, dependencia tecnológica y evidencia propia frente a proveedores.

El número de fichas no constituye una estadística judicial ni regulatoria exhaustiva. Es un relevamiento curado para análisis de riesgo y diseño de controles.

Última incorporación · Inglaterra y Gales · 21 de octubre de 2026

Law Society: gobernanza de IA antes y después de contratar

La guía profesional de la Law Society destaca la selección de sistemas, la dependencia de proveedores, la protección de información y la supervisión del uso de IA en estudios jurídicos. Es una orientación británica, no una regulación argentina ni un aval a herramientas concretas.

Leer el análisis y la fuente Evaluación independiente de proveedores

Línea de observación · Seguros

Señales que anticipan los próximos problemas de control asegurador

La línea aseguradora conecta hechos verificables con preguntas operativas sobre proveedores, modelos, agentes, evidencia y reconstrucción. No convierte una señal transversal en un “caso de seguros” cuando no lo es; identifica qué aprendizaje puede trasladarse de forma defendible.

Proveedores y terceros

Continuidad, verificabilidad, evidencia propia y capacidad de respuesta cuando un proceso depende de tecnología externa.

Ver señal SSN

Autonomía agéntica

Qué cambia cuando un sistema deja de recomendar y adquiere herramientas, permisos o capacidad de ejecutar acciones.

Ver señal de autonomía

Integridad de entradas y documentos

Prompt injection, texto oculto, contaminación documental y otras alteraciones que pueden comprometer análisis posteriores.

Ver seguridad adversarial

Siniestros y evidencia

Trazabilidad de datos, automatizaciones, validación humana y evidencia suficiente para reconstruir cómo se llegó a una decisión.

Ver mapa de riesgos

Casos y señales normalizados

25 incorporaciones del Observatorio

Cada ficha prioriza jurisdicción, soporte verificable, riesgo o señal detectada, control relevante y lectura Tracewarden.

Filtrar por problema

Use los filtros para convertir el Observatorio en una herramienta de decisión, no sólo en un archivo de casos.

Sector

Riesgo

21 de octubre de 2026 · Inglaterra y Gales · Guía profesional / compra y control de IA

Law Society: adquisición y gobernanza de IA jurídica

La nueva nota de práctica aborda deberes existentes, contratación y gobierno de sistemas con IA en equipos jurídicos. Control clave: evaluar proveedores y asegurar supervisión antes y durante el uso.

15 de octubre de 2026 · Internacional · Finanzas / IA de terceros

FSB: 12 prácticas para gobernar IA financiera

Informe final no vinculante: selección proporcional al riesgo, evaluación continua y gestión de dependencias externas de IA. Control clave: verificar capacidades y evidencia, no sólo afirmaciones del proveedor.

4 de septiembre de 2026 · Argentina · Resolución interna / incorporación de IA

MPF: Resolución PGN 64/2026 y control institucional de IA

Lineamientos obligatorios dentro del Ministerio Público Fiscal para uso y adquisición de IA, evaluación de riesgos y auditoría posterior. No se extiende automáticamente al sector privado.

Septiembre 2026 · Estados Unidos / Arizona · Evidencia sintética / sentencia

State v. Horcasitas: video de IA de la víctima y sentencia

La corte confirmó la condena, anuló la pena por manslaughter y ordenó una nueva sentencia porque el video sintético de la víctima no era fiable. Control clave: procedencia, fiabilidad, atribución y efecto real de la evidencia generada con IA.

Septiembre 2026 · España · Autonomía agéntica / datos personales

AEPD y agentes de IA: brecha de datos y trazabilidad

Primera notificación recibida por la AEPD de una brecha cuyo ataque habría sido ejecutado mediante un agente de IA. Control clave: permisos, identidades, respuesta y reconstrucción defendible.

Agosto 2026 · Argentina / Seguros · Control de terceros

SSN, terceros tecnológicos y control independiente

Cuatro resoluciones regulatorias traducidas en una pregunta preventiva: qué puede demostrar la aseguradora cuando un proceso crítico depende de tecnología o terceros.

Agosto 2026 · Estados Unidos · Autonomía agéntica / ciberseguridad

OpenAI–Hugging Face: agentes de IA y límites operativos

Agentes en evaluaciones internas superaron límites de aislamiento y actuaron sobre sistemas externos. Control clave: límites operativos, monitorización y reconstrucción.

Agosto 2026 · Estados Unidos / Connecticut · Seguridad adversarial

Elliott v. New York Bariatric Group

Prompt injection mediante texto oculto dirigido a sistemas de IA. Control clave: integridad documental antes de la ingestión.

Mayo–julio 2026 · Brasil · Seguridad adversarial

Brasil 2026: dos casos judiciales de prompt injection

TRT-8 y TRT-5, con actualización institucional del CNJ sobre ingestión segura y seguridad adversarial.

Julio 2026 · Estados Unidos / Illinois · Citas falsas

Scott v. Illinois Human Rights Commission

Sanción por referencias falsas y recordatorio de que una herramienta empresarial no desplaza la verificación profesional.

Julio 2026 · Países Bajos · Disciplina profesional

Reprimenda por jurisprudencia generada con IA

Referencias judiciales incorrectas utilizadas sin comprobación suficiente.

Julio 2026 · Estados Unidos / Washington · Sanción

LeDoux v. Outliers

Citas falsas o inexactas tras usar ChatGPT y Claude; control faltante: verificación por artefacto.

Julio 2026 · Estados Unidos / Indiana · Registro judicial

Williams v. State of Indiana

Errores graves en una transcripción certificada y posible asistencia de IA generativa, sin equiparar posibilidad con prueba.

Julio 2026 · Canadá / Ontario · Disciplina profesional

Law Society of Ontario v. Lee

Citas inexistentes o irrelevantes y problemas posteriores de integridad en la gestión del incidente.

Julio 2026 · España / Galicia · Deber de verificación

TSXG: multa por recurso con IA sin control efectivo

Veinticuatro citas o textos problemáticos y sanción judicial de 1.800 euros.

Junio 2026 · Estados Unidos / Michigan · Verificación

Michigan: tropezar dos veces con la misma piedra

Autoridades fabricadas y una corrección asistida por IA que volvió a contener atribuciones incorrectas.

Junio 2026 · Estados Unidos / Mississippi · Sanciones

Withers v. City of Aberdeen

Citas jurisprudenciales inexistentes incorporadas por ambas partes mediante IA no verificada.

Mayo 2026 · Reino Unido / Estados Unidos · Alucinaciones

Alucinaciones de IA en escritos judiciales

Casos comparados con normas inexistentes, citas fabricadas y derecho alucinado.

Mayo 2026 · Argentina · Jurisprudencia falsa

Trovato c/ Reisman

Llamado de atención por antecedentes jurisprudenciales falsos vinculados al uso indebido de IA.

Mayo 2026 · Argentina / Estados Unidos · Responsabilidad

Citas falsas, IA y responsabilidad profesional

Patrones comparados que muestran por qué la firma y la validación siguen siendo humanas y demostrables.

Abril 2026 · Estados Unidos · Gobernanza

Sullivan & Cromwell: IA sin gobernanza suficiente

Políticas internas no bastaron para evitar errores: la gobernanza debe probarse operativamente.

Abril 2026 · Estados Unidos · Sanciones

Alucinaciones jurídicas y sanciones

Arizona, Utah y Wyoming: repetición del patrón de citas inexistentes sin validación suficiente.

Abril 2026 · Estados Unidos · Deber profesional

Responsabilidad profesional frente a IA

La responsabilidad no se desplaza a la herramienta: permanece en quien valida, firma o presenta.

Abril 2026 · Estudios jurídicos · IA no declarada o no gobernada (Shadow AI)

IA no declarada o no gobernada (Shadow AI) en estudios jurídicos

Uso real de herramientas sin inventario, reglas, entrenamiento ni trazabilidad suficiente.

Abril 2026 · Argentina · Agentes de IA

Agentes de IA y riesgo procesal

La autonomía multietapa aumenta la necesidad de logs, reconstrucción y decisiones humanas no delegables.

Antecedentes complementarios para aseguradoras

Terceros y cambios en expedientes

Otros dos análisis existentes permiten estudiar cómo una organización conserva evidencia propia cuando un proveedor o varias personas intervienen en un proceso. Se incorporan aquí como referencias de lectura, sin presentarlos como novedades de octubre.

TWIA: trazabilidad de cambios en siniestros State Farm: IA de terceros

Método de verificación

Hecho, inferencia y lectura estratégica no son lo mismo

Antes de utilizar un caso en una publicación, diagnóstico, capacitación o propuesta institucional, Tracewarden procura identificar jurisdicción y fecha, priorizar fuente primaria, contrastar cuando es posible y separar el hecho documentado de la inferencia metodológica.

Identificar

Caso, tribunal u organismo, jurisdicción y fecha.

Verificar

Fuente primaria o institucional y contraste externo cuando corresponde.

Clasificar

Riesgo o señal de output, input, acción, terceros, trazabilidad, validación o continuidad.

Traducir

Control faltante, evidencia necesaria y acción de gobernanza defendible.

Del caso al control

El Observatorio alimenta el Método Tracewarden®

Los casos no se usan como alarmismo comercial. Se utilizan para identificar controles documentables y reconstruibles: validación, trazabilidad, control independiente de proveedores, supervisión humana, integridad documental, continuidad y límites operativos de agentes.

Diagnóstico

Medir qué riesgos ya existen y qué evidencia falta.

Evaluar exposición

Aseguradoras

Comprobar dependencia tecnológica, proveedores y capacidad propia de demostrar control.

Ver enfoque

Método

Convertir el riesgo en controles, responsables y evidencia reconstruible.

Ver Método