Gobernanza y control del uso de IA
Evaluación del riesgo y del impacto de sistemas de IA: diferencias para decidir
Diferencia entre evaluación del riesgo de la IA y evaluación del impacto de sistemas de IA, con ejemplos prácticos en estudios jurídicos, seguros y proveedores.
Diferencias relevantes
El riesgo y el impacto no responden exactamente a la misma pregunta
Evaluar el riesgo de la IA permite examinar qué situaciones de incertidumbre podrían afectar objetivos, operaciones o personas, con qué consecuencias y qué tratamiento conviene estudiar. Evaluar el impacto de un sistema de IA se orienta a comprender los efectos de su uso sobre los sujetos y ámbitos pertinentes. Ambos análisis pueden relacionarse, pero una única matriz no necesariamente satisface las dos finalidades.
Impacto sobre personas
Tratamiento del riesgo
Seguimiento de impacto
Aplicación práctica
Dos ejemplos hipotéticos, sin atribuir hechos a empresas reales
Seguros: una aseguradora utiliza IA para clasificar siniestros. Un riesgo es clasificar erróneamente un caso urgente; el impacto puede incluir demoras o desigualdades en la atención. La revisión debe considerar desempeño, excepciones, responsable humano y documentación disponible.
Servicios jurídicos: un asistente prepara una síntesis contractual. Un riesgo es omitir una cláusula importante o transmitir datos a un proveedor sin controles adecuados. El impacto puede afectar una negociación, una decisión o a personas cuyos datos fueron tratados.
Antes de contratar o ampliar
Preguntas que convierten conceptos en decisiones
¿Cuál es el uso previsto? ¿Qué entradas, salidas y personas resultan afectadas? ¿Qué se conoce del proveedor y qué sigue sin demostrarse? ¿Quién puede intervenir ante un resultado incorrecto? ¿Qué eventos se registran? ¿Quién decide si suspender la utilización? Las respuestas deben adaptarse al proceso específico.
Una evaluación puntual no reemplaza un sistema de gestión integral, ni garantiza que el comportamiento del modelo permanezca constante después de cambios de datos, instrucciones o versiones.
Marco de referencia
Cómo conectarlo con ISO/IEC 42001
Un SGIA integra los análisis con responsabilidades, decisiones, seguimiento y mejora. La norma internacional tiene un alcance organizacional; las evaluaciones particulares deben delimitar qué examinan y con qué evidencia. Para el contexto general consultar ISO/IEC 42001 en Argentina y las fuentes oficiales de ISO.