Recientemente la Organización Internacional de Estandarización (ISO, por sus siglas en inglés) culminó el proceso de discusión y publicó la norma ISO/IEC 23894:2023 con el objeto de dirigir -o direccionar- la gestión administrativa (de forma orientativa) de las organizaciones que desarrollan técnicas, que producen, que ejecutan o que practican sus actividades con sistemas de Inteligencia Artificial (IA) o el Big Data.
Resulta novedoso y pertinente, a pesar de la constante globalización y de los agigantados pasos de la tecnología, analizar las implicaciones del contenido de tales disposiciones; precisamente porque es un avance relativamente nuevo para la sociedad que conocemos, y que por ahora existe escasa regulación de las mismas; por dar un caso, la ISO/IEC 23894, Information Technology — Artificial Intelligence — Risk Management proporciona directrices sobre la gestión del riesgo al que se enfrentan las organizaciones durante el desarrollo y la aplicación de técnicas y sistemas de inteligencia artificial (IA) -según la revista de normalización española-.
Los antecedentes se encuentran en el año 2019 cuando el Comité CTN 71/SC 42 Inteligencia Artificial y Big Data se estableció para estructurar recomendaciones que tenían por objeto tal tema; y, después de ello, las mismas eran remitidas al Consejo Europeo y al Comité Internacional.
Por ahora, existen posiciones duales sobre el uso de la Inteligencia Artificial:
- por un lado, que tienen escasa seguridad jurídica en proporción debido a los peligros que -para algunos- representa, ya sea por su novedad y experiencia temprana o efectos en un uso desviado;
- y, por otra tendencia, significa un avance en las gestiones de las corporaciones -o establecimientos comerciales- por su optimización y eficacia (Revista de normalización española, 2023).
E incluso, ya no es solamente el sector privado sino también en la Administración Pública; la IA no es una materia aislada sino que también se ha convertido en materia comercial, asociativa, de investigación para los centros y universidades.
Podemos observar que existen procesos de investigación, existe la intención de regular un tema tan delicado como lo es el uso de las nuevas tecnologías por los riesgos inherentes a su implementación. Entre los riesgos más destacados, podemos citar: tráfico de información, de interacción de datos íntimos, información bancaria, revelación de detalles de la transacción, cadenas de información, etc.
Sin embargo, todos esos casos implican un asunto fundamental: el sesgo.
¿A qué se refiere? Precisamente, siguiendo el criterio de la revista y de las discusiones del Consejo Europeo, es un tema que no tiene estructura y provienen del criterio subjetivo humano, entonces ¿Aumentan o disminuyen el comportamiento errático de la sociedad? Puede ser, cómo no puede ser.
No obstante, de lo anterior, tenemos a la ISO/IEC DTR 24027 Information technology — Artificial Intelligence (AI) — Bias in AI systems and AI aided decision making la cual aborda el sesgo en relación con los sistemas de IA, especialmente en lo que respecta a la toma de decisiones asistida por IA.
La ISO 23894:2023, por su parte, proporciona orientación sobre cómo las organizaciones que desarrollan, producen, implementan o utilizan productos, sistemas y servicios que utilizan inteligencia artificial (IA) pueden gestionar el riesgo específicamente relacionado con la IA (riesgo inherente).
La guía también tiene como objetivo ayudar a las organizaciones a integrar la gestión de riesgos en sus actividades y funciones relacionadas con la IA.
Además, describe los procesos para la implementación e integración efectivas de la gestión de riesgos de IA.
La aplicación de esta guía se puede personalizar a cualquier organización y su contexto.
Los siguientes documentos se mencionan en el texto de tal manera que parte o todo su contenido constituye los requisitos de este documento.
- ISO 31000:2018, Gestión de riesgos - Directrices
- Guía ISO 73:2009, Gestión de riesgos - Vocabulario
- ISO/IEC 22989:2022, Tecnología de la información - Inteligencia artificial - Conceptos y terminología de inteligencia artificial
