ISO42001

Què és?

ISO/IEC 42001 Sistema de gestión de Inteligencia Artificial

La expansión en la utilización de la Inteligencia artificial (IA) en los procedimientos y operaciones empresariales es ya una realidad, y está evidenciando avances y rendimientos en todo tipo de organizaciones y colectivos. Al mismo tiempo, el uso inapropiado de esta tecnología supone grandes riesgos que hacen necesario establecer unos mínimos de seguridad y ética en el empleo de los datos y requerimientos de los proyectos. Por ello, ISO e IEC han creado la norma ISO/IEC 42001. Sistema de Gestión de Inteligencia Artificial, para guiar a las entidades e instituciones en el uso responsable de sistemas y modelos de Inteligencia Artificial, siendo la primera norma internacional y certificable para ello, aplicable además a cualquier tipo de organización.

La norma ISO/IEC 42001 establece los requisitos para establecer, implantar, mantener y mejorar continuamente un sistema de gestión de la IA, por lo que su objetivo principal es garantizar que los sistemas y tecnologías derivadas de su uso sean fiables, transparentes y responsables.

Las razones para ello son:

• El uso de la IA para la toma automática de decisiones, a veces poco transparente y no siempre explicable, puede requerir una gestión específica más allá de la gestión de los sistemas informáticos clásicos.
• El uso del análisis de datos, el conocimiento y el aprendizaje automático, en lugar de la lógica codificada por humanos para diseñar sistemas, aumenta las oportunidades de aplicación de los sistemas de IA y cambia la forma en que dichos sistemas se desarrollan, justifican e implementan.
• Los sistemas de IA que realizan un aprendizaje continuo cambian su comportamiento durante su utilización, por lo que requieren una consideración especial para garantizar que su empleo responsable continúe con el cambio de comportamiento.
• Especialmente dirigido a sectores más críticos donde la IA se está convirtiendo en una incorporación esencial en los procedimientos y actividades como: salud, defensa, transporte, suministros, banca y finanzas.
• Se hace por tanto necesario identificar y evaluar los riesgos que puedan impedir el logro de los objetivos previstos al incorporar la IA, garantizando la aplicación de medidas paliativas adecuadas.