Nueva norma internacional sobre Inteligencia Artificial

La inteligencia artificial cada vez toma más protagonismo para diferentes sectores empresariales, pero no solo de las empresas, sino también de cualquier otra persona que tenga acceso a internet y mucha curiosidad, el uso de ChatGPT, por ejemplo, abrió muchas oportunidades el año anterior, no obstante, esta tecnología trae consigo retos o riesgos que se deben tener en cuenta al momento de su uso.

Recientemente el Foro Económico Mundial ha publicado su informe global de riesgos 2024, edición 19, donde se establece que los 4 principales riesgos para los próximos dos años son:

1. Información errónea y desinformación

2. Eventos climáticos extremos

3. Polarización social

4. Inseguridad cibernética

Para este año el riesgo más grave es la información errónea y la desinformación y es que debido a la Inteligencia artificial Generativa (IA-Generativa), ya que puede generar contenido sintético como clonar voz, sitos webs, crear o modificar rostros y textos, además, debido a que el internet facilita su propagación, puede promover la creación de noticias falsas y aumento en la sofisticación de los ataques de ciberdelincuentes.

La inteligencia artificial generativa trae consigo beneficios en la productividad, eficiencia e innovación para transformar la manera en que las empresas están haciendo negocios, pero también traen riesgos que pueden afectar los servicios de una empresa, por ejemplo, su cadena de suministro, ataques de ciberseguridad más rápidos y complejos (inseguridad cibernética).

Debido a la importancia que tiene la IA-Generativa para la sociedad y las empresas, en diciembre de 2023 la Organización Internacional de Normalización (ISO, por sus siglas en inglés) público la norma certificable ISO/IEC 42001 Tecnología de la información — Inteligencia artificial — Sistema de gestión, la cual es una “norma internacional que especifica los requisitos para establecer, implementar, mantener y mejorar continuamente un Sistema de Gestión de Inteligencia Artificial (AIMS)”, cabe destacar que es una norma para todo tipo de empresas indistintamente del sector en que se encuentre y tiene como objetivo que se puedan desarrollar sistemas de manera responsable.

Para comprender un poco más la norma está constituida de la siguiente manera:

Tiene 7 cláusulas tal y como son las estructuras de toda norma ISO:

- Contexto de la organización

- Liderazgo

- Planificación

- Apoyo

- Operación

- Evaluación del desempeño

- Mejora

Cuenta con 4 anexos que brindan más información y controles a considerar, los anexos propiamente son:

- Anexo A (normativo) Objetivos de control de referencia (controles) que cuenta con 38 controles.

- Anexo B (normativo) Guía de implementación para los controles de IA.

- Anexo C (Informativo) Posibles objetivos organizativos relacionados con la IA y fuentes de riesgo.

- Anexo D (informativo) Uso del sistema de gestión de IA en todos los dominios o sectores.

Es importante leer y analizar bien la norma ya que la inteligencia artificial tiene muchos usos y beneficios, pero también traen nuevos riesgos los cuales deben gestionarse adecuadamente (como cualquier otro riesgo), esta nueva norma nos ayuda a sacar el máximo provecho de esta tecnología de una manera ética y responsable.