Nueva norma internacional sobre Inteligencia Artificial

Por Jean Paul Gutiérrez Feb 01, 2024

La inteligencia artificial cada vez toma más protagonismo para diferentes sectores empresariales, pero no solo de las empresas, sino también de cualquier otra persona que tenga acceso a internet y mucha curiosidad, el uso de ChatGPT, por ejemplo, abrió muchas oportunidades el año anterior, no obstante, esta tecnología trae consigo retos o riesgos que se deben tener en cuenta al momento de su uso.

Recientemente el Foro Económico Mundial ha publicado su informe global de riesgos 2024, edición 19, donde se establece que los 4 principales riesgos para los próximos dos años son:

1. Información errónea y desinformación

2. Eventos climáticos extremos

3. Polarización social

4. Inseguridad cibernética

Para este año el riesgo más grave es la información errónea y la desinformación y es que debido a la Inteligencia artificial Generativa (IA-Generativa), ya que puede generar contenido sintético como clonar voz, sitos webs, crear o modificar rostros y textos, además, debido a que el internet facilita su propagación, puede promover la creación de noticias falsas y aumento en la sofisticación de los ataques de ciberdelincuentes.

La inteligencia artificial generativa trae consigo beneficios en la productividad, eficiencia e innovación para transformar la manera en que las empresas están haciendo negocios, pero también traen riesgos que pueden afectar los servicios de una empresa, por ejemplo, su cadena de suministro, ataques de ciberseguridad más rápidos y complejos (inseguridad cibernética).

Debido a la importancia que tiene la IA-Generativa para la sociedad y las empresas, en diciembre de 2023 la Organización Internacional de Normalización (ISO, por sus siglas en inglés) público la norma certificable ISO/IEC 42001 Tecnología de la información — Inteligencia artificial — Sistema de gestión, la cual es una “norma internacional que especifica los requisitos para establecer, implementar, mantener y mejorar continuamente un Sistema de Gestión de Inteligencia Artificial (AIMS)”, cabe destacar que es una norma para todo tipo de empresas indistintamente del sector en que se encuentre y tiene como objetivo que se puedan desarrollar sistemas de manera responsable.

Para comprender un poco más la norma está constituida de la siguiente manera:

Tiene 7 cláusulas tal y como son las estructuras de toda norma ISO:

- Contexto de la organización

- Liderazgo

- Planificación

- Apoyo

- Operación

- Evaluación del desempeño

- Mejora

Cuenta con 4 anexos que brindan más información y controles a considerar, los anexos propiamente son:

- Anexo A (normativo) Objetivos de control de referencia (controles) que cuenta con 38 controles.

- Anexo B (normativo) Guía de implementación para los controles de IA.

- Anexo C (Informativo) Posibles objetivos organizativos relacionados con la IA y fuentes de riesgo.

- Anexo D (informativo) Uso del sistema de gestión de IA en todos los dominios o sectores.

Es importante leer y analizar bien la norma ya que la inteligencia artificial tiene muchos usos y beneficios, pero también traen nuevos riesgos los cuales deben gestionarse adecuadamente (como cualquier otro riesgo), esta nueva norma nos ayuda a sacar el máximo provecho de esta tecnología de una manera ética y responsable.

Los 5 mejores

Videos

Más Recomendados

Aquí se gana o se pierde un banco

[...] Seguir leyendo

Max Weber distinguió la burocracia racional-legal, que administra recursos ajenos bajo reglas y rinde cuentas, de la dominación patrimonial, en la cual el titular trata el cargo y sus rentas como dominio propio, como prebenda. Eso es un feudo, en sentido estricto y no como insulto. William Niskanen añadió la mecánica moderna, pues la burocracia no maximiza la eficiencia sino su presupuesto, ya que el tamaño de la asignación se traduce en poder, y opera amparada en la asimetría de información frente al legislador que la financia. Un fondo que la propia Constitución prohíbe disminuir es el escenario que ni Niskanen se atrevió a imaginar, el sueño del burócrata y la pesadilla del contribuyente. Presupuesto blindado, resultado opcional.

[...] Seguir leyendo

Gerente de Precios de Transferencia

[...] Seguir leyendo

Lo que realmente cuesta al principio es adaptarse a una rutina completamente nueva. Cambian los horarios, aparecen nuevas responsabilidades, conoces personas con diferentes formas de trabajar y, de un momento a otro, tienes que aprender a organizar tu tiempo de una manera muy distinta. Todo eso puede sentirse abrumador, pero es parte normal del proceso.

[...] Seguir leyendo

Aunque desde 2024 se han incluido revelaciones en los estados financieros que, en la mayoría de los casos, indican que no existen riesgos significativos asociados a temas de sostenibilidad, se aproxima la necesidad de sustentar esas conclusiones con análisis documentados. Ante preguntas frecuentes de los gobiernos corporativos, como qué debemos hacer o por dónde debemos empezar, muchas organizaciones descubrirán que ya han tomado decisiones relacionadas con sostenibilidad; el reto será ordenar, justificar y condensar esa información en reportes consistentes.

[...] Seguir leyendo

La democracia costarricense, reconocida internacionalmente a través de su historia, cuenta entre sus bases con un organismo electoral que es líder en la región por su labor. Los costaricenses somos conscientes y exigentes al respecto. Para nosotros, la normalidad democrática implica celebración periódica de elecciones libres, con voto universal y secreto, en una justa libre, informada, competitiva y pacífica, luego de la cual, aceptamos los resultados y continuamos con nuestra cotidianidad. Esas seguridades constituyen un activo de nuestro país, admirado por muchos, deseado por otros.

[...] Seguir leyendo

Sin embargo, existe una pregunta distinta, mucho más delicada y hasta ahora poco explorada en Costa Rica: ¿qué ocurre cuando la crítica deja de dirigirse contra decisiones concretas y se convierte en una estrategia permanente de deslegitimación institucional?

[...] Seguir leyendo