👉 Esta actividad te ayuda a cumplir los siguientes requisitos:
ISO/IEC 42001:2023: 6.1.4, 8.4
Y los siguientes controles:
ISO/IEC 42001:2023: A.5.3, A.5.4, A.5.5
¿Para qué me sirve esta actividad? 📚
Esta actividad te sirve para analizar, comprender y documentar de manera proactiva cómo tus sistemas de IA pueden afectar a las personas, a los grupos sociales y a la sociedad en general.
Realizar este informe no es solo un requisito de la norma, sino que es un ejercicio de responsabilidad que te ayudará a identificar tanto los beneficios como los posibles daños de tus tecnologías de IA. Te permite tomar decisiones más informadas, diseñar sistemas más justos y transparentes, y demostrar a tus clientes, usuarios y reguladores que te tomas en serio el impacto de tus soluciones de IA.
¿Qué tengo que hacer? 🚀
Para elaborar tu informe de impacto, te recomendamos comenzar leyendo este artículo y el template que te proporcionamos en su totalidad para conocer de qué va y comprender todo lo que abarca.
Dentro del template encontrarás una estructura guiada para analizar los impactos potenciales de tus sistemas de IA, cubriendo los requisitos de los controles de la norma ISO 42001.
Vista previa de nuestro template:
El objetivo es que realices un análisis exhaustivo sobre el uso y/o desarrollo de tus sistemas y tecnologías que usan inteligencia artificial, e identifiques cómo éstos impactan o pueden afectar a:
Individuos: Consiste básicamente en cualquier persona como tus clientes, colaboradores, socios, desarrolladores, usuarios finales, etcétera.
Grupos de individuos: Corresponden a grupos de personas con características similares, como por ejemplo grupos de usuarios (pacientes, estudiantes), grupos vulnerables (personas mayores, con discapacidades, niños), grupos demográficos (hombres, mujeres, personas de regiones específicas), etcétera.
Sociedad: Aquí es importante resaltar que al decir "impacto a la sociedad" no se refiere simplemente a al impacto que puede tener el sistema en cualquier persona de forma genérica, sino que apunta a efectos colectivos, amplios y a veces indirectos tener sobre la estructura social, valores, derechos fundamentales y bienestar general.
Algunos ejemplos de los impactos más comunes son los siguientes:
A quién impacta | Ejemplos de impactos |
Individuos | - Privacidad - Discriminación - Transparencia - Autonomía - Seguridad personal |
Grupos de individuos | - Impactos sistemáticos - Exclusión - Sesgo algorítmico - Acceso desigual |
Sociedad | - Cambios estructurales - Riesgos éticos o normativos - Impacto ambiental - Erosión de la confianza pública - Influencia en derechos humanos |
¡Es muy importante para el cumplimiento normativo que estos análisis queden como información documentada!
💡 Nuestro template está estructurado con los lineamientos necesarios para dar cumplimiento a los requisitos normativos. Dentro de él encontrarás ejemplos y recomendaciones que te servirán para completar tu informe fácilmente, pero recuerda que debes colocar la información solicitada dentro del template, e incluso añadir y/o ajustar todo lo que consideres pertinente para alinear el documento a tu empresa.
Los puntos clave que encontrarás en nuestro template y que deberás trabajar y adaptar al contexto de tu empresa son los siguientes:
Identificación de sistemas de IA
El informe comienza identificando claramente qué sistemas de IA se están evaluando. El propósito de esta sección es establecer el alcance del análisis. Aquí se listan los sistemas en operación o desarrollo y su función principal (por ejemplo "Sistema de recomendación de productos", "Chatbot de atención al cliente", etcétera).
Impacto en individuos o grupos de individuos
Esta es una de las partes centrales del informe ya que su finalidad es que reflexiones sobre las personas que pueden verse afectadas por tu tecnología de IA. El template te guía para identificar quiénes son estos individuos o grupos de individuos.
Luego, debes analizar cómo tu sistema de IA impacta en aspectos clave como la equidad, la transparencia, la privacidad, la seguridad, entre otros. La idea es describir tanto los impactos positivos como los negativos, junto con las medidas que tienes para potenciar los buenos y mitigar los malos.
Impacto en la sociedad
En esta sección, el enfoque se amplía para considerar los efectos a gran escala, pensando en cómo tus sistemas de IA podrían influir en la sociedad en su conjunto.
Analiza también aspectos positivos y negativos en áreas como la sostenibilidad ambiental, los efectos económicos (como la creación o destrucción de empleo), el impacto en procesos democráticos, o en la salud y seguridad pública.
Evaluación de los impactos derivados del sistema de IA
Finalmente, esta sección conecta el análisis de impacto con tu proceso formal de gestión de riesgos. El objetivo aquí es tomar los impactos negativos que identificaste en los puntos anteriores y evaluarlos sistemáticamente con base en tu metodología de gestión de riesgos establecida dentro de tu empresa.
💡 Los pasos a seguir para terminar la actividad dentro de la plataforma son los siguientes:
Una vez que nuestro equipo haya aprobado la actividad, debes subir el documento final en versión PDF (no editable).
Posteriormente, debes subir la evidencia de su aprobación.
Recomendamos que esta evidencia sea a través de una minuta de sesión de comité (en ese caso, debes subir el documento en PDF de la minuta), o con una captura de pantalla de la respuesta explícita de quién o quiénes lo aprobaron.
Esto debe realizarse por algún medio de comunicación interno de la empresa, como Slack, Teams o el correo electrónico organizacional.
Y por último, debes subir la evidencia de su comunicación.
Al igual que la aprobación, la comunicación del documento puede ser por cualquier medio formal interno de la empresa. Para esto, debes subir una captura de pantalla donde se muestre que el documento fue comunicado a todos los colaboradores interesados.
Recomendaciones ✅
No lo hagas solo, la evaluación de impacto es un ejercicio de equipo. Involucra a personas de diferentes áreas (legal, desarrollo, negocio, recursos humanos) para tener una visión 360°.
Considera realizar entrevistas o encuestas a tus usuarios, clientes o empleados para entender sus preocupaciones y perspectivas. Su visión es invaluable.
No se trata de crear un documento perfecto que diga que tu IA no tiene ningún impacto negativo. Se trata de identificar los riesgos de manera honesta para poder gestionarlos adecuadamente. ¡La transparencia genera confianza!
El impacto de un sistema de IA puede cambiar con el tiempo. Revisa y actualiza este informe periódicamente, especialmente cuando realices cambios importantes en tus sistemas o cuando surjan nuevas regulaciones.
¡Califica este artículo 👇, esto nos ayudará a mejorar nuestro contenido para ti!
Recuerda que también puedes contactarnos por nuestro chat de soporte y te brindaremos la atención que necesites.