👉Esta actividad te ayuda a cumplir los siguientes controles:
ISO 42001:2023: A.6.2.7, A.8.2, A.9.2, A.9.3, A.9.4
¿Para qué me sirve esta actividad? 📚
Esta actividad te sirve para crear el documento más importante de cara a tus clientes: su manual de instrucciones para interactuar con tu sistema de IA. Piensa en este documento como la cara visible de tu compromiso con la transparencia y el uso responsable de la tecnología.
Un manual claro y honesto te ayudará a:
Construir confianza: Al ser transparente sobre lo que tu IA hace, cómo funciona y cuáles son sus límites.
Gestionar expectativas: Evitarás frustraciones y quejas al explicar de antemano el nivel de precisión y las limitaciones del sistema.
Reducir la carga de soporte: Unas buenas instrucciones de uso resuelven las dudas más comunes antes de que se conviertan en un ticket de soporte.
Demostrar responsabilidad: Es una prueba tangible para clientes, socios y reguladores de que te tomas en serio el impacto ético y social de tu tecnología.
¿Qué tengo que hacer? 🚀
Para lograr esta actividad te recomendamos comenzar leyendo el template que te proporcionamos en su totalidad, para así comprender la información que deberás documentar posteriormente. Una vez leído todo el template, debes identificar qué es lo que está alineado a tus operaciones reales y qué no.
Nuestro template ya está estructurado con los lineamientos necesarios para dar cumplimiento a los requisitos normativos de ISO 42001, y dentro de él encontrarás ejemplos y recomendaciones. Pero será súper importante ajustar todo lo que sea necesario para asegurar que este documento refleje el contexto real y actual de tus operaciones, y que explique el uso esperado, responsable y ético que le deben dar los usuarios finales a la tecnología de IA que ofrece o presta la organización.
A continuación, te explicamos el propósito de las secciones que encontrarás en el template y que deberás trabajar:
Notificación de interacción con un sistema de IA.
El template te ofrece varios ejemplos de leyendas para darte una idea y/o que elijas la que mejor se adapte al tono de tu marca y al contexto de la interacción. Lo importante es que el usuario siempre sepa que está interactuando con una IA.
Propósito e instrucciones del uso del sistema.
Aquí es donde le cuentas al usuario qué beneficio obtendrá y cómo usar el sistema. Te recomendamos ser muy directo y práctico. Usa listas, pasos sencillos y un lenguaje orientado a la acción, tal como se muestra en los ejemplos del template. Piensa siempre desde la perspectiva de alguien que nunca antes ha usado tu sistema.
Rendimiento, precisión y limitaciones.
Esta sección es clave para gestionar las expectativas. La honestidad es tu mejor estrategia. El template te guía para que traduzcas tus métricas internas a una explicación simple. Ser claro sobre las limitaciones no es una debilidad, es una muestra de confianza y respeto hacia tu usuario.
Impactos, riesgos y beneficios.
Aquí debes abordar el tema sobre los posibles riesgos como el sesgo o la "burbuja de filtro". Explicar estos conceptos y las medidas que tomas para mitigarlos es una excelente práctica hacia tus usuarios finales.
Mecanismos de supervisión y anulación.
Es fundamental que expliques claramente cómo una persona puede ignorar una recomendación, detener una interacción con la IA o desactivar una función. Esto empodera al usuario y reduce la sensación de que la IA es una "caja negra" incontrolable.
Soporte y canales de comunicación.
Esta sección es el puente que conecta tu manual con tus otros mecanismos de comunicación. El template te indica dónde colocar los enlaces a tu “Mecanismo de reporte de incidentes" y a tu “Mecanismo de recolección de feedback”, creando una experiencia de ayuda integrada para el usuario.
¡Comunicar a tus usuarios cualquier cambio, modificación, ajuste, alerta o aviso relacionado a la tecnología de IA es de suma importancia para mantener la confianza, la seguridad y el cumplimiento normativo!
💡 Los pasos a seguir para terminar la actividad dentro de la plataforma son los siguientes:
Una vez que nuestro equipo haya aprobado la actividad, debes subir el documento final en versión PDF (no editable).
Posteriormente, debes subir la evidencia de su aprobación.
Recomendamos que esta evidencia sea a través de una minuta de sesión de comité (en ese caso, debes subir el documento en PDF de la minuta), o con una captura de pantalla de la respuesta explícita de quién o quiénes lo aprobaron.
Esto debe realizarse por algún medio de comunicación interno de la empresa, como Slack, Teams o el correo electrónico organizacional.
Y por último, debes subir la evidencia de su comunicación.
Al igual que la aprobación, la comunicación puede ser por cualquier medio formal interno. Sube una captura de pantalla donde se muestre que el documento fue comunicado a todos los interesados pertinentes.
Recomendaciones ✅
Antes de publicar el manual, pídele a alguien de tu empresa que no esté en el equipo técnico (por ejemplo, de ventas o administración) que lo lea. Si esa persona lo entiende todo, vas por buen camino.
Utiliza frases cortas, listas con viñetas y, si es posible, imágenes o gifs para explicar los pasos. Evita los grandes bloques de texto.
No tengas miedo de hablar de las limitaciones de tu IA. Un usuario informado es un usuario que confía más en tu marca a largo plazo.
Asegúrate de que la información que presentas en este manual (especialmente sobre limitaciones y rendimiento) sea consistente con lo que comunicas en tus materiales de marketing y ventas, y que refleje los aspectos reales.
¡Califica este artículo 👇, esto nos ayudará a mejorar nuestro contenido para ti!
Recuerda que también puedes contactarnos por nuestro chat de soporte y te brindaremos la atención que necesites.