gobernanza de la IA - Academia de IA

Una persona copia un correo de un cliente en un asistente de inteligencia artificial para contestarlo más rápido. Otra sube un contrato a una herramienta gratuita para resumirlo. Un equipo activa un servicio que graba y transcribe reuniones sin consultar a nadie.Estas situaciones introducen herramientas y datos en procesos que la organización puede no haber evaluado. Cuando la inteligencia artificial se utiliza para trabajar sin conocimiento, autorización o supervisión de la empresa, hablamos de IA en la sombra, también conocida como shadow AI.Prevenirla requiere conocer los usos reales, ofrecer herramientas adecuadas y formar a las personas para que sepan decidir antes de introducir información o utilizar un resultado.Qué es la IA en la sombraLa IA en la sombra puede aparecer en un chatbot utilizado con una cuenta personal, una extensión del navegador, una aplicación de diseño o una función incorporada a un programa que la empresa ya utiliza.No siempre existe una intención de ocultar algo. Una persona puede creer que la herramienta está permitida porque es popular, porque sus compañeros la utilizan o porque está integrada en una aplicación habitual.La falta de visibilidad dificulta que la organización responda a preguntas esenciales:¿Qué herramientas de IA se están utilizando?¿Para qué tareas?¿Qué información se introduce?¿Quién revisa los resultados?Disponer de una licencia corporativa tampoco resuelve por sí solo el problema. Debe estar claro qué usos y qué datos están autorizados.https://youtu.be/y1z9fCeoaM8?si=NFqQ2u6I43QzXq3NQué riesgos puede generar la IA en la sombraEl riesgo depende de la herramienta, su configuración y el uso concreto. Estas son algunas de las situaciones que conviene prevenir.Exposición de información confidencial y datos personalesIntroducir un contrato, un correo o un documento interno puede dar acceso al proveedor a información que la organización necesita proteger.Si hay datos personales, deben analizarse las condiciones del tratamiento y las obligaciones de protección de datos. También es necesario comprobar aspectos como la conservación de la información, los accesos y su posible utilización para entrenar modelos.Eliminar el nombre de una persona no garantiza la anonimización. Otros detalles o los metadatos pueden permitir identificarla, como recuerda la AEPD.Errores que se incorporan al trabajoUna respuesta convincente puede contener hechos inventados, omisiones o interpretaciones incorrectas. Si se incorpora a un informe o a una comunicación con un cliente sin revisión, el error puede afectar a la calidad del trabajo y a la confianza en la empresa.Sesgos y decisiones sin supervisión suficienteUtilizar resultados de IA para valorar candidaturas, analizar reclamaciones o evaluar a trabajadores exige especial atención. La organización necesita comprobar si la herramienta es adecuada para esa finalidad y cómo se revisan sus resultados antes de que influyan en una decisión.Cómo evitar la IA en la sombra en seis pasos1. Identifica las herramientas que ya utiliza tu equipoPregunta a los equipos qué herramientas emplean y qué problemas intentan resolver. Incluye cuentas personales, extensiones y funciones integradas en programas existentes.Un inventario inicial puede recoger la herramienta, el área, la finalidad, los datos utilizados y la persona responsable.Explica el propósito de esta revisión: conocer las necesidades del trabajo y establecer condiciones de uso adecuadas. Esa claridad facilita que las personas compartan información útil.2. Ofrece alternativas autorizadasSi una tarea se repite, busca una solución que la organización pueda evaluar y administrar.Revisa las condiciones del proveedor, los permisos, la conservación de la información y las configuraciones disponibles. La autorización debe indicar para qué tareas se permite la herramienta y con qué límites.Una herramienta aprobada para redactar publicaciones con información pública no queda automáticamente autorizada para analizar expedientes de clientes.3. Establece una política de uso de IA comprensibleUna política breve debería explicar:Qué herramientas se pueden utilizar.Qué información puede introducirse.Qué usos requieren evaluación o autorización previa.Quién debe revisar los resultados.Cómo comunicar dudas e incidentes.Acompaña las reglas con ejemplos. Puede permitirse generar ideas para una publicación con información pública y exigirse una evaluación previa para analizar documentación de clientes.4. Forma con ejemplos del trabajo diarioSaber escribir instrucciones no basta. Las personas necesitan reconocer información confidencial, detectar errores y entender cuándo detenerse y consultar.Practicar con un correo ficticio, un contrato de ejemplo o una reunión simulada permite aprender sin exponer datos reales.La formación también debe enseñar a comprobar fuentes, identificar limitaciones y mantener la responsabilidad sobre el trabajo entregado.5. Facilita las consultas y las propuestasDesigna un contacto y un procedimiento sencillo para solicitar una nueva herramienta o aclarar un uso.Una respuesta ágil ayuda a resolver las necesidades del equipo y reduce el incentivo para buscar soluciones por su cuenta.Establece también cómo comunicar un uso accidental y a quién acudir si se ha compartido información que no debía salir de la organización.6. Revisa los usos y las configuracionesActualiza el inventario cuando cambien las herramientas o aparezcan nuevas funciones.Combina controles de acceso y configuración con revisiones de los procesos donde un error tendría mayor impacto. Si se realiza supervisión técnica del uso, debe respetar la privacidad y las reglas aplicables en el entorno laboral.Por qué la alfabetización en IA es clave para prevenirlaLa formación debe adaptarse al puesto y al contexto. El equipo comercial necesita practicar con comunicaciones y datos de clientes; recursos humanos, con información de candidatos y trabajadores; la dirección, con decisiones y supervisión.El artículo 4 del Reglamento de IA aborda la adopción de medidas de alfabetización para el personal y otras personas que utilizan sistemas de IA por cuenta de proveedores y responsables del despliegue, teniendo en cuenta su preparación y el contexto de uso.Para trasladar la formación a la práctica, la organización puede documentar los contenidos impartidos, las personas participantes y los riesgos trabajados en cada función.Una formación útil debe ayudar a responder tres preguntas antes de utilizar una herramienta:¿Está autorizado este uso?¿Puedo introducir esta información?¿Cómo comprobaré el resultado?Por dónde empezar para evitar la IA en la sombraElige un proceso cotidiano, como preparar correos o resumir documentación, y conversa con el equipo que lo realiza.Identifica las herramientas utilizadas, revisa los datos que se introducen y acuerda una pauta de uso. Después, prueba esa pauta con ejemplos y recoge las dudas que aparezcan.Evitar la IA en la sombra exige que las personas tengan una vía clara para utilizar la tecnología con responsabilidad. La empresa debe conocer lo que ocurre, responder a las necesidades del trabajo y acompañar la adopción con formación y seguimiento.¿Quieres preparar a tu equipo para utilizar la IA con criterio? Contacta con nuestra academia para conocer las opciones de formación en alfabetización y uso responsable de la inteligencia artificial.

Etiqueta: gobernanza de la IA

Cómo evitar la IA en la sombra en tu empresa

Oficina Europea de IA: qué es y por qué define el futuro de la inteligencia artificial en Europa

Cómo la IA puede acabar con la burocracia: la hoja de ruta de la OCDE para transformar el sector público

International AI Safety Report 2026: el documento que marca el futuro de la gobernanza de la inteligencia artificial

AI Act en España: qué implica el nuevo anteproyecto de ley sobre Inteligencia Artificial