Etiqueta: evaluación de riesgos IA

Llevamos una década llamando "IA" a casi cualquier cosa que ejecute una tarea mínimamente compleja. Un Excel con tres fórmulas encadenadas, un chatbot que repite respuestas guionizadas, un filtro de spam de hace quince años: todo se vende con la etiqueta de inteligencia artificial porque vende. El resultado es una fatiga terminológica que nubla el criterio de cualquiera que tenga que tomar decisiones de inversión o cumplimiento.La buena noticia es que la Comisión Europea ha sacado el bisturí. Con las directrices sobre la definición de sistema de IA, publicadas en febrero de 2025, el Reglamento (UE) 2024/1689 deja de ser un marco abstracto y se convierte en una herramienta para separar lo que es IA a ojos de la ley de lo que es, sencillamente, software de toda la vida. Y muchas de sus conclusiones son contraintuitivas. Vamos a verlas.1. "Máquina" no significa silicio: la IA puede ser biológica o cuánticaCuando pensamos en IA imaginamos granjas de servidores y chips de Nvidia. El regulador europeo, en cambio, ha optado por la neutralidad tecnológica: la definición no se ata a un tipo de hardware concreto.El concepto de "sistema basado en una máquina" abarca tanto los componentes lógicos como los físicos, e incluye infraestructuras que hoy nos suenan a ciencia ficción. Lo realmente llamativo es que el texto contempla la biocomputación: da igual si el cómputo ocurre en un procesador cuántico o en sustratos orgánicos. Si el sistema aporta capacidad computacional para dirigir operaciones, entra en el radar del Reglamento.¿Por qué importa esto si tu empresa no investiga con ordenadores cuánticos? Porque demuestra la lógica del legislador: no le interesa la tecnología concreta, le interesa la función. Y esa lógica es la que vas a tener que aplicar tú cuando clasifiques tus propias herramientas. La pregunta no es "¿qué tipo de tecnología usa?", sino "¿qué hace y cómo lo hace?".2. El mito del aprendizaje continuo: la adaptabilidad es opcionalExiste la creencia de que un sistema solo es "IA de verdad" si aprende constantemente, mejorando con cada interacción una vez desplegado. Las directrices son tajantes: la autonomía es requisito, pero la adaptabilidad es opcional.Mito: si el sistema no aprende ni descubre patrones nuevos tras instalarse, es software tradicional.Realidad: la capacidad de autoaprendizaje es facultativa. Un sistema puede ser estático —no cambiar tras el despliegue— y seguir siendo IA si tiene autonomía y capacidad de inferencia.Aquí está el matiz que más confusión genera en las formaciones que imparto: la frontera real de la autonomía está en la intervención humana. Quedan fuera los sistemas que requieren actuación e intervención manual plena en cada paso. Pero si el sistema genera un resultado por sí mismo —una recomendación de inversión, una priorización de candidatos, una decisión de aprobación— sin que un humano controle explícitamente cada etapa, el requisito de autonomía se cumple.Traducción para directivos: muchas herramientas que vuestro proveedor jura que "no son IA porque no aprenden" probablemente sí lo sean. Y eso tiene consecuencias regulatorias.3. La inferencia: la verdadera frontera técnicaLo que separa la IA de la programación convencional no es la cantidad de código, sino la capacidad de inferencia.Un software clásico funciona con reglas rígidas: si X, entonces Y. La IA, en cambio, infiere la manera de generar resultados. Es decir, deduce modelos o algoritmos a partir de datos, en lugar de limitarse a ejecutar instrucciones que alguien escribió a mano.Y hay un detalle que se suele pasar por alto: esa inferencia no ocurre solo cuando el sistema está en uso, sino también durante su construcción, en la fase de entrenamiento.Un ejemplo que lo deja claro es el descubrimiento de fármacos. Mediante aprendizaje no supervisado, un sistema detecta agrupamientos químicos y relaciones complejas que ningún programador le dictó de antemano. Nadie escribió "si esta molécula, entonces esta propiedad". El sistema lo dedujo de los datos. Eso es inferencia, y eso es lo que la ley considera el núcleo de la IA.La definición legal completa, que conviene tener a mano porque es la que cuenta, es la del artículo 3.1 del Reglamento:"Sistema de IA: un sistema basado en una máquina diseñado para funcionar con distintos niveles de autonomía, que puede mostrar capacidad de adaptación tras el despliegue y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar información de salida —como predicciones, contenidos, recomendaciones o decisiones— que puede influir en entornos físicos o virtuales."Léela despacio. Cada una de esas palabras —autonomía, inferencia, salida que influye— es un criterio que tendrás que evaluar.4. Por qué tu Excel (y el ajedrez clásico) se libranPara no estrangular media informática básica con obligaciones regulatorias, la Comisión también ha aclarado qué no es IA. Y aquí regala una regla de oro para analistas: si un sistema se viene utilizando de forma consolidada desde hace muchos años, es buena señal de que estamos ante tratamiento básico de datos, no ante IA.Bajo ese criterio de antigüedad y de baja complejidad en el análisis de patrones, quedan fuera:Optimización matemática tradicional: regresiones lineales o logísticas sencillas.Hojas de cálculo: Excel y similares, siempre que no incorporen funciones de IA. (Sí, el Excel que usas a diario sigue siendo Excel. Respira.)Heurística clásica: el algoritmo Minimax de los programas de ajedrez antiguos, que aplica reglas predefinidas en lugar de aprender de la experiencia.Predictores triviales: sistemas que se limitan a calcular medias históricas, como estimar la temperatura de mañana a partir de la media de la semana pasada.Esto es más relevante de lo que parece. Significa que no todo lo que tu proveedor te vende como "IA" lo es —ni a efectos de marketing ni, lo que importa, a efectos legales—. Y al revés: herramientas que nadie te ha presentado como IA pueden estarlo. La etiqueta comercial y la calificación jurídica no siempre coinciden.5. La IA no es un espectador pasivo: influye en los flujos de datosEl último criterio es la capacidad de influir. La IA no procesa datos en una torre de marfil; se define porque su resultado tiene impacto.Y esa influencia no se limita a lo físico —el brazo robótico de una fábrica—, sino que alcanza a los entornos virtuales: flujos de datos y ecosistemas de software. Cualquier sistema que automatice el juicio humano para tomar decisiones en el backend de una plataforma digital está "influyendo" en su entorno.El salto cualitativo es este: cuando un sistema pasa de mostrar datos (visualización pasiva) a tomar decisiones sobre ellos (acción automatizada), deja de ser una herramienta inerte y se convierte en un actor con impacto legal y social. Ese es el punto exacto donde empieza a aplicar el Reglamento.Qué significa esto, en la práctica, para tu empresaBueno. Toda esta teoría no sirve de nada si no aterriza. Esto es lo que yo haría si dirigiera una empresa que usa herramientas digitales —es decir, cualquier empresa—:Inventaría tus herramientas. Lista el software que toma o sugiere decisiones: cribado de CV, scoring de clientes, recomendadores, asistentes generativos, detección de fraude. Da igual cómo lo llame el proveedor.Aplícales los criterios. ¿Tiene autonomía? ¿Infiere o solo ejecuta reglas fijas? ¿Su salida influye en decisiones reales? Si la respuesta es sí, es IA a efectos del Reglamento.No te asustes por la etiqueta. Que algo sea "IA" no es una condena. El Reglamento funciona por niveles de riesgo: la gran mayoría de sistemas no tendrá obligaciones pesadas. Esas se reservan para los que impactan de forma significativa en derechos fundamentales. Identificar bien lo que tienes es lo que te permite no gastar de más ni quedarte corto.El mayor error que veo no es incumplir por mala fe, sino clasificar mal por desconocimiento: tratar como inocuo un sistema de alto riesgo, o sobredimensionar el cumplimiento de una herramienta trivial. Ambos cuestan dinero.El AI Act no es un interruptor que se enciende solo. Es una brújula que obliga a una evaluación caso por caso, mirando la arquitectura técnica y el nivel real de autonomía de cada sistema. La consecuencia más sana de todo esto es una pequeña cura de humildad: muchas herramientas que hoy llamamos "IA" por puro marketing volverán a ser, a ojos de la ley, software honesto y corriente.Y eso es bueno. Porque cuando dejas de llamar IA a todo, empiezas a poder gestionar de verdad lo que sí lo es. La pregunta no es si tu organización usa IA —casi seguro que sí—. La pregunta es si sabe cuál de sus herramientas lo es y qué obligaciones le tocan. ¿La tuya lo sabe?¿Quieres que tu equipo sepa realmente cómo usar la IA? En Academia de IA diseñamos formaciones a medida para empresas: desde talleres de iniciación hasta programas avanzados de automatización y cumplimiento normativo. 👉 Solicita información sobre formación para tu empresaNota de rigor: este artículo se basa en el Reglamento (UE) 2024/1689 (AI Act) y en las directrices de la Comisión Europea sobre la definición de sistema de IA, publicadas en febrero de 2025, vigentes a la fecha de publicación de este post. No constituye asesoramiento legal: cada sistema requiere evaluación individualizada. ¿Es un sistema de IA según el AI Act? | Academia de IA Método Fénix® · IA Responsable ¿Tu sistema es inteligencia artificial según el AI Act? Responde 4 preguntas y descubre si tu herramienta encaja en la definición legal de “sistema de IA” del Reglamento (UE) 2024/1689. Spoiler: no todo lo que el marketing llama IA lo es a ojos de la ley. Criterios del art. 3.1 Se van marcando con tus respuestas. La definición exige cumplir los cuatro. ·InferenciaEl núcleo. Aprende de datos vs. reglas fijas. ·AutonomíaActúa sin control manual de cada paso. ·SalidaPredicción, contenido, recomendación o decisión. ·InfluenciaImpacta en un entorno físico o virtual. Mito frecuente: que “aprenda continuamente” NO es requisito. La adaptabilidad tras el despliegue es opcional. Aviso: esta herramienta es orientativa y educativa, basada en el Reglamento (UE) 2024/1689 (AI Act) y en las directrices de la Comisión Europea sobre la definición de sistema de IA (febrero de 2025). No constituye asesoramiento legal. Cada sistema requiere evaluación individualizada caso por caso. Silvana López Merino · Academia de IA · Método Fénix® · IA Responsable · academiadeia.es

Etiqueta: evaluación de riesgos IA

Que es un sistema de IA según el AI Act

EU AI Act Compliance Checker: La herramienta oficial para cumplir con la nueva ley de IA en Europa