Cuando se habla de inteligencia artificial, casi todo gira en torno a capacidad.
Qué modelo hace más.
Cuál responde mejor.
Cuál automatiza más.
Pero esa no es la cuestión clave.
La pregunta importante es otra:
¿qué riesgos estás introduciendo en tu empresa al usar IA… y si alguien los está controlando de verdad?
El último AI Safety Index (Winter 2025) responde a eso con bastante claridad.
Qué es el AI Safety Index y qué mide realmente
El AI Safety Index, elaborado por el Future of Life Institute, evalúa a las principales empresas de IA no por su rendimiento, sino por:
👉 cómo gestionan los riesgos, la seguridad y la gobernanza de sus sistemas
Analiza seis dimensiones clave:
- evaluación de riesgos
- daños actuales
- marcos de seguridad
- riesgos extremos
- gobernanza y rendición de cuentas
- transparencia e intercambio de información
Resultados actualizados: nadie alcanza un nivel alto
El informe es claro:
👉 ninguna empresa supera el nivel C+
Ranking real
- Anthropic: C+ (2.67)
- OpenAI: C+ (2.31)
- Google DeepMind: C (2.08)
- xAI: D
- Z.ai: D
- Meta: D
- DeepSeek: D
- Alibaba Cloud: D-
👉 Traducción directa:
ni siquiera los mejores cumplen con un nivel de seguridad sólido.
Qué está pasando realmente en la industria
El propio informe lo dice sin rodeos:
👉 el sector no está siendo capaz de seguir el ritmo de sus propios avances
Y añade algo más importante aún:
👉 existe una brecha estructural entre capacidad y seguridad
Esto es clave.
No estamos ante fallos puntuales.
Estamos ante un problema de base.
Qué diferencia a los líderes del resto
Anthropic, OpenAI y Google DeepMind siguen en cabeza.
Pero no porque estén “bien”.
Sino porque el resto está claramente peor.
Qué les posiciona arriba
- mayor transparencia en evaluación de riesgos
- desarrollo más avanzado de marcos de seguridad
- mayor implicación en iniciativas regulatorias
- más estructura de gobernanza
Aun así, el propio informe señala carencias importantes incluso en estos actores:
- falta de evaluaciones independientes robustas
- ausencia de umbrales claros de riesgo
- medidas poco concretas o difíciles de verificar
Qué falla en el resto del sector
Aquí el problema es más básico.
Las empresas del segundo grupo presentan déficits claros en:
- evaluación de riesgos
- marcos de seguridad
- estructuras de gobernanza
- transparencia pública
En muchos casos, ni siquiera cumplen estándares mínimos esperables.
¿Es segura la inteligencia artificial en 2026?
Respuesta clara:
👉 no del todo, especialmente en contexto empresarial
Porque incluso los actores más avanzados:
- no tienen mecanismos de control suficientemente sólidos
- no cuentan con supervisión independiente real
- no han definido límites claros de riesgo
Principales riesgos de la IA en empresas
Esto es lo que deberías tener en cuenta antes de implementar IA:
1. Falta de control real sobre el sistema
No siempre sabes cómo responde ni por qué.
2. Riesgos legales y regulatorios
Protección de datos, responsabilidad, cumplimiento del AI Act.
3. Dependencia tecnológica
Procesos críticos apoyados en proveedores externos.
4. Falta de trazabilidad
Dificultad para auditar decisiones o outputs.
5. Gobernanza inexistente o débil
Uso de IA sin políticas ni supervisión estructurada.
Cómo evaluar una herramienta de IA antes de usarla
Antes de integrar cualquier sistema, deberías poder responder a esto:
- ¿qué riesgos identifica el proveedor?
- ¿cómo los evalúa?
- ¿existe supervisión externa?
- ¿qué mecanismos de control existen?
- ¿qué responsabilidades asume?
Si no puedes responder, estás asumiendo riesgos sin medirlos.
Qué debería hacer una empresa ahora
Esto es lo mínimo exigible:
1. Auditar el uso actual
Detectar qué herramientas se están usando realmente.
2. Definir una política de IA
Uso permitido, datos, límites, control.
3. Evaluar proveedores
No todos ofrecen el mismo nivel de seguridad.
4. Introducir supervisión humana
Especialmente en procesos críticos.
5. Formar al equipo
No solo en uso, sino en comprensión de riesgos.
La clave que deja el informe
El AI Safety Index no señala un líder claro.
Señala otra cosa más importante:
👉 el sector aún no está preparado para gestionar plenamente los riesgos que está generando
Qué significa esto para ti (y aquí está la diferencia)
Aquí es donde cambia el enfoque.
Porque la mayoría de formaciones en IA se centran en:
- herramientas
- prompts
- automatizaciones
Pero dejan fuera lo más importante.
En mis formaciones no solo enseño a usar IA.
👉 Enseño a entender qué estás haciendo cuando la usas.
👉 A identificar riesgos antes de que aparezcan.
👉 A tomar decisiones con criterio, no por inercia.
Porque esto es lo que realmente exige el Reglamento de IA:
👉 alfabetización en IA no es saber usar herramientas, es entender sus implicaciones
La IA ya está dentro de las empresas.
La diferencia no va a estar en quién la usa.
Va a estar en quién:
👉 la integra sin perder el control
Si tu empresa ya está utilizando IA sin una política clara, sin evaluación de riesgos o sin formación específica, probablemente esté asumiendo más de lo que cree.
Trabajo con empresas y equipos para implantar la IA con enfoque estratégico, control y cumplimiento.
Si quieres hacerlo bien desde el principio —o corregir lo que ya está en marcha—, podemos verlo.
Abogada especializada en Inteligencia Artificial. Profesora externa de IA en ENAE. Speaker. CEO Fundadora de academiadeia.es, legalprompt.es, fenixcomunicación.es, murciaunica.com y la revista digital para «Nostálgicos de mentes inquietas» generacionfenix.com.
