Etiqueta: esclavitud digital

El Papa León XIV acaba de publicar una encíclica sobre inteligencia artificial. Y lo primero que pensé cuando la leí fue: ojalá los reguladores europeos hubieran escrito algo así.No es un documento de fe. Es un análisis político, técnico y filosófico de la revolución en la que estamos inmersos. Habla de alineación algorítmica, de concentración de poder, de esclavitud digital. Y lo hace con una precisión conceptual que avergüenza a muchos papers de think tanks de Bruselas.Se llama Magnifica Humanitas. Y merece más atención de la que le van a dar los titulares.Una encíclica con rigor técnico (sí, has leído bien)Hace 135 años, el Papa León XIII publicó Rerum Novarum, la respuesta de la Iglesia a la revolución industrial. Ese documento acabó siendo una de las bases doctrinales del estado del bienestar europeo. Políticos como Schuman, De Gasperi o Adenauer lo tenían en la mesita de noche.León XIV hace ahora lo mismo con la IA. Pero lo que sorprende no es el paralelismo histórico, sino el nivel de detalle con el que aborda la tecnología.En el párrafo 98 de la encíclica escribe algo que pocas veces ves fuera de los papers de mechanistic interpretability:"Las inteligencias artificiales modernas están más 'cultivadas' que 'construidas': los desarrolladores no diseñan directamente cada detalle, sino que crean una arquitectura sobre la cual la IA 'crece'. En consecuencia, los aspectos científicos fundamentales siguen siendo desconocidos."Esto no es teología. Es una descripción técnicamente correcta de cómo funcionan los grandes modelos de lenguaje. Y a continuación, en el párrafo 99, añade:"Las denominadas inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad."Puedes estar de acuerdo o no con la afirmación. Pero no puedes decir que está mal informada.El problema de la "alineación": ¿con los valores de quién?Aquí viene la parte que más me ha llamado la atención profesionalmente.En el párrafo 107, León XIV lanza una crítica directa al concepto de alineación tal y como se entiende en los grandes laboratorios de IA:"No podemos limitarnos a invocar la moralización de la máquina, la denominada 'alineación' de la IA con los valores humanos, sin tener la valentía de poner una condición ulterior: la posibilidad de discutir el código ético que debe ser usado, sometiéndolo a criterios de justicia social compartida."Y remata: "Quien controla la IA impondrá su propia visión moral, que se convertirá en la infraestructura invisible de los sistemas. No serviría de nada una IA más moral, si esta moral es decidida por unos pocos."Esto es exactamente el debate que se tiene en los foros de seguridad de IA y en los círculos de democracia algorítmica. Y que rara vez llega al gran público.En las formaciones que imparto para directivos y equipos legales, siempre hago la misma pregunta: ¿sabéis quién decide qué valores tiene el sistema de IA que usáis? La respuesta casi siempre es silencio. El Papa León XIV lo está señalando con el dedo."Desarmar la IA": el concepto más original de la encíclicaEn el párrafo 110 aparece un término que no había visto antes en ningún documento regulatorio ni eclesial: desarmar la IA."Desarmar la IA significa sustraerla a la lógica de la competencia armamentística, que hoy ya no es sólo militar sino económica y cognitiva (...) Desarmar quiere decir romper esta equivalencia entre poder tecnológico y derecho a gobernar."El giro conceptual es interesante. No dice solo regular. Dice desarmar. La diferencia importa.Regular implica que la herramienta es neutral y hay que ponerle límites. Desarmar implica que la herramienta ya ha sido weaponizada, que ya está siendo usada como instrumento de poder, y que el problema no es solo de reglas sino de estructuras.Es la misma lógica que Francisco usó en Laudato Si' con la ecología: no se trata de reciclar más, sino de desmontar el modelo que destruye. Aquí: no se trata de añadir un comité de ética, sino de romper las concentraciones de poder que hacen que esos comités sean decorativos.Difícil estar en desacuerdo, siendo honestos.El ataque a Silicon Valley (sin nombrarlo)A partir del párrafo 115, la encíclica entra en terreno más filosófico, pero con consecuencias muy prácticas.León XIV habla del transhumanismo y el posthumanismo como el "gran adversario antropológico" de su propuesta. Y los describe sin ambages como "trasfondo ideológico que reside en algunos centros de poder tecnológico" que "colonizan el imaginario colectivo de forma simplificada."No dice OpenAI. No dice Meta. No dice Elon Musk. No hace falta.Y en el párrafo 172 va más lejos:"Algunas corrientes posthumanistas llegan incluso a plantear la existencia de seres humanos 'de segunda clase', al servicio de los intereses de élites que se perciben a sí mismas como superiores: una perspectiva inquietante, más grave aún si se combina con instrumentos tecnológicos que amplían de forma exponencial el poder de control y de selección."He leído artículos académicos sobre IA y desigualdad que no lo dicen tan claro.Esclavitud digital y un perdón históricoUno de los pasajes más duros de la encíclica habla del trabajo invisible que sostiene la economía de datos: las personas que etiquetan imágenes en Kenia por céntimos la hora, los moderadores de contenido que desarrollan traumas psicológicos por ver lo peor de internet, los mineros de coltan en el Congo.León XIV los llama directamente lo que son: una forma contemporánea de esclavitud.Y aprovecha para algo inusual: pide perdón explícitamente porque la Iglesia tardó dieciocho siglos en condenar formalmente la esclavitud. Y transforma ese reconocimiento en una exigencia: si tardamos tanto en ver lo evidente entonces, no podemos permitirnos el mismo error ahora.Es un argumento retórico poderoso. Y es verdad.Lo que la encíclica NO diceTodo documento es también lo que decide omitir.Magnifica Humanitas no entra en el debate sobre AGI, superinteligencia o riesgos existenciales. No habla de lo que preocupa a Geoffey Hinton, a Yoshua Bengio o a los propios investigadores de los laboratorios más avanzados. Se queda deliberadamente en los efectos sociales del presente: trabajo, vigilancia, desinformación, armas autónomas.El párrafo 98 roza el tema cuando reconoce que "cualquier afirmación sobre la IA corre el riesgo de quedar obsoleta en poco tiempo", pero no entra en el escenario de transformación radical que algunos investigadores consideran probable.¿Es una omisión deliberada para no alimentar pánico? ¿O es simplemente que ese debate todavía no tiene respuesta ética consolidada? Probablemente ambas cosas.Sea como sea, deja un vacío. Y los que trabajamos en regulación y gobernanza de IA lo notamos.Lo que debería importarnos de todo estoSi diriges una empresa, lideras un equipo legal o simplemente tomas decisiones sobre qué herramientas de IA adoptar, este documento debería estar en tu radar. No por fe. Por política.La encíclica Magnifica Humanitas es, en el fondo, un argumento sobre quién tiene el poder de decidir cómo funciona la tecnología que va a moldear los próximos cincuenta años. Y ese argumento lo están haciendo también el Parlamento Europeo con el AI Act, los gobiernos que regulan el uso de IA en RRHH, los sindicatos que negocian cláusulas sobre automatización.La Iglesia lleva dos mil años aprendiendo a leer las transformaciones históricas. A veces tarde, sí. Pero esta vez han llegado razonablemente a tiempo. Y el texto es mejor de lo que cualquier cínico esperaría.¿Será tan importante como Rerum Novarum? No lo sabemos todavía. Pero la pregunta ya merece formularse.¿Quieres que tu equipo sepa realmente cómo usar la IA? En Academia de IA diseñamos formaciones a medida para empresas: desde talleres de iniciación hasta programas avanzados de automatización y cumplimiento normativo. 👉 Solicita información sobre formación para tu empresa