La inteligencia artificial está reescribiendo las reglas del juego en prácticamente todos los aspectos de nuestra vida: desde cómo nos comunicamos hasta cómo trabajamos, cómo se reparten los ingresos y hasta la manera en que se libran las guerras. A pesar de esto, las conversaciones públicas sobre el tema siguen siendo bastante limitadas, enfocándose principalmente en la competencia entre empresas tecnológicas o en debates abstractos sobre lo que estas máquinas pueden o no pueden hacer. Lo que casi nadie pregunta es para qué debería servir realmente la IA y si nuestras instituciones actuales están preparadas para dirigir esta tecnología hacia el bienestar general de las personas.

Por eso generó cierto alivio ver al papa León XIV pronunciarse sobre este asunto en su encíclica "Magnifica Humanitas", publicada el 25 de mayo. En el documento, el pontífice describe la trayectoria actual de la IA como una amenaza profunda para la dignidad humana. El papa acertadamente señala que "la tecnología nunca es neutral, porque adquiere las características de quienes la diseñan, financian, regulan y utilizan". Sin embargo, incluso en esa declaración importante, parece faltarle profundizar en la pregunta fundamental: para qué debería diseñarse realmente la inteligencia artificial.

Una de las preocupaciones más urgentes que plantea el papa es la dirección que está tomando la IA en contextos de guerra y vigilancia. Advierte que "cualquier tecnología que facilite ataques sin ver el rostro de los seres humanos rebaja el umbral moral del conflicto". Lo que hace apenas unos años era impensable, como los sistemas de vigilancia masiva impulsados por IA o algoritmos que seleccionan objetivos para ataques, se ha convertido ahora en algo común. El papa aboga entonces por el "desarme de la IA" para liberarla "de la mentalidad de la competencia 'armada', que hoy en día no se limita simplemente al contexto militar, sino que también es un fenómeno económico y cognitivo".

Detrás de estas preocupaciones específicas hay una idea más fundamental: que el progreso tecnológico no es automáticamente progreso moral. Solo porque algo sea técnicamente posible no significa que sea bueno para la humanidad. Lo que determina si una tecnología es deseable depende de quién la controla, qué ideología la guía y a qué intereses sirve.

El papa también insinúa lo que podría ser el riesgo más inmediato: que aunque la IA promete aumentar la productividad, en la práctica obliga a los trabajadores a adaptarse a la velocidad de las máquinas, en lugar de diseñar máquinas que trabajen en armonía con las personas. Sin embargo, el pontífice no llega a cuestionar la filosofía fundamental que domina toda la industria de la IA. El enfoque predominante se centra en imitar las capacidades humanas y automatizar tareas, buscando crear una "inteligencia artificial general" capaz de hacer todo lo que una persona puede hacer. Esta filosofía se basa en una suposición incorrecta: que la inteligencia de las máquinas y la inteligencia humana funcionan de la misma manera. No es así. Los humanos aprendemos con muy pocos ejemplos, formulamos hipótesis y refinamos nuestra comprensión a través de la interacción social. Los sistemas de IA, por su lado, necesitan enormes volúmenes de datos y son excelentes en reconocer patrones a gran escala, pero aún no demuestran una creatividad genuina ni tienen la capacidad de aprender mediante la interacción con el mundo físico y social como lo hacen los seres humanos.

La experiencia de las últimas cuatro décadas con la automatización digital muestra un patrón preocupante: las ganancias se han concentrado en la cima de la pirámide, los empleos de calificación media se han debilitado y el crecimiento general de la productividad ha sido decepcionante. Si la nueva ola de automatización por IA es aún más potente y controlada por un sector aún más concentrado, no hay razones para esperar un resultado diferente. Para miles de millones de personas en el mundo en desarrollo, donde un trabajo digno es la única vía real para salir de la pobreza, una IA enfocada únicamente en automatizar empleos sería un desastre.

La intervención del papa León XIV es importante porque plantea la necesidad de claridad moral y debate serio en toda la sociedad. Pero la conversación debe ir más allá de las exhortaciones y debe traducirse en decisiones concretas: medidas contra los monopolios tecnológicos, inversión pública en sistemas de IA que complementen a los humanos en lugar de reemplazarlos, regulación de la vigilancia y las armas autónomas, y derechos significativos para los trabajadores sobre los datos que alimentan estos sistemas. El resto de nosotros también debemos asumir la responsabilidad de defender a la humanidad.