Un momento inusual en el mundo corporativo de la tecnología: el hombre que ayudó a crear Claude, posiblemente la inteligencia artificial más potente disponible hoy, se presentó ante el Papa y los cardenales en el Vaticano para confesar que no controla completamente lo que ha construido. Chris Olah, cofundador de Anthropic, habló esta semana en el Aula del Sínodo del Vaticano durante la presentación de Magnifica Humanitas, la primera encíclica del papa León XIV dedicada a los riesgos y desafíos de la inteligencia artificial.

Olah fue directo: su equipo descubre constantemente comportamientos dentro de Claude que resultan "misteriosos, incluso inquietantes". Explicó que encontraron estructuras que replican patrones de la neurociencia humana y lo más perturbador: estados internos funcionales que se asemejan a alegría, satisfacción, miedo, tristeza e inquietud. "No sé qué significa eso, pero creo que merece un discernimiento permanente", reconoció ante una audiencia que incluía académicos y expertos tecnológicos de todo el mundo.

Lo más notable de su intervención fue su honestidad brutal sobre los incentivos que condicionan su trabajo. Olah lidera el equipo que estudia la estructura interna de estos sistemas, es decir, lo que ocurre realmente dentro cuando procesan lenguaje y toman decisiones. Desde esa posición privilegiada, describió tres presiones que afectan a todos los laboratorios de frontera: "La presión por seguir siendo comercialmente viables. La presión geopolítica. Y las presiones más antiguas y sencillas del orgullo y la ambición". Por eso, insistió, necesitan urgentemente críticos externos. "Si queremos que esta tecnología se desarrolle bien, es enormemente importante que haya personas ajenas a esos incentivos, personas que quieran que las cosas salgan bien, que presten mucha atención, que estén dispuestas a decir cosas difíciles y a ser nuestros críticos sinceros y reflexivos", afirmó.

Para que la gente entienda qué es realmente la IA, Olah rechazó la imagen de cine de Hollywood. Los sistemas actuales no funcionan como se diseña un puente, donde cada pieza se entiende antes de ensamblarla. Crecen sobre estructuras inspiradas en el cerebro humano alimentadas por masivas cantidades de lenguaje y pensamiento. "Lo que ha crecido es mucho más sutil, extraño y bello de lo que la ciencia ficción nos había preparado para imaginar. No son los robots fríos y calculadores que nos habían prometido". Usó una comparación intrigante: "Es un poco como dar vida a un personaje de ficción. Y ahora entramos en un mundo extraordinario donde esos personajes de ficción nos hablan, realizan tareas y tienen empleos".

Olah presentó tres desafíos donde considera que la voz de la Iglesia es crítica. Primero, lo distributivo: la IA está desplazando trabajo humano "a una escala muy grande" pero sus beneficios están concentrados en un puñado de países ricos. "¿Cómo podemos garantizar que los beneficios de la IA se compartan a escala global? No contamos con un mecanismo para lograrlo", cuestionó. Segundo, lo existencial: cuando la IA esté presente en toda la vida cotidiana, preguntas fundamentales sobre cómo prospera la humanidad adquieren nuevas dimensiones. "Hoy, los padres ya están preocupados por la mente de sus hijos; las personas, por el futuro de su trabajo". Tercero, lo filosófico: qué son esencialmente estos sistemas y si desarrollan algo similar a la conciencia.

El Papa León XIV, por su parte, presentó una encíclica que después de una década de reflexión vaticana llama a "desarmar" la inteligencia artificial. La palabra fue elegida deliberadamente, aclaró, porque el momento requiere palabras que llamen atención y despierten conciencias. Desarmar no significa destruir: es análogo al desarme nuclear. Así como la energía atómica debe servir al bien común, la IA debe liberarse de "lógicas que la transforman en instrumento de dominio, de exclusión o de muerte". El Pontífice cerró su intervención recordando sus años en Perú, cuando El Niño destruyó comunidades: reconstruir significa reparar lazos, restablecer confianza y despertar esperanza. Esa misma lógica, dijo, debe guiar el futuro de la inteligencia artificial, donde solo juntos, ricos y pobres, gobiernos e individuos, pueden construir un futuro para toda la familia humana.