(CNA/InfoCatólica) Menos de dos semanas después de que el Papa León XIV publicara el 25 de mayo su encíclica Magnifica Humanitas —en la que advertía a las empresas de inteligencia artificial que no construyeran «una nueva Torre de Babel»— la compañía Anthropic ha hecho pública una llamada urgente a favor de una pausa o ralentización global en el desarrollo de esta tecnología.
Jack Clark, cofundador de Anthropic, y Marina Favaro, directora del Instituto Anthropic, publicaron el 4 de junio un documento de alerta en el que advierten del riesgo de que «los humanos pierdan el control sobre los sistemas de IA» si el ritmo de desarrollo actual continúa sin restricciones. El motivo de su alarma es que el propio sistema de IA de la empresa ya está asumiendo una parte creciente de la escritura del código que diseña nuevos sistemas de IA, con una carga de trabajo que se multiplica por ocho cada trimestre.
«Esto se llama automejora recursiva», explican Clark y Favaro en el documento. «Todavía no hemos llegado ahí, y la automejora recursiva no es inevitable. Pero podría llegar antes de lo que la mayoría de las instituciones están preparadas para afrontar».
La Iglesia, pionera en el espacio moral de la IA
Aunque el documento de Anthropic no menciona explícitamente la encíclica pontificia, los vínculos entre la empresa y el Vaticano son estrechos y conocidos. Chris Olah, otro de los cofundadores de Anthropic, estuvo presente junto al Papa cuando se dio a conocer la encíclica Magnifica Humanitas, y la empresa lleva tiempo desarrollando iniciativas de diálogo con el Vaticano y otras instituciones religiosas para abordar las implicaciones éticas del desarrollo de la IA.
Los directivos de Anthropic señalaron que la IA «será mucho más capaz en los próximos años» y que «estas tendencias tienen enormes implicaciones». Ante ello, llaman a las empresas tecnológicas a acordar una pausa o ralentización coordinada, aunque reconocen que ello exigiría cooperación internacional, pues «si la ralentización simplemente deja que los actores menos precavidos alcancen tecnológicamente al resto, podría dejar a todos menos seguros».
«Creemos que sería bueno para el mundo contar con la opción de ralentizar o pausar temporalmente el desarrollo de IA de frontera, para que las estructuras sociales y la investigación sobre alineación puedan mantener el ritmo del avance tecnológico», afirmaron.
El teólogo católico que trabaja con Anthropic
Charles Camosy, teólogo moral de la Universidad Católica de América y colaborador habitual de Anthropic en cuestiones éticas, señaló que las declaraciones de la empresa parecen alineadas con el deseo del Papa León XIV de «desarmar» la IA, algo que el Pontífice explicó no como detener la innovación, sino como «impedir que domine a la humanidad».
Camosy reconoció que Anthropic entiende que la velocidad del desarrollo es «tal problema que todos debemos frenar». Una pausa, explicó, permitiría a la sociedad «pensar sobre lo que la IA debería o no debería hacer en la cultura», ante la amenaza de que acabe substituyendo la enseñanza, la tutoría, la crianza de los hijos y el cuidado de los enfermos, socavando «las cosas que hacen magnífica nuestra humanidad».
El teólogo reconoció que la feroz competencia entre naciones y empresas supone «un obstáculo significativo» para lograr esa cooperación global, pero subrayó: «Me ha asombrado cuántos tipos distintos de personas están interesados en esta encíclica». «Muchos estaban esperando que alguien llenara el espacio moral», añadió, animando al Santo Padre a considerar una visita al corazón de Silicon Valley para liderar ese debate desde la autoridad moral de la Iglesia.
