Católicos debaten cómo responder a los riesgos de una inteligencia artificial cada vez más poderosa

Las recientes advertencias de expertos de la industria tecnológica sobre posibles riesgos extremos de la IA han reavivado el debate entre católicos sobre regulación, seguridad, responsabilidad humana y el papel que debería desempeñar la Iglesia.

Las advertencias sobre los posibles riesgos de una inteligencia artificial cada vez más avanzada han vuelto a ocupar el centro del debate tecnológico y social. En las últimas semanas, antiguos y actuales trabajadores de importantes empresas de IA han alertado sobre escenarios que, según ellos, podrían llegar a poner en peligro a la humanidad si el desarrollo de estos sistemas no está acompañado de medidas de seguridad y supervisión.



Estas advertencias también han generado un debate dentro de la comunidad católica. Mientras algunos especialistas y líderes consideran que los recientes llamados a desacelerar determinados desarrollos tecnológicos confirman la necesidad de establecer límites y mecanismos de control, otros piden prudencia ante afirmaciones que consideran demasiado generales y advierten sobre las consecuencias económicas, políticas y geopolíticas de frenar el desarrollo de esta tecnología.

El debate adquiere una dimensión particular a la luz de las recientes reflexiones del Papa León XIV sobre la inteligencia artificial. El Pontífice ha insistido en que la tecnología debe permanecer al servicio de la persona humana, la dignidad, el bien común y la paz.

Nuevas advertencias desde la industria tecnológica

La discusión se intensificó el pasado 8 de septiembre, cuando Jacob Coxon, antiguo empleado de Anthropic, hizo pública su salida de la compañía y expresó su preocupación por los riesgos asociados al desarrollo de sistemas de inteligencia artificial cada vez más avanzados.

Según el artículo publicado originalmente en el National Catholic Register, Coxon afirmó que algunas personas que trabajan en el desarrollo de IA consideran posible que esta tecnología llegue a representar una amenaza extrema para la humanidad antes de que termine la década.

Sus declaraciones se sumaron a otras advertencias procedentes de investigadores y directivos de empresas tecnológicas, quienes han planteado diferentes escenarios de riesgo relacionados con sistemas capaces de operar con un grado creciente de autonomía.

Entre los escenarios mencionados se encuentran el uso malicioso de la IA para desarrollar herramientas biológicas, ataques contra infraestructuras críticas, ciberataques y otras formas de utilización de sistemas autónomos con consecuencias potencialmente graves.

El debate sobre estos riesgos, sin embargo, no es nuevo. En junio, investigadores vinculados a Anthropic ya habían advertido sobre la posibilidad de que los seres humanos pierdan el control sobre sistemas de IA, especialmente ante el desarrollo de modelos capaces de contribuir al diseño de nuevas generaciones de inteligencia artificial.

También en años anteriores algunos investigadores han planteado estimaciones sobre la posibilidad de que una IA avanzada pudiera representar un riesgo existencial para la humanidad.

¿Desacelerar el desarrollo de la IA?

Ante este escenario, algunos dirigentes de empresas tecnológicas han reclamado una mayor regulación y supervisión independiente.

Para algunos expertos católicos, estas advertencias coinciden con la preocupación expresada por el Papa León XIV acerca de la necesidad de evitar una carrera tecnológica en la que la velocidad de desarrollo termine imponiéndose sobre la responsabilidad.

En su primera gran reflexión sobre la inteligencia artificial, el Pontífice ha pedido una tecnología orientada al desarrollo integral de la persona y ha advertido sobre el peligro de convertir la innovación en una nueva forma de dominio. En agosto, además, señaló que son necesarios marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios y políticas capaces de proteger la dignidad humana, la privacidad y los derechos fundamentales.

El Papa también ha insistido en que la inteligencia artificial no debe convertirse en un sustituto de la responsabilidad humana.



Durante un mensaje difundido el 21 de septiembre, León XIV volvió a pedir que los sistemas de IA contribuyan a la unidad y la paz, en lugar de fomentar divisiones y conflictos. El Pontífice planteó la necesidad de una inteligencia artificial guiada por la sabiduría y la caridad, con la dignidad humana como referencia.

Diferentes posiciones entre los católicos

Las advertencias sobre una posible catástrofe tecnológica no han generado una respuesta unánime entre los católicos.

Charles Camosy, teólogo católico que ha participado en conversaciones sobre los riesgos de la IA, considera que los recientes llamados a desacelerar el desarrollo tecnológico merecen ser tomados seriamente. A su juicio, la discusión debería ir más allá de una simple regulación y plantear una reflexión más profunda sobre el modo en que la sociedad entiende el progreso tecnológico.

Otros católicos, sin embargo, han mostrado mayor cautela ante las predicciones sobre una eventual extinción provocada por la IA.

Luke Burgis, profesor de The Catholic University of America, ha cuestionado las afirmaciones generales sobre el futuro de esta tecnología y ha señalado la necesidad de evitar que los católicos sean divididos rápidamente en posiciones ideológicas enfrentadas.

Desde esta perspectiva, el debate no debería reducirse a elegir entre estar “a favor” o “en contra” de la inteligencia artificial, sino analizar de manera prudente los usos concretos de una tecnología que puede ofrecer oportunidades, pero también generar nuevos riesgos.

También existen preocupaciones relacionadas con la competencia internacional. Algunos especialistas sostienen que una desaceleración unilateral podría tener consecuencias para la posición tecnológica y económica de Estados Unidos frente a China.

Por ello, incluso quienes reconocen riesgos importantes plantean diferentes respuestas: desde una pausa en determinados desarrollos hasta una regulación específica, mecanismos de responsabilidad para los desarrolladores, protección de los consumidores y acuerdos internacionales.

La Iglesia ante un nuevo desafío tecnológico

En medio de estas posiciones, algunos expertos han señalado que la Iglesia Católica podría desempeñar un papel relevante en el diálogo internacional sobre inteligencia artificial.

La cuestión no se limita únicamente a determinar qué tecnologías deben permitirse o prohibirse. También plantea preguntas sobre el trabajo, la educación, la privacidad, la dignidad humana, las relaciones personales, la guerra y la distribución del poder.

Precisamente por ello, el Papa León XIV ha insistido en que la inteligencia artificial debe ser evaluada desde principios como la dignidad inviolable de cada persona, el bien común, la solidaridad y la subsidiariedad.

El Pontífice también ha advertido sobre el riesgo de que los países con menos recursos queden cada vez más dependientes de las naciones que controlan las tecnologías y los datos. En su encuentro con legisladores católicos, pidió evitar que la innovación se convierta en una nueva forma de “colonialismo ideológico o económico”.

Para León XIV, el desafío consiste en orientar la innovación sin caer en una cultura dominada por el poder y la competencia.

Una tecnología al servicio de la persona



El debate sobre el llamado “apocalipsis de la IA” continúa abierto y las distintas posiciones muestran que todavía existen importantes desacuerdos sobre la magnitud de los riesgos y sobre cuál debería ser la respuesta de gobiernos, empresas y sociedad.

Lo que sí aparece con claridad en la reflexión católica es la necesidad de colocar a la persona en el centro del desarrollo tecnológico.

En este sentido, León XIV ha planteado una pregunta que va más allá de las capacidades técnicas de las máquinas: ¿qué tipo de humanidad queremos construir mientras desarrollamos estas nuevas tecnologías?

Para la Iglesia, la respuesta no puede depender únicamente de lo que los algoritmos sean capaces de hacer. También debe considerar quién los desarrolla, con qué finalidad se utilizan, quién controla sus consecuencias y si contribuyen realmente al bien común.

El reto, por tanto, no consiste únicamente en hacer que la inteligencia artificial sea más poderosa, sino en garantizar que el progreso tecnológico permanezca acompañado por la responsabilidad, la conciencia y el respeto a la dignidad de cada persona.