El Vaticano alerta sobre los “deepfakes”: “Amenazan la experiencia humana y el tejido social”

El Vaticano lanzó una seria advertencia sobre los peligros de los llamados deepfakes, contenidos manipulados mediante inteligencia artificial capaces de falsificar imágenes, audios y videos con enorme realismo. La Santa Sede alertó de que estas tecnologías no solo distorsionan la verdad, sino que amenazan directamente la confianza humana, las relaciones sociales y la dignidad de las personas.



La reflexión fue realizada durante un encuentro sobre ética digital y comunicación celebrado en Roma, en un momento en el que la Iglesia Católica intensifica su preocupación por los efectos espirituales, culturales y sociales de la inteligencia artificial.

“El uso de un deepfake altera la propia gramática del encuentro humano”.

La verdad humana, en riesgo

El problema no es solo tecnológico, sino profundamente moral

El prefecto del Dicasterio para la Cultura y la Educación, el Cardenal José Tolentino de Mendonça, advirtió que la proliferación de contenidos falsificados mediante IA erosiona uno de los pilares fundamentales de la convivencia humana: la confianza.  “El uso de un deepfake para poner en boca de una persona palabras que nunca pronunció altera la propia gramática del encuentro humano”, afirmó el purpurado portugués.

El Vaticano subraya que estas manipulaciones no son simples montajes digitales o bromas inocentes. En muchos casos pueden utilizarse para:

• desacreditar personas;
• manipular elecciones;
• generar odio;
• destruir reputaciones;
• o difundir mentiras con apariencia de verdad.

La preocupación de la Iglesia no se limita únicamente al ámbito político o mediático, sino también al impacto espiritual y antropológico de una cultura donde ya resulta difícil distinguir entre lo real y lo artificial.

Una amenaza contra la dignidad humana

La persona no puede convertirse en un producto manipulable

La Santa Sede viene insistiendo desde hace meses en que la inteligencia artificial debe estar siempre al servicio del ser humano y nunca al revés.

En este contexto, los deepfakes representan uno de los rostros más preocupantes del mal uso de estas tecnologías, especialmente cuando afectan:

• la identidad personal;
• la privacidad;
• la propia imagen;
• o la integridad moral de las personas.
• 
  

El Papa León XIV ha colocado precisamente la defensa de la dignidad humana en el centro de sus reflexiones sobre inteligencia artificial. Su primera encíclica, Magnifica humanitas, estará dedicada precisamente a estos desafíos éticos y sociales de la revolución digital.  “La tecnología debe servir al hombre, no reemplazar su humanidad”.

La crisis de la confianza

Cuando ya no sabemos qué es verdad

Uno de los mayores riesgos señalados por expertos y organismos internacionales es la destrucción progresiva de la confianza pública.  En una sociedad saturada de imágenes y contenidos digitales, los deepfakes generan una peligrosa sospecha permanente:

• cualquier video podría ser falso;
• cualquier voz podría estar clonada;
• cualquier imagen podría haber sido inventada.

Esto termina creando una cultura de desconfianza donde incluso la verdad auténtica pierde fuerza. El fenómeno preocupa especialmente en redes sociales, donde los contenidos manipulados se difunden a enorme velocidad y alcanzan millones de personas en pocas horas.

Una nueva frontera ética para la Iglesia

León XIV impulsa una respuesta vaticana

La preocupación del Vaticano por la inteligencia artificial se ha convertido en uno de los grandes ejes del pontificado de León XIV.  Hace apenas unos días, el Papa aprobó la creación de una Comisión Interdicasterial sobre Inteligencia Artificial destinada a coordinar la reflexión ética y las políticas de la Santa Sede sobre esta tecnología.

El objetivo es afrontar cuestiones relacionadas con:

• la dignidad humana;
• el trabajo;
• la verdad;
• la justicia;
• y el impacto espiritual de la revolución digital.

La Iglesia considera que la IA puede ofrecer oportunidades valiosas, pero insiste en que necesita límites éticos claros y una visión profundamente humana.

La manipulación de la imagen y la voz

Un problema que ya afecta a millones de personas

Los deepfakes ya se utilizan actualmente para:

• fraudes económicos;
• pornografía no consentida;
• suplantaciones;
• campañas de desinformación;
• y manipulación política.

La Unión Europea incluso prepara nuevas normativas para prohibir determinados usos de estas tecnologías, especialmente los relacionados con contenido sexual falso generado mediante IA.  El Vaticano advierte de que detrás de estas prácticas existe un problema más profundo: la tentación de tratar a la persona humana como un objeto manipulable y no como alguien creado a imagen de Dios. “La verdad no puede ser sustituida por simulaciones”.

Educar para discernir

La importancia de la formación digital y espiritual

Ante esta nueva realidad, la Iglesia insiste en la necesidad de formar la conciencia de las personas, especialmente de los jóvenes.

El Vaticano considera fundamental promover:

• alfabetización digital;
• pensamiento crítico;
• responsabilidad ética;
• y una educación que ayude a distinguir la verdad del engaño.

Pero también recuerda que el discernimiento no es solo una cuestión técnica, sino espiritual. En una cultura marcada por la inmediatez, la apariencia y la manipulación visual, el cristiano está llamado a custodiar la verdad, proteger la dignidad humana y construir relaciones auténticas.

La verdad sigue teniendo rostro humano

Una llamada a recuperar la autenticidad

Frente al avance de tecnologías capaces de imitar voces, rostros y emociones, la Iglesia recuerda que ninguna inteligencia artificial puede reemplazar la riqueza del encuentro humano verdadero. La preocupación del Vaticano no nace del miedo al progreso, sino del deseo de que el desarrollo tecnológico no haga perder al hombre su alma, su libertad y su capacidad de amar de manera auténtica.