Clonan la voz del arzobispo de México con Inteligencia Artificial para cometer un fraude

(Desde la Fe).- Cada vez es más común el uso de Inteligencia Artificial para clonar la voz de personajes públicos a fin defraudar a las personas. La Iglesia católica no ha quedado exenta de esta práctica, como ocurrió recientemente con el cardenal Carlos Aguiar Retes, cuya voz fue clonada para intentar cometer un fraude. Te contamos de qué se trata.

Nuevo fraude con Inteligencia Artificial

Una empresa de “productos milagro” recurrió al uso de la técnica conocida como Deepfake, con Inteligencia Artificial, para clonar la voz del arzobispo de México a fin de que, en un video, promoviera un medicamento milagroso contra la diabetes.

En este sentido, la Arquidiócesis Primada de México hizo un llamado a la población para no caer en engaños de este tipo, y no ser víctima de fraude al adquirir “productos milagro” que se promocionan con publicidad engañosa en las redes sociales.

Y es que estas compañías fraudulentas se aprovechan de la confianza depositada en famosos personajes públicos, entre ellos el arzobispo Carlos Aguiar Retes.

Video del Cardenal Aguiar alterado con Inteligencia Artificial

El padre José de Jesús Aguilar , quien también ha sido víctima de este tipo de prácticas, alertó a través de sus redes sociales sobre este video manipulado con la Inteligencia Artificial, por medio de la técnica Deepfake, en el cual se atribuye al Cardenal Carlos Aguiar Retes haberse recuperado de una enfermedad gracias al uso de un producto “del cual ni siquiera él tiene conocimiento” y que es un claro intento de fraude.

El video original alterado con Inteligencia Artificial es el del mensaje que con motivo del Año Nuevo 2024 que se difundió a finales de diciembre de 2023 a través del canal de YouTube y de Redes Sociales de la Arquidiócesis Primada de México.

Advirtió el padre José de Jesús Aguilar:

"El vídeo menciona que el Cardenal se recuperó, se salvó, se curó, gracias a un medicamento del cual ni siquiera él está enterado, por lo tanto, están usurpando su nombre, están usurpando su personalidad, su cargo, se están valiendo de la confianza que la gente tiene en él para vender un producto"

Presentan denuncia por uso de la imagen del Cardenal Aguiar alterada con Inteligencia Artificial

De la misma manera, el sacerdote hizo un llamado a los fieles y a la población en general tener mucho cuidado con la información que se difunde en las plataformas de las redes sociales y sobre todo con estos mensajes de video modificados por Inteligencia Artificial.

“Inmediatamente díganle a quien se los mandó, que es totalmente falso a fin de que no sean víctimas de un fraude“, explicó el P. José de Jesús Aguilar.

"Ya se han hecho las denuncias correspondientes, pero necesitamos también que ustedes ayuden a difundir que esto es totalmente falso y esperemos llegar a quien está haciendo esta información falsa para que sea sancionado de acuerdo a la ley. Que Dios les bendiga y muchas gracias. Y difundan, por favor, este vídeo"

Indicó que también se ha utilizado de manera ilegal su imagen con Inteligencia Artificial “para vender un producto el cual desconozco totalmente, incluso han manipulado alguna fotografía mía colocando el producto en la mano y por supuesto esto es para engañarles a ustedes”.

¿Qué es el Deepfake y cómo se genera con la Inteligencia Artificial?

El Deepfake es un archivo de vídeo, imagen o voz manipulado mediante un software de Inteligencia Artificial, de modo que parezcan originales, auténticos y reales.

Estos Deepfakes son una evolución de las fake news intencionada y con ellos se busca la manipulación de las masas gracias a la difusión de estos archivos en Internet y en las redes sociales.

Los archivos Deepfakes regularmente son de personajes públicos, como el caso del Cardenal Carlos Aguiar Retes, ya que cuanto más material se tenga de ellos, mejor será la falsificación.

Este tipo de productos de la Inteligencia Artificial se pueden generar por softwares u ordenadores especializados a partir del aprendizaje automático y sin que se necesite la intervención de la persona.

Fraudes a través de publicaciones en las redes sociales

Otra modalidad de fraude o estafa que se está gestando contra los fieles de la Iglesia católica se ha detectado a través de los posteos o publicaciones de mensajes de texto en las redes sociales oficiales de la Arquidiócesis de México, iglesias o parroquias.

En dichos mensajes enviados desde algunas cuentas fraudulentas se busca a los seguidores de las mismas para ofrecerles una gran suma de dinero para que, con esos recursos, realicen “actos de buena voluntad”.

Una de las cuentas que se ha detectado que incurre en este intento de fraude o estafa es de una persona que se hace llamar Lauryne Maley, quien informa ser de nacionalidad francesa, vivir actualmente en Inglaterra, tener 62 años y estar enferma, razón por la cual le “gustaría donar mis bienes”.

“Si he decidido contactar con vosotros es porque quiero que esto se haga sin demasiada publicidad debido a mis actividades anteriores. Contáctame directamente vía Messenger”, indica en el mensaje anzuelo enviado desde ese perfil a diferentes usuarios de Facebook que siguen la cuenta de Desde la fe, por lo que se hace un llamado a nuestros seguidores para tener cuidado y no caer en un fraude.

Consejos para evitar estafas con publicidad hecha con Inteligencia Artificial

En estos tiempos digitales, la vigilancia y la conciencia son esenciales para protegernos de estafas en línea. Al difundir esta información, contribuimos a la prevención de engaños y a la protección de nuestra comunidad.

A continuación de dejamos unos consejos para que evites caer en intentos de estafa:

1-Verificación de mensajes: Ante cualquier mensaje recibido en redes sociales, especialmente en Facebook y WhatsApp, es esencial verificar la autenticidad de la información antes de tomar cualquier decisión.

2-Comunicación directa: Si recibes mensajes sospechosos de algún conocido, comunícate directamente con la persona que te los envió para confirmar su veracidad.

3-Denuncias: Es crucial la denuncia por parte de la comunidad, para que también ésta contribuya a difundir la alerta y tomar acciones legales contra los responsables.

Los Deepfakes utilizan el aprendizaje de la Inteligencia Artificial, por lo que estos archivos consiguen engañarnos fácilmente, ya que se usan para inducir a las personas a caer en acciones fraudulentas, entre otras, por lo que representan una gran amenaza porque facilitan la desinformación.

Cada vez es más común el uso de Inteligencia Artificial para clonar la voz de personajes públicos a fin defraudar a las personas. La Iglesia católica no ha quedado exenta de esta práctica, como ocurrió recientemente con el cardenal Carlos Aguiar Retes, cuya voz fue clonada para intentar cometer un fraude. Te contamos de qué se trata.