L’article de Catholic World Report met en garde contre l’utilisation de l’intelligence artificielle (IA) pour créer des deepfakes impliquant des figures religieuses, en particulier celles de l’Église catholique. Les deepfakes sont des vidéos ou des images manipulées par l’IA pour faire croire que des personnes ont dit ou fait des choses qu’elles n’ont pas réellement dites ou faites. Ces technologies peuvent être utilisées pour tromper le public et promouvoir des produits ou des idées douteuses.
L’article cite plusieurs exemples récents de deepfakes impliquant le pape François et d’autres membres du clergé. En 2023, des images du pape portant une veste de designer ont circulé sur les réseaux sociaux, et en 2024, des images générées par IA le montrant avec une pop star vieillissante ont attiré l’attention. Ces exemples, bien que relativement innocents, illustrent le potentiel de manipulation de l’IA.
Le problème devient plus grave lorsque des deepfakes sont utilisés à des fins commerciales. L’article décrit des vidéos deepfake du pape François et du cardinal Marc Ouellet, utilisées pour promouvoir une prière prétendument miraculeuse vendue à un prix élevé. Ces vidéos sont des altérations de véritables interviews, modifiées pour faire croire que le pape soutient cette prière, ce qui est totalement faux.
Le Vatican n’est pas resté silencieux face à ces dangers. Le pape François a exprimé ses préoccupations concernant l’utilisation abusive de l’IA à plusieurs reprises l’année dernière. De plus, le cardinal Víctor Manuel Fernández, préfet du Dicastère pour la Doctrine de la Foi, travaille avec le Dicastère pour l’Éducation et la Culture pour produire un document sur l’utilisation éthique de l’IA.
L’article souligne que ces manipulations ne sont pas seulement une question de tromperie visuelle, mais qu’elles peuvent avoir des implications théologiques et éthiques profondes. Les deepfakes peuvent être utilisés pour diffuser des messages contraires aux enseignements de l’Église, semant la confusion parmi les fidèles. Il est donc crucial de sensibiliser le public aux dangers des deepfakes et de promouvoir une utilisation responsable de l’IA.
Enfin, l’article appelle à une vigilance accrue et à une coopération internationale pour lutter contre les abus de l’IA. Les technologies avancées doivent être utilisées de manière éthique et transparente pour éviter les conséquences néfastes. En travaillant ensemble, les institutions religieuses, les gouvernements et les entreprises technologiques peuvent contribuer à protéger la vérité et l’intégrité des communications numériques… Source