L’article du Journal de Montréal met en lumière les préoccupations de Meta concernant l’utilisation croissante de l’intelligence artificielle (IA) générative dans les arnaques romantiques en ligne. Meta a tiré la sonnette d’alarme sur le fait que des cybercriminels utilisent des outils d’IA pour créer des images et des voix fausses, leur permettant de se faire passer pour d’autres personnes lors d’appels vidéo. Cette technologie permet aux arnaqueurs de tromper plus facilement leurs victimes et de gagner leur confiance.

David Agranovich, responsable des menaces mondiales chez Meta, a cité un exemple concret d’un groupe de cybercriminels basé au Cambodge qui cible particulièrement les personnes parlant japonais ou chinois. Ce groupe utilise des logiciels d’IA pour créer et traduire du contenu, facilitant ainsi leurs arnaques. L’objectif principal de ces arnaqueurs est de soutirer de l’argent à leurs victimes en établissant des relations de confiance sur une période prolongée.

Meta a souligné que ces arnaques sont particulièrement préoccupantes en période hivernale et à l’approche de la Saint-Valentin, lorsque les gens peuvent se sentir plus isolés et vulnérables. Rachel Tobac, une autre responsable chez Meta, a conseillé aux utilisateurs d’être « poliment paranoïaques » lorsqu’ils rencontrent quelqu’un en ligne qui demande de l’argent pour une urgence ou une opportunité professionnelle. Elle a également mentionné que les arnaqueurs peuvent utiliser des bots générés par l’IA pour créer des personnages virtuels convaincants sans intervention humaine.

Pour détecter ces escroqueries, Meta se base sur des schémas de comportement et des signaux techniques plutôt que sur l’analyse d’images. Cette approche permet de renforcer la détection face à l’IA générative. Meta rappelle également à ses utilisateurs de faire preuve de prudence et de vigilance lorsqu’ils interagissent en ligne.

L’article souligne que l’utilisation de l’IA générative pour des arnaques a considérablement augmenté au cours des derniers mois. Les outils d’IA disponibles, souvent gratuits, permettent aux arnaqueurs de créer des personnages virtuels très réalistes. Cette tendance inquiétante montre à quel point il est crucial de sensibiliser le public aux risques associés aux interactions en ligne.

Enfin, Meta encourage les utilisateurs à signaler toute activité suspecte et à se méfier des demandes d’argent en ligne. La collaboration entre les plateformes numériques et les utilisateurs est essentielle pour lutter contre ces nouvelles formes de cybercriminalité. En restant informés et vigilants, les utilisateurs peuvent contribuer à réduire les risques d’arnaques en ligne…   Source