Les agences gouvernementales sud-coréennes ont promis de réagir face à une montée en flèche du nombre de publicités de jeux d’argent avec des deepfakes de célébrités apparaissant sur les réseaux sociaux, mettant en scène des vidéos générées par IA de stars telles que IU et Son Heung-min.
Des vidéos réalistes semblent montrer IU, une chanteuse et actrice sud-coréenne de premier plan, tenant un smartphone sur lequel tourne une application de casino. Des vidéos similaires avec le footballeur Son Heung-min le montrent semblant parler en coréen, encourageant les spectateurs à télécharger une application de jeux d’argent. D’autres vidéos incluent des deepfakes de l’acteur Lee Jung-jae et de la star de la pop RM de BTS, et ont également été vues sur plusieurs plateformes de partage de vidéos.
Ces vidéos arborent des logos et des matériels marketing copiés de Kangwon Land, l’opérateur du casino High1. D’autres se servent de matériel du ministère de l’Économie et des Finances. Bien que les jeux d’argent en ligne soient illégaux en Corée du Sud, des experts affirment que ces publicités visent à « tromper les gens en leur faisant croire que c’est légal » en utilisant des logos et des thèmes de casinos agréés par le gouvernement.
Un reportage de la chaîne KBS a montré plusieurs publicités de casino alimentées par l’IA mettant en vedette des deepfakes de célébrités sud-coréennes. Le média sud-coréen Insight a rapporté que l’Agence coréenne de protection des consommateurs, un organisme gouvernemental de défense des droits des consommateurs, affirme qu’au moins 38 de ces publicités circulaient sur Facebook et d’autres plateformes.
Les publicités présentent des « vidéos manipulées avec sophistication ». Plusieurs vidéos de deepfake montrent des célébrités semblant « recommander personnellement » l’utilisation d’une application de jeux d’argent. Huit autres vidéos ont également été découvertes, utilisant des séquences d’actualités composites de diffuseurs terrestres comme MBC et KBS « pour faire croire qu’il s’agissait de reportages officiels sur des sites de jeux d’argent ».
Les vidéos ont été synthétisées avec une précision remarquable, y compris le mouvement des lèvres et les voix, difficiles à distinguer des véritables émissions, conclut le média. Environ deux douzaines de publicités ont fait un usage illégal des logos officiels de ministères et de grandes entreprises. Elles utilisaient des expressions comme « certifié par le gouvernement » et « opéré légalement ».
Une douzaine d’autres utilisent des personnages non autorisés de sociétés bien connues, y compris la loterie Donghaeng, l’opérateur de l’application de chat Kakao et des grandes marques de magasins de proximité. Les publicités suggéraient que les casinos étaient affiliés à ces entreprises. Les enquêteurs ont découvert qu’elles « attiraient activement les victimes en exploitant habilement les algorithmes pour afficher à plusieurs reprises des publicités similaires après une seule visualisation ».
Les identités des annonceurs restent largement inconnues, selon le média. L’Agence coréenne de protection des consommateurs a déclaré avoir transmis les résultats de son enquête à Meta. Elle a également demandé à l’opérateur de Facebook de « prendre des mesures pour bloquer la publication répétée d’annonces identiques ou similaires ».
L’agence a affirmé qu’elle prévoyait de renforcer la surveillance des publicités de casinos en deepfake « sur les principales plateformes en ligne ». « Les jeux d’argent en ligne sont illégaux en soi », a déclaré un porte-parole de l’agence. « Avec les développements récents de la technologie IA, il devient très facile de créer des vidéos deepfake imitant des célébrités, des agences de presse et des institutions publiques. Le public doit être particulièrement vigilant. »
Les forces de l’ordre ont ajouté que le public peut signaler les cas suspects de jeux d’argent en ligne illégaux à l’Industrie de la Surveillance et du Signalement des Jeux d’Argent Illégaux. En août, Kangwon Land a promis de prendre des mesures contre les créateurs d’une vidéo deepfake montrant Son semblant approuver une fausse application de jeux d’argent de Kangwon Land. L’opérateur de casino a déclaré que les créateurs de la vidéo étaient basés à l’étranger.
Cependant, un point de vue divergent suggère que la répression pourrait également pousser les opérateurs à se tourner vers des méthodes encore plus sophistiquées, rendant la détection et le contrôle de ces pratiques plus difficiles pour les autorités. Les nouvelles technologies, tout en facilitant les manipulations frauduleuses, offrent aussi des outils potentiels aux régulateurs pour identifier et combattre ces infractions, mais l’équilibre entre innovation technologique et responsabilité réglementaire demeure un défi constant.
Luc Lemaire est un blogueur passionné qui adore écrire sur les casinos et l’industrie du jeu. Joueur à temps partiel depuis plusieurs années, il est fasciné par la psychologie du jeu.