A moins de deux mois des élections législatives, les deepfakes, ces contenus faux rendus crédibles par l'intelligence artificielle, explosent en Corée du Sud.

En effet, la Commission électorale nationale (NEC) a recensé, du 29 janvier au 16 février, 129 cas de violation de la loi électorale pour l'utilisation de cette technologie. La plupart de ces images malveillantes a été supprimée grâce au logiciel de l’institution.

En effet, l’utilisation de cette technologie est dangereuse, car elle incite au mensonge et permet de propager de fausses informations. Beaucoup pensent que ce genre de pratiques sont un frein, voire une menace à la démocratie. Et cela touche tous les domaines de la société. De nombreuses célébrités, dont Taylor Swift, sont devenues les victimes de cet hypertrucage numérique. Le président sud-coréen, Yoon Suk-yeol, a lui aussi fait l'objet de canulars malveillants. En 2002 par exemple, il est apparu dans une fausse vidéo de soutien d’un candidat pour les élections régionales.

Les députés sud-coréens ont alors adopté en décembre 2023 la loi interdisant tout usage de deepfake durant les campagnes électorales à 90 jours des scrutins. Les auteurs risquent jusqu'à sept ans d'emprisonnement et une amende allant jusqu’à 50 millions de wons, soit environ 35 000 euros. Cependant, l’équipe chargée de contrôler ce phénomène n’est pas très grande : à peine 72 personnes. Cette technologie se développant en plus à une vitesse hors normes, il sera de plus en plus difficile de la contrer. Les applications permettant de créer des deepfakes en dix minutes, même sans tatouage numérique, s'achètent d'ailleurs très facilement. D'où la nécessité de développer des technologies de détection de pointe.

Une société sud-coréenne « Deep Brain AI » a mis au point une solution de détection avancée le mois dernier et déposé un brevet d'une technique de détection du deepvoice, une synthèse audio. Cette start-up avait créé « AI Yoon », l'avatar numérique de l'actuel président Yoon Suk-yeol, lors des dernières élections présidentielles. L'outil de détection de cette start-up permet d'identifier des fausses vidéos d'une minute en seulement cinq minutes. Mais il est pour l'instant loin d'être exploité par la NEC, faute de budget nécessaire.