Si vous suivez ce Mondial sur les réseaux sociaux, vous avez sûrement vu passer cette photo mensongère diffusée après le match Allemagne-Curaçao, remporté 7 buts à 1 par les Allemands. Elle prétend montrer un supporter moustachu de la Mannschaft, ressemblant étrangement à Adolf Hitler.

Vue plus de 30 millions de fois sur les réseaux sociaux, cette image a suscité beaucoup de réactions et d’indignation. En réalité, cette image a été manipulée. Pour le vérifier, nous avons revisionné l’intégralité du match. Cela nous a permis d’identifier la séquence originale diffusée en direct à la télévision. Filmée juste après la fin de la première mi-temps, on y voit plusieurs fans allemands célébrant le but de Kai Havertz. Aucun n’est grimé en Adolf Hitler.

Quelqu’un a donc simplement demandé à l’intelligence artificielle de modifier le visage d’un homme pour le faire ressembler au dirigeant nazi. Une recette simple, mais diablement efficace.

Une bagarre entre Marocains et Brésiliens ?

Au-delà des supporters, les contenus générés par intelligence artificielle ciblent aussi les joueurs, à l’image des sélections marocaine et brésilienne. Une vidéo affirme qu'une bagarre générale aurait eu lieu à la fin de la rencontre qui s’est soldée par un match nul un but partout.

On y voit une vingtaine de joueurs s’écharper juste devant une tribune. Si à première vue, le clip semble assez réaliste, l’IA fait encore des erreurs. Un drapeau rouge et vert agité dans les travées du stade n’existe pas. Tout comme ces chiffres inconnus sur les maillots de certains joueurs. Ce type de vidéo se compte par dizaines ces derniers jours.

Comment détecter l’IA ?

Le meilleur conseil pour détecter une image artificielle, c’est d’abord de faire attention aux détails visuels, aux inscriptions, aux visages, aux mouvements. Les outils d’IA grand public font encore quelques erreurs à ce niveau-là. Il faut aussi regarder la durée. Ces vidéos durent souvent 20 secondes ou moins, rarement plus. C’est aujourd’hui la durée standard permise par les générateurs les plus utilisés.

Et puis, il faut se pencher sur la fiabilité de la source, de qui partage ce type de contenus souvent spectaculaires.

Publicité sauvage

Derrière ces vidéos synthétiques, on retrouve souvent des comptes anonymes, prêts à tout pour faire du clic et monétiser leur audience. L’une des nouveautés, c’est que ces fausses informations sont parfois diffusées à des fins publicitaires. Nous avons notamment identifié un site opaque de paris et de jeux de casino en ligne.

Depuis le début du Mondial, il diffuse presque quotidiennement des images générées par IA. À chaque fois, le logo de la plateforme est habilement intégré dans ces contenus mensongers, dont certains dépassent le million de vues. Ce jeu dangereux devrait se poursuivre tout au long de la compétition.