Des nostalgiques du film de Noël Maman, j’ai raté l’avion ont vu leur cœur se réchauffer en tombant sur une supposée photo récente d'une réunion de trois de ses principaux acteurs. Mais un détail pose problème : l’image avait en réalité été générée par intelligence artificielle (IA).

Plusieurs éléments contextuels permettent pourtant de déterminer assez facilement que l'image est fausse, notamment le fait que les acteurs Macaulay Culkin et Joe Pesci apparaissent beaucoup plus jeunes sur la photo virale qu’ils ne le sont réellement aujourd’hui.

Mais au-delà de son origine synthétique, la viralité de cette image met en lumière plusieurs constats liés aux contenus générés par l’IA qui saturent de plus en plus nos fils de réseaux sociaux.

1. L’intention au départ n’est pas toujours de tromper

L'image en question a initialement été publiée sur Instagram par le café-pâtisserie Angel Cakes à Dubaï, aux Émirats arabes unis. L’objectif était de promouvoir un gâteau spécial des fêtes en forme de sapin de Noël.

Plusieurs des images de réunion mises en ligne par Angel Cakes montrent le gâteau, mais les autres comptes qui les ont reprises ont rogné les photos afin qu’on ne le voie pas. Angel Cakes a également apposé une étiquette indiquant que les images avaient été générées par intelligence artificielle, ce que les profils ayant republié ces images n’ont pas fait.

Les fausses photos de réunion des acteurs de « Maman, j'ai raté l'avion » servaient à promouvoir un gâteau spécial des Fêtes en forme de sapin de Noël vendu à Dubaï.

Photo : Instagram @angelcakes.dubai

Ce n’est pas la première fois qu’Angel Cakes a recours à l’IA générative pour promouvoir ses produits. Lors du Grand Prix d’Abou Dhabi début décembre, il a publié des images de trois pilotes de formule 1 (nouvelle fenêtre), dont Max Verstappen, dans son café. Celles-ci étaient aussi étiquetées comme contenu IA sur Instagram.

Quoi qu’il en soit, une fois publiées, ces images peuvent être reprises, décontextualisées et amplifiées par n’importe qui, bien au-delà de l’intention initiale.

2. Les filigranes ont leurs limites

Les images de réunion des acteurs de Maman, j’ai raté l’avion ont été générées à l’aide d’outils d'IA de Google. Il est possible de le vérifier en effectuant une recherche inversée sur Google, puis en consultant l’onglet à propos de cette image, qui permet d’identifier leur origine artificielle.

Google est capable de déterminer que l'image a été créée avec ses outils d'intelligence artificielle lorsqu'on effectue une recherche inversée.

Photo : Capture d'écran Google

Les images générées par les outils de Google intègrent un filigrane invisible baptisé SynthID, capable de survivre même après une capture d’écran ou une publication sur les réseaux sociaux.

Les images produites par des outils concurrents ne disposent pas de ce type de marquage. Certains d’entre eux ajoutent des métadonnées indiquant qu’une image a été générée par l'IA, mais ces informations disparaissent lorsque le contenu est téléchargé, modifié ou republié sur d’autres plateformes.

Malgré tout, cette technologie a ses limites : le filigrane est identifié par Google si on téléverse les images originales d’Angel Cakes, mais plusieurs des versions rognées sur d’autres pages ne sont pas détectées comme étant artificielles. Il est difficile de savoir pourquoi ce phénomène se produit, mais la compression répétée des photos pourrait y être pour quelque chose.

3. Nos fils sont saturés par l’IA

Ce n’est pas un hasard si « slop» a été désigné mot de l’année par le dictionnaire Merriam-Webster (nouvelle fenêtre) – en particulier dans le contexte de l’expression AI slop, que l’Office québécois de la langue française (OQLF) traduit désormais par « contenu dégénératif ». (nouvelle fenêtre)

Selon l’OQLF, le contenu dégénératif est un contenu textuel ou multimédia produit par intelligence artificielle générative sans intervention humaine ou avec une intervention minimale, qui se répand massivement dans l'espace numérique, souvent au détriment des autres contenus.

À une époque où les plateformes de réseaux sociaux privilégient l’engagement par-dessus tout, l’une des principales conséquences de l’essor de l’IA générative est la pollution de l’espace numérique. En permettant de façonner une réalité sans effort, ces outils sont capables de produire des contenus sur mesure pour susciter des réactions.

Il n’est donc pas surprenant de voir ces images de Maman, j’ai raté l’avion devenir virales en plein temps des fêtes. Elles touchent à l’un des ressorts émotionnels les plus puissants qui soient : la nostalgie et l’imaginaire collectif.

Le contenu dégénératif possède en effet une forte capacité à solliciter les émotions et à jouer sur la corde sensible. Ce phénomène s’est multiplié au cours de la dernière année, notamment à travers de fausses vidéos et de vidéos mettant en scène des animaux abandonnés, des personnes âgées oubliées, ou encore des contenus destinés à provoquer la colère chez certains publics – par exemple en associant des migrants à des actes criminels imaginés.