Désinformation IA et l’affaire de l’aquaponey

La désinformation par l’IA vient de trouver son « cas-nular » d’école, un faux sport olympique que Google, ChatGPT et Perplexity ont fini par valider. Hier, au SEO & GEO Summit, Alan CladX est arrivé sur un poney gonflable. Aujourd’hui, son coauteur Sylvain Montmory était l’invité de mon webinaire « Le numérique sans bullshit » pour raconter comment les algorithmes se laissent berner. Voici l’essentiel de notre échange, remis en forme.

Désinformation IA, la preuve par l’aquaponey

Cette désinformation IA qui nous « bouffe le cerveau »

Le livre se lit en deux temps. Le premier raconte le canular de l’aquaponey, le second décrit les dérives du numériqueDéfinition marketing digital, un terme utilisé en permanence et pourtant bien mal compris car mal défini. Sylvain situe l’origine du sous-titre un midi, à la maison, avec sa fille. Une chanson passait en fond sonore, et la formule s’est imposée au moment où il hésitait à écrire ce deuxième livre. Ce qui l’a ensuite décidé, c’est la nécessité de faire savoir à chacun ce qui se passe sur nos écrans, et surtout sur ceux de nos enfants.

Podcast: Play in new window | Download (Duration: 1:01:56 — 45.1MB)

Subscribe: Apple Podcasts | Spotify | Android | RSS

Le pharmakon IA, poison et remède à la fois

Ma question reprenait le pharmakon de Bernard Stiegler, ce qui est à la fois poison et remède. Médias et grand public préfèrent agiter la peur d’IA qui nous anéantiraient, nous dépasseraient ou nous prendraient nos emplois. Sylvain préfère regarder ce qui se passe déjà sous nos yeux. Le livre choisit donc d’injecter le poison, qui est selon lui « le dernier remède ». Les auteurs ont manipulé eux-mêmes les algorithmes pour provoquer un électrochoc, et ils expliquent comment, sans inciter personne à les imiter.

Comment l’aquaponey a-t-il piégé les IA ?

L’idée vient d’Alan CladX, qui voulait retester sur les IA génératives ses vieilles techniques de 2010. Il pensait son sport olympique imaginaire, présenté comme discipline des Jeux de Paris 2024, trop énorme pour passer. Les machines ont tout avalé, pendant six mois. Il a créé une fédération internationale et une représentante française fictive, Faustine Verneuil.

Des influenceurs ont décliné le canular en vidéos, et des journalistes, peut-être des juniors trop confiants envers l’IA, l’ont relayé. Ouest-France l’a repris puis corrigé, et l’information est même apparue sur le site des JO et sur BFM. Alan a fini par révéler la supercherie en conférence, ce qui a éduqué les IA dans l’autre sens.

Sylvain note une différence nette entra IA et moteur Google traditionnel. Le texte blanc sur fond blanc est aujourd’hui sanctionné par le moteur, alors qu’auprès des IA génératives c’est « un vrai boulevard ».

Les techniques qu’on nous vend fonctionnent-elles ?

À Disneyland, Alan a montré que les recettes présentées comme infaillibles, comme les fichiers llms.txt ou l’invasion de Reddit, ne donnaient rien. Les vieilles ficelles, elles, marchent encore. Sylvain tempère, car cela dépend des modèles et de la période, et Alan teste en permanence. Après un drame aux États-Unis impliquant un adolescent et ChatGPT, les éditeurs ont ajouté des filtres en sortie. Ce sont des pansements, et le modèle n’est pas corrigé à la source. Les souris (SEO) disposent aujourd’hui des mêmes outils d’IA que les chats (Moteurs de recherche traditionnels et IA), et les agents accélèrent le mouvement à l’extrême.

Comment fonctionne le piratage de Google Discover ?

Discover est le fil d’actualité que l’on fait défiler sur son téléphone. Un article sur cinq y vient de faux sites d’information, et le média Next en a identifié plus de 15 000 en France. Ils publient de 100 à 1 000 articles par jour, signés de journalistes fictifs. Un hacker a confié à Sylvain qu’un article à 100 000 impressions rapporte de 1 000 à 1 500 euros, dont Google prélève 30 %. Les titres racoleurs dépassent facilement le million d’impressions, quand un contenu sérieux en génère peu.

Les marques en font les frais. Decathlon a dû démentir la fermeture de magasins en France, et Intermarché la présence de farine animale dans ses pâtes. Ce même hacker a un jour publié pendant une semaine des articles dont titre, image et texte ne correspondaient pas, sans que Discover réagisse.

Désinformation par l’IA : faux avis et pods

Sylvain a testé Podawaa (lien volontairement absent ici), un outil de pods LinkedIn. Il a programmé un message annonçant le test, assorti de commentaires absurdes, et tout était publié une heure plus tard. Les faux avis positifs passent comme une lettre à la poste, même pour un restaurant inventé par des journalistes d’UFC-Que Choisir. En outre, les faux avis négatifs, accompagnés de chantage, arrivent désormais aux États-Unis. Les IA leur accordent un poids considérable. Une pizzeria qui s’ouvrirait à Nantes sans aucun avis n’aurait presque aucune chance d’apparaître dans ChatGPT, et son dirigeant se demanderait forcément s’il peut s’abstenir de manipuler les IA sans se faire pénaliser.

Le recrutement est-il touché ?

Sylvain a testé son propre CV face à une annonce de directeur marketing. Le CV graphique, réalisé sous PowerPoint, obtenait environ 15 sur 20. Reformulé par ChatGPT à partir de l’annonce, puis recopié dans un document Word sans mise en page, il passait à 17. Sylvain a ensuite remplacé son nom par celui de Romane Maltnoy, et la note a atteint 18,5.

Il suggère qu’il y a un bonus pour le genre associé à la candidature. Mais il avait aussi glissé en texte blanc l’expérience fintech que l’annonce réclamait, avec quelques métadonnées, et il attribue le gain à ces ajouts cachés, sans savoir lesquels ont joué.

Il y voit une discrimination algorithmique entre ceux qui savent plaire à la machine et les autres. Il s’étonne aussi qu’un leader du recrutement vante des entretiens menés par un agent IA. Un candidat peut certes refuser de jouer ce jeu-là, mais peu de chômeurs s’y risqueront.

Que doit faire un directeur marketing dès lundi ?

Sylvain en tire quatre réflexes.

1. Se renseigner. Il ne faut pas être « bisounours ». Sylvain traite désormais tout ce qu’il voit sur Internet comme possiblement faux, puis il recoupe. Il reconnaît par contre qu’on ne peut pas douter de tout en permanence.
2. Regarder ses métriques de près. Des agents simulent parfaitement le trafic humain. Certains prestataires annoncent 60 % de visites en plus pendant que les ventes restent stables.
3. Résister à la production de masse. Face à la baisse de trafic, le premier réflexe des marques que Sylvain rencontre est de produire plus. Or, selon une étude de septembre qu’il cite, les AI Overviews font chuter le trafic de certains médias jusqu’à 45 % en un an. Il voit dans le rachat de publicité le réflexe suivant, ce qui profiterait encore à Google, une interprétation sans données à l’appui, précise-t-il. J’ai entendu la veille au Summit que la production massive par IA donne un pic puis une pénalisation rapide, et Sylvain la déconseille. Une marque se construit dans la durée, et générer du contenu de basse qualité en masse n’est pas du bon marketing. Il invite à revoir son mixEn B2B, il se cantonne, dans l'état actuel des connaissances, à 3 P, même si cette vision est assez discutable et réductrice.  et à revenir à des leviers éprouvés, hors du numérique.
4. Préparer sa réponse au bad buzzLes recommandations, le marketing du bouche à oreille et les réseaux sociaux pour être incontournable.. Il faut savoir comment agir le jour où les faux avis négatifs arriveront. Sylvain rappelle ainsi la métaphore d’Alan : « entourer l’aiguille d’une botte de foin », c’est-à-dire publier d’autres informations sur les mêmes mots clefs pour qu’elles prennent le dessus.

Existe-t-il un marketing qui échappe à tout cela ?

Sylvain cite Legami, petite marque italienne qui a lancé en 2018 des stylos effaçables à 1,95 euro, toujours au même prix. Il y voit des fondamentaux, avec un produit pensé, une niche, des collections limitées et une communication sobre. Il défie quiconque de lui montrer un agent IA capable de produire un tel modèle économique, et promet de reconnaître son erreur si on y parvient.

Les paris sont ouverts, je ne serais pas pour ma part aussi péremptoire. La réussite provient sans doute moins de l’idée que de la capacité à la mettre en œuvre. C’est là que les marketeurs ont un rôle à jouer. Plaise à Mercure que ce soit pour longtemps.

Peut-on arrêter le massacre de la désinformation IA ?

Sylvain nous donne trois pistes dans ce webinaire.

1. Faire son travail de marketeur. C’est la piste de Legami, et pour ma part la seule qui ne dépende de personne d’autre.
2. Compter sur la régulation. Pour Sylvain, l’AI Act a été édulcoré par le lobbying. Côté transparence, il suffit qu’un humain se porte garant du contenu, ou qu’un stagiaire le signe. Le volet sur le tri des CV est reporté à fin 2027, sans clarté sur les contrôles. Les interdictions déplacent aussi le problème, comme pour les deepfakes dénudés, qui prospèrent désormais sur Telegram.
3. Obtenir que les plateformes fassent le ménage. Sylvain propose que Google labellise des médias, pas des articles, sur la base de la charte de Munich, avec quelques millions d’euros de vérificateurs humains. Cela ne se fera pas sans volonté de Google. Il relève deux brèches juridiques. En Allemagne, avec les AI Overviews, Google pourrait être reconnu éditeur et donc responsable de ce qu’il publie. Les droits voisins devraient aussi rémunérer les journalistes dont il réutilise les contenus.

Ce que je retiens de cet échange avec Sylvain

Cette conversation sur la désinformation IA prolonge mon compte-rendu du SEO & GEO Summit. J’y inoculerais volontiers un virus d’éthique. Surtout, le conseil de Sylvain me plaît, celui de faire simplement et efficacement son métier de marketeur. Cela veut dire repenser ses produits, retourner voir ses clients et soigner son service client. Rien de spectaculaire, mais c’est avec les recettes les plus simples que l’on obtient les meilleurs plats.

Jouer avec l’informatique ou faire son travail ?

Une récente mission me le rappelait il y a peu. J’accompagnais un entrepreneur qui me montrait ses superbes et impressionnantes réalisations de tableaux de bord IA automatisés avec Claude. C’était indiscutablement remarquable du point de vue informatique. Par contre, il avait juste oublé de gérer ses produits par marge et par canal de vente et s’entêtait à développer des canaux qui dégageaient une perte sèche sur chaque produit vendu.

Sa solution ? Ajouter des menus à son tableau de bord. Il eût mieux valu faire une simple table pivot sur Excel (quitte à se faire aider par Claude) pour en tirer des insights et stratégiques que de jouer avec l’informatique qui n’est pas et ne sera probablement jamais son métier.

Il est parfois bon de revenir sur terre.

Pour en savoir plus

Le site de Sylvain Montmory : https://www.centaure-marketing-ia.fr

Le site d’Alan CladX : https://www.cladx.com/