Quand l’IA générative dope l’e-commerce

Podcast: Play in new window | Download (Duration: 11:52 — 12.5MB)

Subscribe: Apple Podcasts | Spotify | Android | RSS | More

Les interfaces vocales à base d’IA générative sont en passe de transformer radicalement l’expérience du client e-commerce en permettant des interactions rapides et proches de la conversation humaine. C’est ce que j’ai pu constater sur le salon Tech for Retail qui s’est tenu les 26 et 27 novembre 2024. Jean Castets d’orkester.fr — qui anime des webinaires passionnants sur l’IA — nous a accueillis sur son stand et gratifiés d’une démonstration marseillaise aussi impressionnante qu’humoristique. Un bel exemple d’application concrète de l’IA générative à des processus métier.

IA générative et e-commerce : les nouveaux agents conversationnels

De vrais cas d’usage de l’IA générative, c’est possible ? 

Jean Castets. Nous avons un an à tester ce que pouvaient faire les IA génératives intégrées dans des systèmes d’entreprise. Il y avait de vrais freins sur la capacité à traiter avec précision un gros pourcentage de cas, que ce soit en service client, en service commercial. 

On commence à arriver à des résultats qui sont au moins aussi satisfaisants que des agents humains. Et de fait, cela offre des cas concrets sur du service client, par email, par téléphone, ou du service ou conseil commercial. On peut passer à l’échelle et avoir des résultats qu’on éprouve avec certains de nos clients depuis quelques mois et qui sont vraiment très satisfaisants.

Prenons l’exemple du service client e-commerce dopé par l’IA générative

J.C. Ce qui est intéressant avec les IA génératives, c’est la capacité de les coupler avec des bases de données dynamiques. Par exemple une base de données de suivi de commandes. 

Je vais contacter un service client IA, par téléphone ou par email, lui demander où en est ma commande, où est la pièce qui me manque, comment je fais pour retourner un produit… L’IA gère très bien ces cas-là et va pouvoir les coupler avec des données réelles du client pour personnaliser ses réponses.

On sort du cas purement consultatif de ChatGPT avec une base de connaissances intrinsèque, transverse et commune à tout le monde. On parle de données d’entreprise que l’on croise avec la puissance de l’IA générative. Et c’est là où on change de dimension.

Rassurez-moi, la donnée d’entreprise reste bien dans l’entreprise

J. C. Cela dépend de la façon dont vous configurez l’application et quelles API vous utilisez. Mais évidemment, quand on passe à l’échelle avec des entreprises, on est contraint de respecter les règlements RGPD.

La capacité de traitement des cas varie avec la complexité du domaine d’activité. Plus le métier est généraliste, plus le pourcentage va être élevé. Même si votre business est complexe, vous pouvez traiter 10 à 30 % des cas d’usage automatiquement. 

Je pense qu’on peut même aller beaucoup plus haut et de toute manière, on est sur les IA les plus bêtes qu’on n’aura jamais. En tout cas, aujourd’hui, c’est celles qu’on a. Elles ne pourront être que plus intelligentes, plus rapides, plus précises. Et donc, le pourcentage de traitement va augmenter.

Quelles sont les limites de ces cas d’usage ?

J.C. Les modèles de LLM ne sont pas à ce jour capables de traiter correctement des bases de données d’entreprise très importantes. Il peut y avoir des « effets de flemme » à aller au bout des choses. Et ça, ça crée des réponses incomplètes, voire des biais. 

C’est pour cela que nous allons plutôt nous concentrer sur les cas simples, que l’on va pouvoir facilement automatiser, et on laissera les cas plus complexes à des commerciaux ou agents SAV humains.

Les IA génératives seraient donc aussi fainéantes que les humains ?

J. C. Absolument. Parce que plus elles travaillent, plus ça coûte en ressources serveur aux différents opérateurs comme OpenAI, Anthropic, Azure, etc. Elles n’ont donc pas intérêt à aller au bout des choses.

Cela peut vite chiffrer. Les IA par API, avec des « calls » répétés, sont un vrai coût dans le run des plateformes.

La qualité d’implémentation reste fondamentale dans ce type d’appli

J. C. Tout à fait ! C’est comme des calls à des services SaaS que vous pouvez avoir dans d’autres cas d’usage. Si vous n’optimisez pas vos calls, vos factures seront très élevées. 

Il faut optimiser à la fois ses prompts, les nombres et la qualité des calls pour optimiser ses factures. 

Donc combien en moyenne peut-on prendre d’appels en plus ?

J.C. En ce moment, on travaille principalement sur des cas d’usage d’amélioration du service client. L’idée c’est de désengager les services clients pour réallouer les cas complexes aux agents humains. Cela sert aussi à couvrir des plages horaires non encore couvertes, notamment en SAV téléphonique. Par exemple le soir et le week-end. Ce sont souvent des plages horaires complètement délaissées. Cela permet de la captation de leads avec une belle conversion derrière.

Nous avons l’exemple d’un client chez qui on a déployé une solution comme ça. En tout, il prend environ 200 à 300 appels le soir et le week-end. Et ce client a des paniers moyens assez élevés. 

Un « vendeur IA » va qualifier un projet ce qui va permettre ensuite d’établir automatiquement un devis avec un bon taux de conversion.

Décrivez-nous votre démo du personal shopping assistant marseillais

J.C. Dans cette démo [NDLR Voir la vidéo ci-dessous], nous avons utilisé l’API dite « Real-Time API » d’OpenAI, la maison mère de ChatGPT, qui est sortie il y a quelques semaines. 

On l’a couplée à une API Commerce Tools, un framework de commerce. L’idée était de proposer un assistant personnel qui a un bel accent marseillais, et qui va vous aider à trouver votre style et des vêtements avec un temps de latence très faible et surtout un niveau de conseil conversationnel impressionnant.

Note : Cette démo est véritablement bluffante et nous l’avons vue fonctionner sur le salon malgré le bruit ambiant et c’est pour cela que j’ai voulu la reproduire au calme. Ici, les quelques ratés sont plus dus au mauvais fonctionnement de notre micro au moment de l’enregistrement ou à des questions piège sur un échantillon trop faible (200 produits environ dans ce magasin test) qu’à la démo elle-même. A noter que l’assistant marseillais est dopé à l’IA générative et n’est pas programmé pour appporter des réponses à nos questions qui sont par essence imprévisibles.

Dans le futur, nous commanderons à nos assistants personnels avec nos téléphones, dans nos voitures. Sur l’ordinateur, c’est moins sûr. Mais en tout cas, je pense que les agents vocaux vont prendre une très grande place dans la société. Dans un, deux ou cinq ans, on verra bien…

Ce qui est intéressant c’est de savoir comment on va utiliser ces IA vocales et l’IA générative en général, pour dépasser ces cas d’usage simples et créer de l’innovationL'innovation va de la compréhension (intuitive ou non) du comportement de l’acheteur à la capacité d’adaptation à l'environnement, de nouveaux services, de nouveaux cas d’usage. La limite est l’imagination. Et il y a vraiment des choses intéressantes à faire avec IA dans le commerce de détail.

Le frein à l’innovation e-commerce avec l’IA générative : la latence

Le frein que nous rencontrons encore aujourd’hui sur la génération de contenus temps réel, notamment pour les images et vidéos, c’est le délai. 

Quand on approchera de la création d’images et vidéo instantanées, on pourra imaginer des cas d’usage fascinants sur des besoins de style que nous pourrons directement afficher à l’écran, modelés sur vos mensurations et votre avatar. Ce n’est pas de la science-fiction, ce sont des choses qui, à mon avis, se feront dans un à deux ans.