L’intelligence artificielle est dépassée, vive l’intelligence augmentée

L’intelligence augmentée est-elle l’avenir de l’intelligence artificielle ? C’est ce que pense Luc Julia, qui nous invite à renommer ce concept un peu usé et qu’il fait, sans hésiter, remonter au 17ème siècle. Telle est la teneur de son discours lors de la 5ème édition de la MaddyKeynote qui s’est tenue au CENTQUATRE à Paris les 30 et 31 janvier derniers. Visionary Marketing était présent pour assister aux passionnantes conférences proposées sur le sujet des Mutations dans les domaines du Vivant et des Territoires.

intelligence augmentée
Lors de la Maddy Keynote, Luc Julia nous incite à oublier le terme d’intelligence artificielle et de passer à celui d’intelligence augmentée

Luc Julia est le co-créateur de Siri, vice-président de l’innovation chez Samsung Electronics, et auteur du livre L’intelligence artificielle n’existe pas. 

L’intelligence artificielle remonte … à Pascal

Luc Julia nous a proposé lors de cette conférence de revenir sur l’historique de l’Intelligence artificielle … qui n’existe pas, celle dont on nous rebat les oreilles depuis 4 ou 5 ans, dont on parle dans les médias, qui va nous tuer, qui va nous remplacer, celle qui vient de Bollywood, qui est Robocop.Luc Julia fait remonter l’intelligence artificielle a 1642, quand Pascal a inventé la Pascaline, c’est-à-dire la première machine à calculer, qui fait des additions et soustractions en 3 secondes sans se tromper.

Une pascaline, signée par Pascal en 1652, visible au musée des arts et métiers du Conservatoire national des arts et métiers à Paris. (source : https://fr.wikipedia.org/wiki/Pascaline)

Or officiellement, l‘intelligence artificielle a démarré en 1956. Des chercheurs croyaient avoir réussi à modéliser un neurone avec des fonctions mathématiques. Ayant modélisé un neurone, ils avaient modélisé un réseau de neurones, donc un cerveau, et donc l’intelligence.

Malheureusement, ils ont donné le nom d’intelligence artificielle à cette méthode. Ils se sont attaqués également à quelque chose de plus compliqué, qui est le langage naturel. Leur échec a donné le premier « hiver de l’IA », leurs projets n’aboutissant pas, les budgets de recherche ont été stoppés.

De l’intelligence artificielle à l’intelligence augmentée

Pour Luc Julia, cette situation peut tout à fait se reproduire aujourd’hui. Il est tout à fait possible que le public se lasse, et qu’il n’y ait plus de financement. Il faut donc faire très attention à ne pas raconter n’importe quoi sur IA.

Ensuite sont arrivés les systèmes experts, reposant sur de la logique mathématique, qui ont abouti en 1997 à la machine qui a battu Kasparov aux échecs. Pour Luc Julia, ce qui a été montré n’est en réalité pas si compliqué que cela, le jeu d’échec étant un jeu fini avec des règles, il ne s’agit pas vraiment d’intelligence.

Conférence #MaddyKeynote2020 : De l’ombre à la lumière // Luc Julia

Du Machine Learning au Deep Learning

Dans les années 80, on recommence à travailler sur le Machine Learning, les réseaux de neurones. Mais il manquait les données, qui sont arrivées au milieu des années 90 grâce à Internet, permettant de faire ce qu’on appelle du Deep Learning.

(lire à ce sujet « Le deep learning au microscope de Luc Julia – avec AI Paris 2019 »).

Il y avait sur Internet notamment beaucoup d’images de chats, annotées par leurs propriétaires. Cette grosse base de données annotées a permis de vérifier les méthodes de réseaux de neurones, ces méthodes statistiques que sont le Machine Learning et le Deep Learning. Mais, pour aboutir à un système capable de reconnaître des chats à 98%, cela nécessitait environ 100 000 images de chats … alors qu’un être humain nécessite environ deux images de chats pour les reconnaître, même la nuit !

« Il a fallu l’équivalent de 440 kWh pour alimenter la machine qui a battu le joueur de Go »

Un autre exemple démontre que cette intelligence n’a strictement rien à voir avec ce que nous sommes capables de faire avec notre cerveau : en 2016 la machine bat le champion du monde de Go. Le Go est un jeu plus compliqué que le jeu d’échec, et, cette fois-ci, ce sont 2000 ordinateurs qui sont utilisés pour jouer au Go … soit un petit datacenter, qui utilise 440 kW pour jouer au Go, alors que nous, seulement 20 watts avec un cerveau qui sert aussi à autre chose … Luc Julia estime donc que l’intelligence artificielle est une débauche de données et d’énergie pour faire des choses finalement très limitées.

En 2016 également, Microsoft a tenté de faire un chatbot sur Twitter pour promouvoir ses produits et dialoguer avec les clients.  Tay, ce chatbot, est devenu le chatbot le plus sexiste et raciste de l’humanité. Il a d’abord été confronté à un bug d’adaptabilité pour ressembler au public ciblé : sur Twitter au bout de 2 ou 3 interactions les gens s’insultent. Le système marchait donc assez bien … ceci était simple à corriger, il suffisait de baisser un peu le facteur d’instabilité pour contrôler la manière dont le système se comportait et ainsi contrôler le message.

L’autre bug est un bug de données biaisées. Contrairement aux images de chats, un chatbot annoté ne se trouve pas aisément sur Internet. Or, il existe une base de données depuis les années 50, disponible pour les développeurs qui travaillent sur le traitement du langage naturel.Elle réunit des millions de conversations entre des américains de tous les Etats et le call center de leur fournisseur de machine à laver. Depuis les années 50, toutes ces conversations sont retranscrites.  Les développeurs de Microsoft ont choisi un sous-ensemble de ces données, et ont choisi 1950, en … Alabama ! Microsoft a ainsi dû abandonner ce chatbot au bout de 16 heures, tellement il était devenu raciste et sexiste !

De la même manière récemment, les cartes de crédit Apple se sont révélées discriminatoires envers les femmes, en leur accordant des crédits 50% moins élevés qu’aux hommes avec les mêmes revenus et le même profil.

Il s’agit d’un bug de data biaisées, le système part sur quelque chose qui est faux. Luc Julia estime qu’en IA, tout est explicable, ce n’est pas une « boîte noire » comme on l’entend souvent. Tout peut être expliqué par ceux qui créent des algorithmes, ceux qui choisissent les données.

Il est possible de se tromper dans les algorithmes, dans le choix des données, mais on peut toujours expliquer ce qu’on fait. Il n’y a pas d’inexplicabilité mathématique.  Il peut y avoir une inexplicabilité pratique, liée au nombre de calculs qui se font sur des millions et des millions de données, et il est possible de perdre le fil de la donnée, comme pour le chatbot de Microsoft.

Il faudra peut-être un jour une IA pour aller expliquer comment une autre IA se comporte, parce qu’elle va faire des calculs aussi rapides et va pouvoir expliquer pas à pas ce qui s’est passé.

Conférence #MaddyKeynote2020 : De l’ombre à la lumière // Luc Julia

Intelligence augmentée : « La voiture autonome de niveau 5 n’existera jamais »

Dernier exemple de la démonstration de l’inexistence de l’Intelligence Artificielle, la voiture autonome, après avoir été annoncée au CES 2018 pour 5 ans après, puis au CES 2019 dans 15 ans, a été annoncée au CES 2020 pour dans 30 ans !

Pour Luc Julia, la voiture autonome niveau 4 est très utile car elle va permettre d’éviter 90% des accidents, mais la voiture autonome niveau 5 (c’est-à-dire autonome à 100%, sans intervention humaine) n’existera jamais. Il prend l’exemple de la place de l’Etoile à 18h : si on y place une voiture autonome, elle va rester sans bouger. Respectant le code de la route, elle ne peut comme nous faire preuve de beaucoup de sociologie, et de pas mal de négociation pour avancer.

Le deuxième exemple proposé par Luc Julia démontre que jamais la voiture autonome ne pourra s’adapter à toutes les situations, comme un être humain. En visionnant les entraînements que Waymo, la filiale d’Alphabet chargée des voitures autonomes, publie sur YouTube, une vidéo montre une voiture qui, à plusieurs reprises et sans raison, s’arrête au milieu d’une rue, puis repart. L’explication vient d’un passant qui portait un panneau STOP qui dépassait de son sac, et induisait le véhicule en erreur..

Conférence #MaddyKeynote2020 : De l’ombre à la lumière // Luc Julia – vers l’intelligence augmentée

« L’intelligence artificielle est un marteau, et ce sont nous, humains, qui tenons le manche »

Plutôt que d’intelligence artificielle, Luc Julia préfère parler d’intelligence augmentée, ou d’innovation avancée. Celle-ci n’est pas une discipline, c’est notre intelligence augmentée par les outils.

En conclusion, l’intelligence artificielle n’est qu’un outil. C’est nous qui en avons le contrôle, c’est nous qui décidons, qui avons le manche du marteau. Mais parfois, on ne l’utilise pas correctement. Il ne faut donc pas s’arrêter, bien au contraire, et se focaliser sur la création de systèmes plus fiables. Il est important de réfléchir à choisir ce qu’on veut faire avec les machines, et réguler. Et choisir si on veut essayer de guérir le cancer du sein ou jouer au Go …

 

Isabelle Lefaucheur

Comments