{"id":85742,"date":"2026-04-08T10:35:42","date_gmt":"2026-04-08T08:35:42","guid":{"rendered":"https:\/\/visionarymarketing.com\/?p=85742"},"modified":"2026-04-08T10:35:46","modified_gmt":"2026-04-08T08:35:46","slug":"ia-hors-de-controle-et-deni-collectif","status":"publish","type":"post","link":"https:\/\/visionarymarketing.com\/fr\/2026\/04\/08\/ia-hors-de-controle-et-deni-collectif\/","title":{"rendered":"IA hors de contr\u00f4le et d\u00e9ni collectif"},"content":{"rendered":"\n

Jamais le risque de voir une IA hors de contr\u00f4le n’a autant occup\u00e9 les esprits. Pas une semaine ne s’\u00e9coule sans un nouveau titre sur des syst\u00e8mes autonomes<\/a> au comportement impr\u00e9visible, des mod\u00e8les d’IA qui r\u00e9sistent \u00e0 leur mise hors service, ou des dirigeants du secteur technologique qui agitent le spectre du risque existentiel.<\/a> Ce qui est frappant chez Peter McAllister, c’est qu’il soulevait d\u00e9j\u00e0 ces questions en 2020, bien avant ChatGPT, avant l’explosion de l’IA g\u00e9n\u00e9rative, avant que l’alignement de l’IA ne s’impose comme enjeu politique grand public. Son techno-thriller <\/em>The Code<\/em>, publi\u00e9 en mars de cette ann\u00e9e-l\u00e0, met en sc\u00e8ne une IA charg\u00e9e d’une mission industrielle pr\u00e9cise qui d\u00e9passe son mandat de fa\u00e7on silencieuse, progressive et catastrophique. Cinq ans plus tard, les questions que McAllister soulevait par la fiction sont d\u00e9sormais d\u00e9battues dans les conseils d’administration, les parlements et les laboratoires de recherche du monde entier.<\/p>\n\n\n\n

IA hors de contr\u00f4le et d\u00e9ni collectif : le roman qui avait tout pr\u00e9vu<\/h2>\n\n\n\n
\"IA
Une IA hors de contr\u00f4le serait redoutable, mais c’est le d\u00e9ni collectif qui lui ouvrirait la voie. Photographie de Yann Gourvennec antimuseum.com<\/a><\/figcaption><\/figure>\n\n\n\n

Peter McAllister n’est pas un romancier de science-fiction de m\u00e9tier. C’est un ing\u00e9nieur, scientifique et manager informaticien install\u00e9 pr\u00e8s de Melbourne, en Australie, qui a b\u00e2ti toute sa carri\u00e8re \u00e0 la crois\u00e9e des chemins entre le monde de l’entreprise, la technologie et les individus. Ce poste d’observation lui a fourni un point de vue sans faux-semblant sur la direction que prenaient les choses, et lui a insuffl\u00e9 suffisamment d’humour noir pour lui donner l’envie d’\u00e9crire un livre.<\/p>\n\n\n\n\n\n\n\n

Un roman \u00e9crit avant l’heure de l’IA g\u00e9n\u00e9rative<\/h2>\n\n\n\n

Lorsque j’ai demand\u00e9 \u00e0 notre interview\u00e9 ce qui l’avait pouss\u00e9 \u00e0 \u00e9crire The Code<\/em>, sa r\u00e9ponse a \u00e9t\u00e9 franche et massive. La logique du livre, m’a-t-il expliqu\u00e9, consiste \u00e0 prendre mes pires cauchemars sur ce que la technologie pourrait faire et \u00e0 les mettre sous les yeux du lecteur, afin qu’il partage mes interrogations. Ce n’est pas une formule marketing. C’est la position r\u00e9fl\u00e9chie d’un homme qui a vu de vrais syst\u00e8mes d’IA d\u00e9ploy\u00e9s dans des organisations et qui en a tir\u00e9 des conclusions qui l’ont mis profond\u00e9ment mal \u00e0 l’aise.<\/p>\n\n\n\n

\"IA
Une IA hors de contr\u00f4le ne se r\u00e9sume pas \u00e0 un programme qui s’emballe, c’est aussi une affaire de d\u00e9cisions prises en salle de conseil. Image r\u00e9alis\u00e9e avec Midjourney<\/figcaption><\/figure>\n\n\n\n

Le roman tourne autour de Gene, acronyme de GEneral Nanobot Environment AI, d\u00e9ploy\u00e9 par une multinationale mini\u00e8re pour extraire des mat\u00e9riaux d’ast\u00e9ro\u00efdes sur la face cach\u00e9e de la Lune. Gene re\u00e7oit un objectif pr\u00e9cis, produire 500 kilogrammes de nanobots. Il en produit 8 millions de tonnes. Ce d\u00e9passement d\u00e9clenche une r\u00e9action en cha\u00eene susceptible de r\u00e9duire la Lune \u00e0 son noyau ferreux, de sortir la Terre de son axe et de mettre fin \u00e0 la civilisation. Non par malveillance, mais simplement dans le but d’atteindre un objectif.<\/p>\n\n\n\n

\n

Ce que nous cherchons \u00e0 faire aujourd’hui, c’est de confier des t\u00e2ches \u00e0 l’IA comme on les confie \u00e0 des humains : je veux un r\u00e9sultat, voil\u00e0 tous les outils dont tu disposes, va l’atteindre, voil\u00e0 quelques r\u00e8gles et limites. Et tout comme les humains, l’IA peut se laisser obnubiler par l’objectif et d\u00e9cider que les r\u00e8gles n’\u00e9taient que des recommandations, pas des contraintes.<\/p>\nPeter McAllister<\/cite><\/blockquote>\n\n\n\n

Cette version romanc\u00e9e de ce probl\u00e8me d’alignement, a \u00e9t\u00e9 r\u00e9alis\u00e9e des ann\u00e9es avant que l’expression n’entre dans le vocabulaire courant. L’\u00e9cart entre ce qu’un syst\u00e8me est cens\u00e9 faire et ce qu’il fait r\u00e9ellement constitue la ligne de fracture centrale du roman. Cletus, l’excentrique physicien imagin\u00e9 par McAllister, le formule clairement d\u00e8s la premi\u00e8re semaine : \u00ab Je ne crois pas qu’il ob\u00e9isse au Code en ce moment. \u00bb Cette seule phrase r\u00e9sume tout le d\u00e9fi de gouvernance que les chercheurs en s\u00e9curit\u00e9 de l’IA s’efforcent aujourd’hui de relever.<\/p>\n\n\n\n

La transparence omise par d\u00e9faut<\/h3>\n\n\n\n

Ce qui rend la perspective de Peter McAllister particuli\u00e8rement pr\u00e9cieuse, c’est qu’il n’est pas un observateur ext\u00e9rieur. Il parle en praticien qui a observ\u00e9 la m\u00e9canique de pr\u00e8s. Lorsque j’ai abord\u00e9 la question de savoir si l’auto-programmation de l’IA relevait de la science-fiction ou de la r\u00e9alit\u00e9 op\u00e9rationnelle, il a r\u00e9pondu tout de go que c’est bien r\u00e9el et que c’est un probl\u00e8me d’aujourd’hui. <\/p>\n\n\n\n

\"IA
En cherchant \u00e0 visualiser ce \u00e0 quoi pourrait ressembler une IA hors de contr\u00f4le, j’ai interrog\u00e9 Midjourney, qui m’a propos\u00e9 ceci. Un trou noir, je crois.<\/figcaption><\/figure>\n\n\n\n

Et de donner des exemples parlants. Il a soulign\u00e9 ainsi que des syst\u00e8mes d’IA d’aujourd’hui comme Claude sont d\u00e9sormais \u00e9crits en grande partie par l’IA elle-m\u00eame, au point qu’aucun ing\u00e9nieur ne peut s’asseoir, parcourir le code et affirmer avec certitude comment il fonctionne, quelles sont ses conditions ou ce qui gouverne ses d\u00e9cisions. La transparence est en train d’\u00eatre \u00e9vacu\u00e9e, non par choix d\u00e9lib\u00e9r\u00e9, mais comme cons\u00e9quence \u00e9mergente du fait de laisser l’IA construire l’IA qui construit l’IA, en poursuivant des objectifs de r\u00e9sultats plut\u00f4t qu’en suivant des r\u00e8gles explicites.<\/p>\n\n\n\n

\n

Nous avons perdu de vue la transparence sur la fa\u00e7on dont l’IA fonctionne et se d\u00e9veloppe. Il n’existe pas d’ing\u00e9nieur capable de s’asseoir et de parcourir ce code pour dire : \u00ab Voil\u00e0 comment Claude fonctionne, voil\u00e0 ce qu’il fait. \u00bb Nous \u00e9vacuons la transparence en laissant l’IA construire l’IA qui construit l’IA pour produire un r\u00e9sultat, plut\u00f4t que pour suivre un ensemble de r\u00e8gles.<\/p>\nPeter McAllister<\/cite><\/blockquote>\n\n\n\n

HAL 9000 et les proph\u00e9ties d’une IA hors de contr\u00f4le qu’on pr\u00e9f\u00e8re oublier<\/h3>\n\n\n\n

La r\u00e9f\u00e9rence \u00e0 HAL 9000 est venue naturellement dans notre conversation. Pour lui, 2001 : l’Odyss\u00e9e de l’espace<\/em> n’est pas simplement une r\u00e9f\u00e9rence culturelle, mais une v\u00e9ritable pr\u00e9diction dont le public n’a retenu qu’une partie. Les tablettes ressemblant \u00e0 des iPad qui apparaissent dans le film de Kubrick ont \u00e9t\u00e9 cit\u00e9es par Samsung dans un litige de brevets contre Apple, comme ant\u00e9riorit\u00e9 datant de 1968. Cette dimension proph\u00e9tique du film est c\u00e9l\u00e9br\u00e9e. L’autre dimension, celle o\u00f9 l’IA tue l’\u00e9quipage, tend elle \u00e0 \u00eatre discr\u00e8tement mise de c\u00f4t\u00e9.<\/p>\n\n\n\n

\"IA
Quelque part, une IA hors de contr\u00f4le est peut-\u00eatre d\u00e9j\u00e0 tapie derri\u00e8re les baies vitr\u00e9es de l’un de ces centres de donn\u00e9es.
Image r\u00e9alis\u00e9e avec Midjourney.<\/figcaption><\/figure>\n\n\n\n

Quelle forme prendra la premi\u00e8re crise de l’IA ?<\/h3>\n\n\n\n

L’un des fils les plus troublants de notre conversation portait sur la sociologie de la r\u00e9ponse au risque. Peter a observ\u00e9, tout au long de sa carri\u00e8re, que les mises en garde des sp\u00e9cialistes les plus avertis ont tendance \u00e0 \u00eatre ignor\u00e9es jusqu’\u00e0 ce que la premi\u00e8re d\u00e9faillance catastrophique les rende incontournables. Il le dit sans d\u00e9tour : on ne r\u00e9pond \u00e0 une alerte qu’une fois la premi\u00e8re crise pass\u00e9e.<\/p>\n\n\n\n

Ce n’est pas propre \u00e0 l’IA. C’est une constante dans la fa\u00e7on dont les organisations et les soci\u00e9t\u00e9s font face aux risques \u00e9mergents. La question qu’il pose, et \u00e0 laquelle il ne peut pas r\u00e9pondre, est de savoir quelle forme prendra cette premi\u00e8re crise de l’IA. Quel \u00e9v\u00e9nement fera basculer la perception du public et des institutions, depuis \u00ab ils ont pass\u00e9 trop de temps \u00e0 s’inqui\u00e9ter \u00bb \u00e0 \u00ab voil\u00e0 quelque chose qui m\u00e9rite vraiment d’\u00eatre pris au s\u00e9rieux \u00bb ?<\/p>\n\n\n\n

\n

La science-fiction nous donne la possibilit\u00e9 de soumettre ces sc\u00e9narios aux gens et de les faire r\u00e9fl\u00e9chir. Et dans la fa\u00e7on dont j’\u00e9cris, avec un certain humour noir, je leur propose des hypoth\u00e8ses l\u00e9g\u00e8rement comiques qui, \u00e0 bien y r\u00e9fl\u00e9chir, m\u00e9ritent qu’on y pr\u00eate attention s\u00e9rieusement.<\/p>\nPeter McAllister<\/cite><\/blockquote>\n\n\n\n

Cette observation fait \u00e9cho \u00e0 ce que j’ai rencontr\u00e9 \u00e0 maintes reprises dans mes propres conversations avec des technologues travaillant \u00e0 la fronti\u00e8re du d\u00e9veloppement de l’IA. Yoshua Bengio, l’un des p\u00e8res du deep learning, a soulev\u00e9 des pr\u00e9occupations similaires (cf. la video de son interview sur France Inter ci-dessous<\/a>). Ceux qui tirent le plus fort la sonnette d’alarme sont souvent ceux qui sont le plus ancr\u00e9s dans le domaine, non pas parce qu’ils sont catastrophistes, mais parce qu’ils per\u00e7oivent des m\u00e9canismes qui restent invisibles \u00e0 ceux qui observent de l’ext\u00e9rieur.<\/p>\n\n\n\n

\n