Risk managers, avez-vous inscrit la destruction de l’humanité dans votre cartographie des risques ?

Qui a prévu la destruction de l’humanité dans sa cartographie des risques ?

Depuis quelques années, la détection des risques émergents est devenue l’un des grands sujets à la mode dans les fonctions Risk Management.

Les entreprises mobilisent des spécialistes, organisent des ateliers de prospective, multiplient les scénarios et enrichissent leurs cartographies. On cherche à identifier les signaux faibles, à anticiper les ruptures, à imaginer l’improbable.

C’est très bien. Mais permettez-moi une question légèrement désagréable.

Combien de ces dispositifs ont réellement préparé les entreprises à la pandémie de Covid-19 ?

Le risque pandémique était pourtant connu. En septembre 2019, quelques mois avant l’apparition du Covid-19, un rapport international alertait explicitement sur le risque d’une pandémie respiratoire majeure.

Le risque avait été identifié. Mais combien d’organisations avaient véritablement préparé la continuité de leurs opérations, de leurs approvisionnements ou de leurs activités commerciales à un tel scénario ?

Autre exemple : combien d’entreprises implantées en Russie avaient anticipé les conséquences d’une invasion de l’Ukraine ? Combien avaient préparé la disparition quasi instantanée de leurs débouchés, l’impossibilité d’effectuer certaines transactions, les sanctions internationales ou la nécessité de quitter le pays ?

Et le risque cyber ? Celui-là, tout le monde le connaît. Il figure en bonne place dans presque toutes les cartographies. Ce qui n’empêche pas certaines entreprises de découvrir, au lendemain d’une attaque, qu’elles sont incapables de redémarrer leurs opérations.

Identifier un risque n’a jamais suffi à le maîtriser.

Et maintenant, l’intelligence artificielle

Je viens de regarder un documentaire que je recommande vivement : The AI Doc : Ou comment je suis devenu apocaloptimiste, réalisé par Daniel Roher et Charlie Tyrell, sorti en 2026.

Je ne sais pas très bien s’il faut le conseiller pour les soirs de déprime ou, au contraire, pour tempérer les moments d’euphorie.

Le film donne la parole à ceux qui développent les intelligences artificielles les plus avancées, à ceux qui en annoncent les promesses extraordinaires et à ceux qui redoutent qu’elles finissent par échapper à notre contrôle.

Et tous, ou presque, s’accordent sur un point : nous sommes probablement engagés dans l’une des plus grandes transformations technologiques de l’histoire humaine.

Les perspectives sont vertigineuses : progrès médicaux, découvertes scientifiques, accélération de la recherche, productivité, nouveaux moyens de relever des défis que nous pensions insolubles.

Mais certains experts envisagent également des scénarios autrement moins réjouissants : cyberattaques massives automatisées, développement facilité d’armes biologiques, manipulation des populations, systèmes autonomes dont nous ne maîtriserions plus les décisions.

Jusqu’à un risque extrême, controversé mais pris au sérieux par une partie des chercheurs : la disparition de l’humanité elle-même.

Rien que cela.

Les deux côtés de la Force

Cette ambivalence me rappelle immanquablement l’énergie nucléaire.

L’atome nous offre une électricité largement décarbonée, abondante et pilotable. Il nous a aussi donné les moyens de détruire l’humanité.

Faut-il être enthousiaste ou terrifié ?

La question est finalement mal posée.

Une technologie n’est pas seulement la somme de ses bienfaits ou de ses dangers. Son impact dépend aussi de notre capacité à en maîtriser les usages, les défaillances et les conséquences.

Avec l’IA, une difficulté supplémentaire apparaît : elle transforme non seulement notre environnement matériel, mais aussi notre environnement intellectuel.

Nous lui confions déjà des analyses, des raisonnements, des décisions. Demain, elle participera peut-être à la conception de systèmes plus intelligents qu’elle-même.

Et ce mouvement, qui concerne potentiellement huit milliards d’êtres humains, est aujourd’hui largement orienté par une poignée d’entreprises et de dirigeants.

Voilà qui mérite quelques instants de réflexion.

Le problème n’est peut-être pas l’IA. C’est la course à l’IA.

L’un des passages les plus troublants du documentaire concerne la compétition entre les grands laboratoires.

OpenAI, Anthropic, Google DeepMind et leurs concurrents investissent des sommes considérables pour développer des systèmes toujours plus puissants.

Leurs dirigeants connaissent les risques. Plusieurs les évoquent publiquement, parfois avec une franchise déconcertante.

Mais ils sont pris dans une mécanique concurrentielle redoutable.

Si l’un ralentit pour mieux maîtriser les risques, un autre peut prendre l’avantage.

Et lorsque les écarts technologiques sont faibles, la tentation devient grande d’accélérer, de commercialiser plus vite, d’accepter davantage d’incertitudes.

Ce n’est pas nécessairement une question de mauvaise volonté. C’est un problème classique d’incitations.

Chaque acteur peut avoir de bonnes raisons de souhaiter davantage de sécurité tout en craignant de payer seul le prix de la prudence.

Un véritable dilemme du prisonnier, à l’échelle de l’humanité.

Dans une telle configuration, la concurrence, dont nous attendons habituellement qu’elle stimule l’innovation, pourrait aussi favoriser une prise de risque collective excessive.

Et qui va nous protéger ?

C’est ici que le documentaire devient particulièrement intéressant pour les professionnels du risque.

Car lorsque les dirigeants des grands laboratoires sont interrogés sur les moyens de maîtriser ces dangers, une réponse finit régulièrement par émerger :

Il faut des règles. Des standards. Des évaluations indépendantes. Des mécanismes de contrôle. Et une intervention des pouvoirs publics.

Ce ne sont d’ailleurs plus de simples déclarations de principe.

En septembre 2026, OpenAI a officiellement appelé à l’instauration d’obligations nationales de sécurité pour les IA les plus avancées. D’autres dirigeants du secteur défendent également des dispositifs de supervision, d’évaluation et de contrôle.

Autrement dit, ces entrepreneurs qui repoussent quotidiennement les frontières de la technologie reconnaissent que la seule autorégulation ne suffira pas.

Le marché ne peut pas toujours corriger spontanément les risques qu’il contribue lui-même à créer.

Il faut un arbitre. Des règles communes. Et la possibilité d’imposer des limites à ceux qui seraient tentés de les franchir.

Mais une règle sans contrôle n’est qu’une intention. Et un contrôle sans capacité à faire respecter la règle ne constitue guère une protection.

C’est précisément là qu’intervient cette fonction que les entreprises considèrent parfois comme une contrainte administrative, un empilement de procédures ou un frein à l’innovation.

La conformité sauvera-t-elle le Monde ?

Oui, la Compliance !

Il est tout de même assez savoureux de voir les inventeurs d’une technologie susceptible, dans certains scénarios, de menacer jusqu’à notre existence, expliquer qu’il faudrait finalement des règles, des dispositifs de vérification indépendants et des autorités capables de les faire appliquer.

Nous qui passons nos journées à expliquer l’importance des dispositifs de contrôle, nous n’imaginions pas que notre métier allait prendre une telle dimension.

La mission fondamentale de la Compliance serait donc, tout simplement, de sauver le monde.

Voilà qui devrait donner un peu de relief aux prochaines réunions du comité des risques.

Un dernier détail, toutefois…

Toute cette belle construction suppose que les États sauront imposer des règles à des entreprises technologiques parmi les plus puissantes de la planète.

Qu’ils sauront résister aux intérêts économiques, aux enjeux de souveraineté et à la compétition internationale.

Qu’ils accepteront, le cas échéant, de ralentir une innovation promettant croissance, puissance et domination technologique.

Et c’est là que notre raisonnement rencontre une ultime difficulté.

Les États-Unis occupent une place centrale dans cette course. Leur administration défend officiellement la réduction des contraintes réglementaires pesant sur le développement de l’intelligence artificielle.

Le destin de l’humanité pourrait donc dépendre, pour partie, de la sagesse et de la capacité de régulation d’un homme qui porte une cravate rouge et une botte de paille sur la tête.

Rassurant…