À l’ONU, Guterres fait ses adieux en appelant à encadrer le pouvoir de l’IA

Neuf ans plus tard, pour sa dernière rentrée à la tribune de marbre vert de l’ONU, le responsable d’origine portugaise a repris cette phrase. Mais le futur qu’il avait entrevu est désormais arrivé.

« L’IA change effectivement la donne », a-t-il constaté, lundi, devant les chefs d’Etat et de gouvernement réunis à New York pour le traditionnel grand rendez-vous diplomatique de septembre. Si elle promet de bouleverser la médecine ou la recherche scientifique, l’IA concentre aussi une puissance dont les gouvernements peinent à suivre le rythme. « Le danger n’est pas la technologie. Le danger, c’est la technologie sans responsabilité », a-t-il dit.

A cent jours de son départ, après deux mandats et une décennie passée à la tête de l’organisation, M. Guterres aurait pu céder à l’exercice du testament. Il a préféré dresser l’inventaire des rapports de force qui ont changé sous ses yeux.

Depuis 2017, de nouveaux pôles d’influence ont émergé entre les Etats ; une partie du pouvoir politique, économique et informationnel a glissé, selon lui, vers « une poignée d’entreprises privées et d’individus ». Et les humains commencent à leur tour à en abandonner une fraction aux machines, avec des agents d’IA susceptibles d’échapper au contrôle humain et des armes autonomes passées « de la science-fiction à la réalité militaire ».

Le problème tient à un décalage. Tandis que le pouvoir change de mains, les institutions chargées de l’encadrer restent largement celles de 1945. Cette contradiction traverse les quatre « grandes épreuves » placées au centre de son dernier discours : la guerre et la paix, les inégalités, le climat – et l’IA.

Un monde devenu méconnaissable

Le bilan est sombre. A Gaza, M. Guterres a décrit une « offensive contre les Palestiniens » dont l’ampleur des morts et destructions ne ressemble à rien de ce qu’il dit avoir pu voir durant ses années à la tête de l’ONU. En Ukraine, il a de nouveau qualifié l’invasion russe de « violation flagrante de la Charte ». Au Soudan, une guerre « pour le pouvoir brut » est devenue « une guerre contre les civils ».

Sur le climat, le Secrétaire général estime désormais « quasi certain » que le seuil de 1,5 °C de réchauffement fixé dans l’accord de Paris sera franchi. Il a réservé certaines de ses formules les plus dures aux compagnies pétrolières : pendant des décennies, a-t-il accusé, « Big Oil a traité l’atmosphère comme un égout à ciel ouvert – et encaissé les bénéfices ».

Mais c’est l’IA qui donne à ce discours d’adieu sa tonalité la plus prospective. Le pouvoir, autrefois tiré du territoire, puis de l’industrie et de la finance, provient désormais toujours davantage « des données, de la puissance de calcul et des algorithmes ». Cette puissance, extrêmement concentrée, progresse plus vite que la capacité des Etats à en mesurer les conséquences.

Lundi, M. Guterres a demandé aux Etats les plus avancés de partager leurs informations sur les risques émergents et de travailler à des garde-fous communs. Son principe tient en une ligne : « L’intelligence artificielle doit être façonnée par l’humanité, avec l’humanité et pour toute l’humanité ». Avec une limite : « Les décisions de vie ou de mort ne doivent jamais être abandonnées aux machines ».

« Nous prenons chaque jour davantage de retard »

Khalilur Rahman, le nouveau président de l’Assemblée générale, lui a emboîté le pas. Le diplomate bangladais a rappelé que les interrogations sur l’efficacité de l’ONU étaient déjà formulées il y a quarante ans. Elles se posent désormais face à une technologie qui avance à une vitesse sans commune mesure avec celle de la diplomatie.

« Nous devons ouvrir les portes des Nations Unies à ceux qui développent et utilisent l’IA. Pas un jour. Maintenant. Nous prenons chaque jour davantage de retard », a-t-il averti. L’IA, a-t-il souligné, est déjà imbriquée dans les réseaux d’eau et d’électricité, les dossiers médicaux, les économies et les armées. « Nous ne pouvons pas permettre qu’une course aux armements pour le contrôle de l’IA nous entraîne dans le précipice ».

Ce passage de témoin résume le paradoxe de l’ONU que quitte António Guterres : une institution née pour empêcher les Etats de laisser libre cours à leur puissance doit désormais tenter d’encadrer une puissance qui n’appartient déjà plus entièrement aux Etats.

Le Secrétaire général n’a pourtant pas conclu sur la technologie, mais sur la fin imminente de son mandat. Le 1er janvier, lorsqu’il ne sera plus à la tête de l’organisation, a-t-il promis, il continuera de défendre l’idée « que la puissance du droit doit prévaloir sur le droit de la puissance ».

Après dix ans passés à défendre le multilatéralisme, il a ajouté : « Et je n’abandonnerai jamais ».