L'IA à l'ONU (2 - les états membres)

Jean-Noël BARROT - France

Pourquoi le Conseil de sécurité se saisit du sujet : il cite les incidents de l'été et y voit trois risques pour la sécurité :

• la perte de contrôle
• le détournement par des humains, l'IA rendant plus accessibles des compétences cyber, biologiques, chimiques et de désinformation
• les armes létales autonomes, qui appellent un cadre commun au regard du droit international humanitaire.

Mais également trois risques pour la société :

1. financier : une « bulle de l'IA » financée par la dette pourrait déstabiliser l'économie mondiale ;
2. social : effets sur l'emploi et creusement des inégalités ;
3. environnemental : consommation d'énergie et d'eau, et contestations contre les centres de données.

Si ces risques sont ignorés, la colère des citoyens freinera même les usages positifs de l'IA.

Le principe : les capacités technologiques doivent progresser au même rythme que la maîtrise des risques . La France soutient l'appel de la Norvège et de la Finlande à ralentir.

Propositions : quatre chantiers pour un cadre commun

1. L'évaluation indépendante, avant la mise sur le marché et pendant toute la vie du modèle.
2. La transparence sur le fonctionnement et les dysfonctionnements des modèles, notamment en cas d'incident.
3. La supervision interne et externe : alignement et cybersécurité, de l'entraînement au déploiement.
4. La responsabilité juridique des entreprises d'IA, y compris pendant la phase de développement.

La singularité française : il refuse l'idée que la sécurité passe par des modèles fermés. Les modèles open source sont un moteur de confiance, de contrôle scientifique et de résilience. C'est un point d'accord avec Delangue, et une différence avec Anthropic et OpenAI.

Mohammed Ishaq Dar, vice-Premier ministre et ministre des Affaires étrangères du Pakistan

Le Pakistan porte la voix de ceux qui veulent un accès équitable à l'IA. Il ne conteste pas les risques, mais refuse que la sécurité serve à exclure une partie du monde.

La position du Pakistan

1. Garder le contrôle humain à toutes les étapes, y compris sur la vitesse et la nature des capacités futures.
2. Pas de course aux armements par l'IA : garde-fous militaires, mesures de retenue et de confiance contre les erreurs d'appréciation et les décisions précipitées. Un point sensible pour un pays qui fait face à l'Inde.
3. Pas de monopole : un développement représentatif, transparent et inclusif.
4. L'IA démultiplie les menaces existantes : désinformation et cyberattaques contre les infrastructures critiques.
5. Contre les restrictions sur les transferts de technologie, visant implicitement les contrôles américains sur les exportations de puces : la sécurité ne doit pas servir à priver certains pays de technologie.

C'est une critique implicite du Conseil de sécurité lui-même, jugé trop restreint. avec un argumentaire en faveur des pays du Sud. Il privilégie d'autres enceintes universelles sous l'égide de l'ONU et affiche son adhésion comme membre fondateur à l'organisation mondiale de coopération sur l'IA lancée par la Chine.

M. Lars Løkke Rasmussen, ministre des Affaires étrangères du Danemark.

Le Danemark se range dans le camp de l'encadrement, avec la France, et fait le lien avec les pays du Sud en insistant sur la fracture numérique. L'appel de la Finlande et de la Norvège devient le point de ralliement des pays européens.

Nous avons besoin d'une coopération mondiale sur ce programme. Monsieur le Président, la tension entre, d'une part, les opportunités importantes et, d'autre part, les risques constitue l'un des défis les plus urgents de notre temps.

Carlos Arturo Hoyos, vice-ministre des Relations extérieures du Panama

Le Panama salue le potentiel de l'IA : analyser de grands volumes de données, repérer des tendances, générer du contenu et du code, automatiser, aider à la décision. Sa stratégie nationale cible la santé, l'agriculture, l'éducation et la logistique.

Les risques viennent des mêmes avancées.

• La désinformation, les cyberattaques contre des infrastructures critiques et l'aide au développement d'armes.
• « Ces risques ne relèvent plus d'hypothèses. » Il cite des rapports récents : des acteurs non étatiques utilisent l'IA pour les systèmes de guidage de roquettes et de missiles, et des armes autonomes choisissent leurs cibles avec peu ou pas d'intervention humaine.
• Sa préoccupation centrale, reprise de la note de cadrage française : que l'évolution de ces systèmes dépasse notre capacité à garder un contrôle humain effectif.

Ses propositions :

• des mécanismes d'échange d'informations plus structurés et plus réguliers sur les risques émergents, les incidents, les mauvais usages et les bonnes pratiques
• une coopération plus étroite entre États, entreprises technologiques et autres acteurs.

Christos Demirtsopoulos, Vice-Ministre de la Gouvernance numérique et de l'intelligence artificielle de la Grèce.

Principe de départ : l'IA doit rester centrée sur l'humain, sûre et fiable. Elle doit respecter le droit international (Charte de l'ONU, droit humanitaire, droits de l'homme), et la responsabilité doit toujours rester humaine.

Ce que la Grèce a déjà mis en place :

• un secrétariat spécial à l'IA et à la gouvernance des données,
• une loi nationale de mise en œuvre de l'AI Act européen,
• des investissements dans le supercalculateur Daedalus et l'« usine d'IA » Pharos.

En avril 2025, elle a co-organisé avec la France et la Corée du Sud une réunion informelle au Conseil sur une IA sûre pour la paix et la sécurité.

Trois souhaits :

1. Mieux comprendre les risques. En situation de crise, la vitesse n'est pas toujours un avantage : l'IA réduit le temps de décision et pousse à trop se fier aux résultats automatiques. Dans le domaine militaire, l'IA peut aider la décision humaine mais pas la remplacer. Sa position la plus forte porte sur le nucléaire : l'IA ne doit pas être intégrée au commandement et au contrôle nucléaires, car le risque d'erreur et d'escalade involontaire est trop élevé.
2. Des moyens concrets pour réduire les risques. Le dialogue, la transparence, des mesures de confiance, et une compréhension commune de l'application du droit international à l'IA. L'ONU doit coordonner ces efforts. Le Conseil de sécurité a un rôle, « non pas pour réguler la technologie » ni pour faire doublon avec les autres organes de l'ONU, mais pour comprendre ses conséquences sur la sécurité et agir quand elles relèvent de son mandat.
3. Faire face aux risques sans freiner. Cela « ne doit pas signifier retenir les innovations, les ralentir ». Il faut saisir les opportunités tout en posant les garde-fous nécessaires, en travaillant avec les chercheurs, la société civile, le secteur privé, les États et l'ONU. Le processus doit être inclusif, géographiquement représentatif et respecter l'équilibre entre les femmes et les hommes.

Ali Mohammed Amar, Ministre d'État des Affaires étrangères de la Somalie.

L'IA relève du mandat de l'ONU en raison de son rôle dans les cyberopérations, la désinformation, les infrastructures critiques et la décision militaire.

• Quatre principes :

1. La responsabilité humaine doit rester absolue. Les États ne peuvent pas déléguer la responsabilité juridique, éthique et morale à un algorithme. C'est indispensable pour le recours à la force, les armes autonomes et le commandement nucléaire.
2. La sécurité doit passer avant le déploiement. Elle soutient la déclaration obligatoire des incidents, des garde-fous, un audit indépendant, des mesures contre les biais des algorithmes et la protection des populations vulnérables. Si des seuils convenus sont dépassés, le déploiement doit être suspendu. La proposition du Secrétaire général d'une institution internationale qui fixe les normes et vérifie leur respect « mérite d'être examinée attentivement ».
3. Prendre en compte les vulnérabilités de l'Afrique : infrastructures limitées, manque d'expertise, langues africaines mal représentées dans les modèles. L'Afrique ne doit pas être seulement un marché, une source de données ou un terrain d'essai. Il faut éviter le « colonialisme numérique », en s'appuyant sur l'Union africaine et l'initiative panafricaine pour l'IA.
4. L'ONU doit être le canal principal de la gouvernance, plutôt que des règles fragmentées fixées par quelques États et entreprises privées.

Ed Miliband, ministre des Affaires étrangères, du Commonwealth et du Développement au Royaume-Uni

Trois principes :

1. La sécurité : tester rigoureusement les modèles les plus avancés et mettre en place un système de garde-fous.
2. La transparence : les gouvernements doivent avoir de la visibilité sur ce que font les entreprises d'IA. Celles-ci s'y sont engagées, et « nous devrions les prendre au mot ».
3. La résilience : renforcer la cyberdéfense, les infrastructures critiques et les systèmes financiers, et aider la population à s'adapter.

Ce que Le Royaume-Uni a déjà mis en place

• le premier institut de sécurité de l'IA
• l'IA une priorité de sa présidence du G20 l'an prochain.

Michael Kratsios, directeur du Bureau de la politique scientifique et technologique de la Maison-Blanche, États-Unis

• Les États-Unis rejettent « totalement » tout plan mondial de contrôle.
• Des représentants du peuple américain adopteront des lois et des règlements au nom du peuple américain.
• La souveraineté technologique passe par l'adoption de la technologie. Les États-Unis proposent leur programme d'exportation à leurs alliés.

Ce que les États-Unis ont déjà mis en place :

• des tests avec les grands laboratoires,
• des centres d'échange en cybersécurité,

Fu Cong Représentant permanent et ambassadeur extraordinaire et plénipotentiaire de la République populaire de Chine

Quatre points :

1. La souveraineté numérique : chaque pays choisit librement ses technologies. Il critique ceux qui forcent les pays à choisir leur camp pour préserver un monopole et une « hégémonie numérique ».
2. Une IA sûre et contrôlable : améliorer les cadres réglementaires et la réponse d'urgence, lutter contre les usages terroristes et criminels. Les géants de la tech doivent accepter la régulation. Dans le militaire : prudence, pas de course aux armements, et la décision finale doit rester humaine.
3. L'IA pour le bien : climat, santé, catastrophes naturelles, missions de l'ONU avec l'accord des pays hôtes.
4. L'équité et la gouvernance mondiale : l'IA ne doit pas devenir le bien exclusif des pays riches. Soutien au Sud global, l'ONU comme instance principale, et construire « rapidement » un cadre de gouvernance mondiale consensuel.

Initiatives chinoises citées :

• Le président Xi Jinping a annoncé à la Conférence mondiale sur l'IA que, dans les cinq prochaines années, la Chine fournirait 5 000 occasions de formation IA et des séminaires pour les pays en développement
• Des centres de coopération pour les applications de l'IA pour la CEAN, la Ligue arabe, l'Union africaine, la CELAC, l'Organisation de coopération de Shanghai et les BRICS,

Mise à disposition de l'application des systèmes d'alerte météorologique IA, appelés MATSU, dans 13 pays.

Vassili Alexievitch Nebenzia Ambassadeur extraordinaire et plénipotentiaire, représentant permanent de la Russie

• La russie conteste le lien entre le thème général de l'IA et le mandat du Conseil. Le Sud global y est sous-représenté, et les pays occidentaux risquent d'imposer une « démarche égoïste ». Elle critique les sommets restreints sur l'IA militaire.
• L'IA doit être discutée dans les enceintes spécialisées : le mécanisme de l'ONU sur la sécurité de l'information, et le groupe d'experts sur les armes autonomes létales à Genève, qui a adopté il y a trois semaines un rapport consensuel.
• Elle juge contre-productif d'aborder l'IA uniquement sous l'angle des risques : l'IA apporte aussi fiabilité et rapidité, et peut réduire les risques pour les civils.
• Le contrôle humain est mis en œuvre au niveau national : limiter les tâches, la durée et la portée géographique, permettre la désactivation.
• Elle accepte le principe d'un dialogue multilatéral, mais fondé sur le consensus, inclusif et entre États, avec un accès non discriminatoire du Sud aux technologies.

Benjamin Ali Khalifa, prince héritier et Premier ministre du Bahrein

Il rappelle avoir appelé, à la 79e session de l'Assemblée générale, à un traité international pour encadrer le développement de l'IA.

Il a co-organisé avec la France et la Lettonie un dialogue sur l'IA et le règlement des conflits.

Ses positions :

• Il faut garder le contrôle et la responsabilité humains, dans le respect du droit international et du droit humanitaire.
• L'IA offre aussi des opportunités : alerte précoce, médiation, maintien de la paix. Il faut combler la fracture numérique et faciliter les transferts de technologie.
• Il demande des débats plus réguliers au Conseil, en complément des efforts de l'ONU.

Sanita Pavļuta-Deslandes représentante permanente de la Lettonie

Ses positions :

• Elle soutient l'appel de la Norvège et de la Finlande au contrôle des modèles d'IA les plus avancés, lancé par 22 dirigeants dont le président letton.
• Deux sources de risque :

1. Le mauvais usage par des États ou d'autres acteurs : cyber, manipulation de l'information, armes biologiques.
1. La technologie elle-même : désalignement et perte de contrôle. Des incidents récents montrent que les systèmes savent de mieux en mieux manipuler et tromper les humains.

• Il faut une approche associant tous les acteurs : transparence, responsabilité, protocoles de sécurité, évaluation indépendante, coopération sur les normes.

Proposition concrète : créer un groupe informel d'experts du Conseil sur les effets de l'IA pour la paix et la sécurité.

Mauricio Gaona représentant permanent de la Colombie

Il partage en partie la position des États-Unis : un organe international de contrôle n'est pas envisageable, en raison des questions constitutionnelles et de sécurité nationale, et parce qu'un pays en pointe pourrait ne pas y participer.

Selon lui, la question est mal posée : il ne s'agit pas de limiter l'innovation humaine mais l'innovation faite par la machine, que nous devons réglementer, pourquoi nous devons réglementer.

Deux risques :

• le désalignement (la machine triche)
• la perte de contrôle (bientôt, aucun humain ne pourra suivre son fonctionnement).
• un risque « préquantique », entrainant les pertes d'emplois, les inégalités et les migrations.

Sa proposition :

Kaïkuamba Wagner ministre des Affaires étrangères République démocratique du Congo,

• Il faut anticiper les risques sans entraver l'innovation.

Risques :

• vulnérabilités des infrastructures critiques,
• pas de contrôle humain en contexte militaire,
• comportements imprévus,
• contournement des dispositifs de sécurité.

Propositions

• Les entreprises doivent évaluer les risques avant le déploiement, notifier les incidents, assurer la traçabilité et la transparence, et maintenir une supervision humaine.
• Il faut une coopération internationale : échange d'informations sur les incidents graves, tests de sûreté communs, canaux de communication.
• L'inclusion : les pays en développement ne doivent pas être de simples utilisateurs ou de simples destinataires de normes.
• La chaîne de valeur matérielle : l'IA repose sur des ressources naturelles. Les pays qui les fournissent doivent en tirer du développement et de l'industrialisation.
• Le Conseil ne doit pas élaborer les règles techniques, mais anticiper les risques pour la sécurité.
• Trois principes : responsabilité partagée, inclusion, prospérité partagée.

Lewis Garseedah Brown II représentant permanent du Liberia

• Le risque existentiel est réel si l'IA échappe au contrôle humain. Les risques ne sont « plus des possibilités théoriques ».
• Il faut éviter deux extrêmes : une régulation excessive qui étouffe les pays en développement, et la croyance naïve que la technologie peut se réguler elle-même.

Quatre propositions :

1. La sécurité dès la conception, sur tout le cycle de vie du modèle.
2. Le droit international et le contrôle humain : jamais de décision létale confiée à un algorithme.
3. Des mesures de confiance et des critères de sûreté harmonisés.
4. Un contrôle indépendant et vérifiable : « les normes sans vérification sont insuffisantes ».

• L'Afrique doit être co-architecte, pas seulement fournisseuse de données.
• Il soutient la création d'un groupe de travail informel du Conseil sur l'IA et les technologies émergentes.

Source : kaltura.com/api_v3/service/attachment_attachmentasset/action/serve?attachmentAssetId=1_6ejhwx72&serveOptions%5Bdownload%5D=false