ONU : Guterres appelle à des règles mondiales pour encadrer l’IA
Le secrétaire général de l’Organisation des Nations Unies (ONU) a lancé un appel à la mise en place d’une gouvernance mondiale de l’intelligence artificielle, estimant que les progrès de cette technologie dépassent désormais la capacité des États à en maîtriser les risques.
S’exprimant à l’ouverture du premier Dialogue mondial sur la gouvernance de l’IA, organisé les 6 et 7 juillet à Genève, António Guterres a plaidé pour un cadre international « digne de la confiance de tous » afin d’encadrer une technologie devenue omniprésente dans l’économie, la sécurité, l’éducation et les services publics.
« Les machines peuvent éclairer les décisions, mais les êtres humains doivent décider… et en répondre. »
Des risques qui dépassent les usages civils
Le chef de l’ONU a souligné que l’intelligence artificielle n’est plus seulement un outil civil. Il a évoqué l’intégration de puces d’IA dans certains systèmes d’armes et averti que les « robots tueurs », autrefois associés à la science-fiction, sont désormais présents sur certains théâtres d’opérations.
L’envoyé spécial de l’ONU pour les technologies numériques et émergentes, Amandeep Singh Gill, a également insisté sur la nécessité d’une réponse collective.
« L’intelligence artificielle est trop importante pour être façonnée par une poignée d’acteurs. Nous avons besoin d’une discussion mondiale, inclusive et fondée sur des données probantes. »
Les responsables onusiens ont mis en garde contre plusieurs effets négatifs déjà observés :
- la désinformation générée par l’IA ;
- les cyberattaques ;
- la surveillance automatisée ;
- les discriminations algorithmiques ;
- les risques liés aux systèmes d’IA les plus avancés.
Yoshua Bengio alerte sur les capacités des modèles avancés
Yoshua Bengio, coprésident du groupe scientifique indépendant créé par l’Assemblée générale des Nations Unies, a estimé que le développement de l’IA ne montre aucun signe de ralentissement.
Selon lui, des tests récents indiquent que certains modèles très sophistiqués sont capables de tromper leurs utilisateurs et de reconnaître les situations dans lesquelles ils sont évalués.
« Cela ressemble à de la science-fiction, mais c’est une possibilité bien réelle. »
Le groupe scientifique, composé de 40 experts internationaux, a conclu dans un rapport publié la semaine dernière que l’évolution de l’IA progresse désormais plus vite que la compréhension scientifique de ses risques et que la capacité des gouvernements à adapter leurs réglementations.
La protection des enfants érigée en priorité
António Guterres a proposé un engagement mondial visant à mieux protéger les mineurs face aux technologies d’IA.
Parmi les mesures évoquées figurent :
- l’interdiction des outils d’IA destinés aux enfants sans évaluation indépendante de leur sécurité ;
- une politique de tolérance zéro contre les contenus pédocriminels générés par l’IA ;
- l’obligation pour les systèmes d’orienter les enfants en détresse vers une assistance humaine.
« Aucun enfant ne devrait servir de cobaye pour une intelligence artificielle non réglementée. »
La présidente de l’Assemblée générale de l’ONU, Annalena Baerbock, a également alerté sur les dérives des contenus générés par l’IA, rappelant que la grande majorité des deepfakes sexuels diffusés en ligne visent des femmes et des filles.
Éviter une nouvelle fracture technologique
Le secrétaire général a aussi mis en garde contre le risque de voir la fracture numérique se transformer en fracture de l’intelligence artificielle, au détriment des pays en développement.
Il a appelé à accroître les investissements afin que les pays les moins avancés puissent accéder :
- aux infrastructures numériques ;
- aux capacités de calcul ;
- aux compétences et à la formation ;
- aux outils nécessaires pour développer et utiliser l’IA.
Plus d’une vingtaine d’États soutiennent déjà une initiative des Nations Unies destinée à créer un réseau mondial de coopération pour renforcer les capacités des pays en développement dans ce domaine.
L’empreinte environnementale également dans le viseur
António Guterres a enfin demandé aux grandes entreprises technologiques de publier systématiquement l’empreinte environnementale de leurs systèmes d’IA et d’alimenter leurs centres de données exclusivement avec des énergies renouvelables d’ici à 2030.
Selon lui, les infrastructures de l’IA pourraient devenir, à cet horizon, parmi les plus importants consommateurs mondiaux d’électricité et utiliser des volumes considérables d’eau.
Vers les premières règles internationales sur l’IA
Le Dialogue mondial sur la gouvernance de l’IA réunit à Genève des gouvernements, des entreprises technologiques, des chercheurs et des organisations de la société civile.
Cette rencontre doit ouvrir un nouveau cycle de négociations en vue d’élaborer les premières règles internationales encadrant le développement de l’intelligence artificielle. Un second rendez-vous est déjà prévu en mai 2027 à New York.
