Aller au contenu

Rapport international sur la sécurité de l'IA

Un article de Wikipédia, l'encyclopédie libre.
Couverture bleue de l'édition de l'International AI Safety Report 2025, pour le Sommet pour l'action sur l'intelligence artificielle (janvier 2025, Paris).

Le Rapport international sur la sécurité de l'IA (International AI Safety Report) présente une vue d'ensemble des progrès, usages, impacts économiques et enjeux sociétaux des diverses formes d'intelligences artificielles polyvalentes, en particulier l'IA générative. Il est commandé par les 30 nations participant au « Sommet sur l'intelligence artificielle de 2023, sur la sécurité et sur la réglementation de l'intelligence artificielle » qui s'est tenu à Bletchley Park, pour notamment alimenter les discussions au « Sommet pour l'action sur l'intelligence artificielle » en à Paris[1].

Périodiquement mis à jour[note 1],[2] et publié pour sa première version en , il est rédigé par un groupe international d'experts chargé d'évaluer les risques liés aux systèmes d'intelligence artificielle avancés. Ce rapport constitue un document de référence mis à disposition des gouvernements, des entreprises et des chercheurs pour comprendre et anticiper l'évolution rapide de l'IA[3].

Le rapport est suivi d'un second publié en février 2026[4].

Histoire et contexte

[modifier | modifier le code]

En , aux États-Unis, la Food and Drugs Administration (FDA) approuve 223 dispositifs médicaux utilisant l'IA (contre 6 en 2015), et les voitures autonomes deviennent courantes (ex. : la société de transports automatisés Waymo assure plus de 150 000 trajets autonomes par semaine).

En , les États‑Unis investissent 109,1 milliards de dollars en IA et l'IA générale attire 33,9 milliards d'investissements privés ; le Canada promet 2,4 milliards de dollars, la Chine lance un fonds pour les semi-conducteurs de 47,5 milliards, la France engage 109 milliards d'euros, l'Inde 1,25 milliard, et le projet Transcendance de l'Arabie saoudite représente une initiative de 100 milliards de dollars. Cette même année 2024, dans le monde, les mentions de l'IA dans les lois ont augmenté de 21,3 % dans 75 pays depuis 2023, soit une augmentation de neuf fois par rapport à 2016 (année de mise au jour du scandale Facebook-Cambridge Analytica/AggregateIQ, premier cas documenté de vol massif de données personnelles avec utilisation de l'IA (Ripon)[réf. nécessaire] pour influencer des élections à grande échelle en ciblant les électeurs via des algorithmes de profilage psychographique et de « persuasion »[5], fondés sur les données d'environ 87 millions d’internautes volées sur Facebook)[6],[7],[8],[9]. En 2024, les agences fédérales américaines introduisent 59 règlementations nouvelles liées à l'IA — plus du double du score de 2023 —, publiées par deux fois plus d'agences.

En 2025, l'administration Trump, revient parfois en arrière ou freine les règlementations, alors que les capacités de l'IA et son usage (aux États-Unis, 78 % des entreprises disent utiliser l'IA, contre 55 % l'année précédente[réf. nécessaire]) évoluent exponentiellement, bien plus vite que les processus législatifs. La sécurité et l'éthique progressent mais lentement : les incidents liés à l'IA augmentent et peu d'entreprises appliquent des évaluations de sécurité standardisées considérées comme de bonnes pratiques.

Ce rapport fait suite à une publication provisoire de . Sa gouvernance est similaire à celle du GIEC dans le domaine du réchauffement climatique. C'est la première tentative coordonnée, à l'échelle mondiale, de synthétiser l'état des connaissances scientifiques sur les risques induits par le développement rapide et l'usage exponentiel de l'IA, et sur les stratégies d'atténuation des risques existantes, afin d'éclairer les débats et actions sur le sujet[10].

Rédacteurs

[modifier | modifier le code]

La rédaction du rapport est dirigée par une centaine de spécialistes issus de trente pays, ainsi que de représentants de l'Union européenne, de l'Organisation de coopération et de développement économiques (OCDE) et de l'ONU. La première version du rapport est rédigée par 96 experts, dont 30 nommés par l’Organisation de coopération et de développement économiques, l’Union européenne et les Nations Unies (ONU). L'un de ses principaux contributeurs (et le pilote du rapport) est le chercheur Yoshua Bengio (qui préside de groupe), notamment reconnu pour ses travaux sur l'apprentissage profond qui ont permis l'émergence des dernières générations d'IA générative.

Objectifs

[modifier | modifier le code]

Le rapport se concentre « sur l’IA polyvalente — ou IA capable d’accomplir une grande variété de tâches — car ce type d’IA a progressé particulièrement rapidement ces dernières années et a été largement déployé par des entreprises technologiques à diverses fins : grand public et professionnel »[11].

Ce travail part du principe que dans les années 2020, les progrès de l'IA polyvalente sont rapides et parfois inattendus, alors que cette technologie « traverse encore une période de découverte scientifique et — dans de nombreux cas — n’est pas encore une science établie. Le rapport offre un aperçu de la compréhension scientifique actuelle de l’IA à usage général et de ses risques. Cela inclut l’identification des domaines de consensus scientifique ainsi que des domaines où il existe des points de vue différents ou des lacunes dans la compréhension scientifique actuelle »[11].

Il vise à :

  • établir une base scientifique commune sur les risques actuels et futurs de l'IA, la technologie qui semble promise à devenir « la plus transformatrice du XXIe siècle », mais non sans risques. Ce rapport vient compléter la publication de l'Indice (Index) de l'IA de l'université Stanford, qui se présente comme l'une des visions les plus complètes, objectives, impartiales, rigoureusement vérifiées et issues de sources larges, relatives au progrès technique de l'IA, à son influence économique et à son impact sociétal[12] ;
  • identifier les limites des approches de sécurité existantes ;
  • proposer des orientations pour la gouvernance internationale de l'IA.

Principaux risques identifiés

[modifier | modifier le code]

Le rapport distingue trois grandes catégories de risques.

D'abord, les risques non intentionnels : erreurs, dysfonctionnements ou comportements imprévus des systèmes d'IA[13].

Ensuite, les risques d'utilisation malveillante (cyberattaques, manipulation de l'information, détournement d'outils d'IA à des fins nuisibles). Le rapport souligne que les systèmes d'IA sont déjà et peuvent l'être plus encore détournés pour un large éventail d'activités hostiles, dont, par exemple, des escroqueries de grande ampleur, des cyberattaques et la création de deepfakes sexualisés qui exposent de manière disproportionnée et croissante les femmes et les enfants au harcèlement, à la coercition et aux abus. Le rapport rappelle aussi que les systèmes d'IA peuvent être utilisés pour manipuler l'opinion publique à grande échelle grâce à des campagnes d'influence sophistiquées et via une désinformation ciblée, en particulier lors d'élections ou de crises politiques.
De plus, des IA de plus en plus puissantes pourraient aider des acteurs malveillants à développer ou renforcer des menaces biologiques pouvant déboucher sur des pandémies possiblement bien plus graves que les précédentes.

Enfin, les risques systémiques : perturbations économiques et sociales, notamment la perte d'emplois due à l'automatisation[14].

Approches d'atténuation

[modifier | modifier le code]

Le rapport passe en revue les méthodes actuelles de réduction des risques, incluant :

  • les techniques de robustesse et de fiabilité des modèles ;
  • les protocoles d'évaluation avant déploiement ;
  • les cadres règlementaires émergents ;
  • les limites des approches existantes, notamment face aux systèmes très avancés.

Gouvernance internationale

[modifier | modifier le code]

Le rapport appelle à une coopération mondiale renforcée, estimant que les risques liés à l'IA dépassent les capacités d'action des États pris individuellement. Il recommande la création de mécanismes de coordination, de partage d'informations et de normes communes.

Réception

[modifier | modifier le code]

Le rapport a suscité un intérêt important dans les milieux scientifiques et politiques. Il est considéré comme une étape majeure dans la structuration d'un débat international sur la sécurité de l'IA, bien que certains observateurs soulignent la difficulté d'appliquer ses recommandations dans un contexte de compétition technologique mondiale.

Selon Roel Dobbe (chercheur en Sécurité des systèmes d'IA)[15], ce rapport explique à juste titre qu’il faut utiliser une approche systémique de « sécurité des systèmes » qui pense et regarde l’IA comme un ensemble complet (avec ses aspects techniques mais aussi humains et organisationnels) pour produire un « cadre socio-technique »[16] élargi et solide capable de corriger les limites des approches purement techniques ; cela aiderait aussi à dépasser les faiblesses de la loi européenne sur l’IA et à mieux guider les investissements publics vers une IA utile et sûre pour la société[17].

Suites

[modifier | modifier le code]

Mi 2025, dans la continuité du International AI Safety Report, et à la suite d'une conférence internationale SCAI dite du « Consensus de Singapour » ayant réuni des chercheurs en IA et des représentants de plus de trente pays ainsi que d’organisations internationales, un autre rapport international Singapore Consensus on Global AI Safety Research Priorities, a été publié[18]. Il vise à définir des priorités communes pour la recherche en sécurité de l’IA, en s’appuyant sur une approche de « défense en profondeur » qui distingue trois types de défis (liés au développement, à l’évaluation et au contrôle des systèmes avancés). Ce rapport rappelle et confirme que les progrès rapides de l’IA créent des risques non intentionnels, des risques d’usage malveillant et des risques systémiques. Il appelle à la construction urgente d’un écosystème de confiance plus favorable à la fiabilité, la robustesse et la sécurité des systèmes d’IA de plus en plus autonomes et performants[18].

Notes et références

[modifier | modifier le code]

Notes

[modifier | modifier le code]
(en) Cet article est partiellement ou en totalité issu de l’article de Wikipédia en anglais intitulé « Existential risk from artificial general intelligence » (voir la liste des auteurs).
  1. ↑ Exemple : Yoshua Bengio, Stephen Clare, Carina Prunkl et Shalaleh Rismani, International AI Safety Report 2025: First Key Update: Capabilities and Risk Implications, (DOI 10.48550/arXiv.2510.13653, lire en ligne).

Références

[modifier | modifier le code]
  1. ↑ (en-GB) Dan Milmo, « What International AI Safety report says on jobs, climate, cyberwar and more », The Guardian,‎ (ISSN 0261-3077, lire en ligne, consulté le ).
  2. ↑ (en) Yoshua Bengio, Stephen Clare, Carina Prunkl et Maksym Andriushchenko, International AI Safety Report 2025: Second Key Update: Technical Safeguards and Risk Management, (DOI 10.48550/arXiv.2511.19863, lire en ligne).
  3. ↑ (en) « First International AI Safety Report to inform discussions at AI Action Summit », sur GOV.UK (consulté le ).
  4. ↑ (en) « International AI Safety Report 2026 | International AI Safety Report », sur internationalaisafetyreport.org (consulté le )
  5. ↑ (en) Jeremy Rose et Oskar MacGregor, « The Architecture of Algorithm-driven Persuasion », Journal of Information Architecture, vol. 6, no 1,‎ , p. 7-40 (DOI 10.55135/1015060901/211.009/2.037, lire en ligne, consulté le ).
  6. ↑ (en) Matthew Rosenberg, Nicholas Confessore et Carole Cadwalladr, « How Trump Consultants Exploited the Facebook Data of Millions » [archive du ], sur nytimes.com via Internet Archive, The New York Times, .
  7. ↑ (en) Emma Graham-Harrison et Carole Cadwalladr, « Revealed: 50 million Facebook profiles harvested for Cambridge Analytica in major data breach » [archive du ], sur theguardian.com via Internet Archive, .
  8. ↑ (en) « Putin's asymmetric assault on democracy in Russia and Europe : Implications for US National security », sur govinfo.gov (consulté le ).
  9. ↑ (en) Margaret Hu, « Cambridge Analytica’s black box », Big Data & Society, vol. 7, no 2,‎ , p. 2053951720938091 (ISSN 2053-9517 et 2053-9517, DOI 10.1177/2053951720938091, lire en ligne, consulté le ).
  10. ↑ (en) « AI safety report », sur .co.uk (consulté le ).
  11. 1 2 (en) Yoshua Bengio, « The First International AI Safety Report: The International Scientific Report on the Safety of Advanced AI », s-rsa.com, vol. 2, no 2,‎ (ISSN 3067-2627, DOI 10.70777/si.v2i2.14755, lire en ligne, consulté le ).
  12. ↑ (en) « The 2025 AI Index Report », sur hai.stanford.edu (consulté le ).
  13. ↑ Voir la Section 2.2: Technical failures du Rapport.
  14. ↑ Voir la section Section 2.3: Systemic risks du Rapport.
  15. ↑ (en) Roel I. J. Dobbe, System Safety and Artificial Intelligence, (DOI 10.48550/arXiv.2202.09292, lire en ligne).
  16. ↑ (en) Inioluwa Deborah Raji et Roel Dobbe, Concrete Problems in AI Safety, Revisited, (DOI 10.48550/arXiv.2401.10899, lire en ligne).
  17. ↑ (en) Roel Dobbe, AI Safety is Stuck in Technical Terms -- A System Safety Response to the International AI Safety Report, (DOI 10.48550/arXiv.2503.04743, lire en ligne).
  18. 1 2 (en) Yoshua Bengio, Tegan Maharaj, Luke Ong et Stuart Russell, The Singapore Consensus on Global AI Safety Research Priorities, (DOI 10.48550/arXiv.2506.20702, lire en ligne).

Voir aussi

[modifier | modifier le code]

Bibliographie

[modifier | modifier le code]

Articles connexes

[modifier | modifier le code]

Liens externes

[modifier | modifier le code]
Ce document provient de « https://fr.wikipedia.org/w/index.php?title=Rapport_international_sur_la_sécurité_de_l%27IA&oldid=240107999 ».