Préambule

Conscients que l’intelligence artificielle constitue l’une des transformations majeures de notre temps, porteuse à la fois de progrès considérables et de risques inédits ; que ses usages peuvent affecter la dignité humaine, les libertés fondamentales, la sécurité des peuples, l’intégrité des institutions, les équilibres économiques, sociaux et environnementaux, ainsi que la paix entre les nations ;
Rappelant que la paix ne saurait se réduire à la seule absence de conflit, mais suppose également la justice, la sécurité, la coopération, le respect du droit et la protection de la personne 
humaine ;
Réaffirmant l’héritage des traditions humanistes et universalistes, ainsi que l’autorité des instruments juridiques internationaux, notamment la Charte des Nations unies, la Déclaration universelle des droits de l’homme, les Pactes internationaux de 1966, la Convention européenne des droits de l’homme et les Conventions de Genève ;
Considérant que la présente Charte s’inscrit dans la continuité des travaux et des dialogues engagés dans le cadre du Forum mondial « Normandie pour la Paix », dont elle entend prolonger la réflexion sur les conditions éthiques, juridiques et politiques d’une intelligence artificielle au service de la paix. »
Estimant que le développement de l’intelligence artificielle appelle une responsabilité commune des États, des acteurs économiques, du monde scientifique et des citoyens ;
Les signataires adoptent la présente Charte comme cadre éthique et principe d’action, dans la perspective d’un futur instrument juridique international destiné à prévenir les risques extrêmes liés à l’intelligence artificielle et à garantir qu’elle demeure au service de la paix.

Article 1 — Primauté de la dignité humaine et de l’exigence de paix

L’intelligence artificielle ne saurait être conçue, développée ni utilisée autrement que dans le respect absolu de la dignité humaine, des droits fondamentaux et de l’exigence de paix.
Toute initiative en matière d’intelligence artificielle doit faire l’objet d’une évaluation préalable de ses impacts sur les personnes et les sociétés, afin de prévenir toute atteinte à l’intégrité physique, psychologique, collective, sociale ou structurelle.
Nulle considération de profit, de puissance ou de convenance ne peut prévaloir sur la protection de la personne humaine et la préservation de la paix.

Article 2 — Contrôle humain effectif et permanent

L’humanité doit demeurer, en toutes circonstances, maîtresse des systèmes d’intelligence artificielle.
Aucun système exerçant une influence significative sur les individus, les collectivités ou les institutions ne peut être déployé sans qu’un contrôle humain réel, éclairé, continu et effectif soit garanti.
Ce contrôle implique la capacité de superviser, comprendre, corriger, suspendre ou interrompre le fonctionnement d’un système.
Les systèmes à fort impact doivent intégrer, dès leur conception, des mécanismes sûrs de désactivation ou d’arrêt d’urgence mobilisables par les autorités compétentes lorsqu’un risque grave est identifié.
Toute personne doit pouvoir contester une décision automatisée la concernant et obtenir une intervention humaine effective.

Article 3 — Santé et intégrité humaine

L’usage de l’intelligence artificielle dans le domaine de la santé demeure subordonné à la primauté du jugement médical humain.
Aucune décision essentielle de diagnostic, de traitement, d’orientation ou de triage ne peut être abandonnée à un système automatisé sans supervision humaine qualifiée.
Le consentement libre et éclairé du patient constitue une condition fondamentale de tout recours à l’intelligence artificielle dans le domaine de la santé, sous réserve des exceptions strictement prévues par la loi.
Les données de santé doivent bénéficier d’une protection renforcée et ne sauraient faire l’objet d’une marchandisation contraire à la dignité humaine.
Les systèmes médicaux doivent être traçables, vérifiables, intelligibles et exempts de biais discriminatoires.
L’accès aux bénéfices de l’intelligence artificielle en matière de santé doit être assuré de manière équitable, sans discrimination de revenu, d’origine ou de territoire.

Article 4 — Transparence et traçabilité 

Les autorités compétentes doivent pouvoir déterminer clairement ce qui relève d’un système d’intelligence artificielle au regard de la présente Charte.
Les systèmes à fort impact doivent être documentés, traçables, auditables et explicables dans une mesure compatible avec leur nature et leurs usages.
Leur finalité, leurs responsables, leurs principales sources de données, leurs limites connues et leurs conditions de déploiement doivent pouvoir être identifiés.
La transparence constitue une condition essentielle de la confiance publique, de la responsabilité et du contrôle démocratique.

Article 5 — Lutte contre la manipulation et la désinformation

L’utilisation de l’intelligence artificielle à des fins de manipulation cognitive, de désinformation organisée ou d’altération des processus de décision collective légitimes et représentatifs est prohibée.
Tout contenu dans lequel l’intelligence artificielle a joué un rôle substantiel de création, d’altération ou de diffusion doit être identifiable selon des modalités appropriées.
Les acteurs numériques ont l’obligation de prévenir, détecter et limiter la diffusion massive de tels contenus, sous le contrôle des autorités compétentes et dans le respect des libertés fondamentales.

Article 6 — Interdiction des usages à risque extrême

Il est interdit de concevoir, développer, mettre à disposition ou déployer des systèmes d’intelligence artificielle susceptibles de générer un risque extrême, irréversible ou de portée globale pour l’humanité.
Sont notamment visés :les systèmes présentant un risque létal massif ou incontrôlable ;
-    les systèmes échappant durablement au contrôle humain ;
-    les systèmes permettant la concentration critique d’un pouvoir sur des infrastructures essentielles mondiales entre les mains d’un acteur unique ;
-    les systèmes susceptibles de provoquer des atteintes systémiques graves aux sociétés ou aux écosystèmes.
Une classification internationale des risques doit permettre d’identifier ces usages prohibés.
Les concepteurs, développeurs et exploitants engagent leur responsabilité civile et pénale lorsque survient un dommage imputable à une sécurité manifestement insuffisante. Il leur appartient d’établir qu’ils ont pris toutes les précautions raisonnablement exigibles.

Article 7 — Interdiction de la militarisation autonome et de la surveillance de masse

Nulle machine ne doit se voir confier le pouvoir de décider de la vie ou de la mort.
Toute forme d’autonomie létale dépourvue d’intervention humaine significative est interdite.
Sont également prohibés les systèmes de surveillance de masse à finalité militaire ou sécuritaire permettant le ciblage généralisé, le profilage prédictif ou des atteintes disproportionnées aux libertés fondamentales.
Ces principes s’inscrivent dans le respect du droit international humanitaire.

Article 8 — Souveraineté nationale et sécurité globale

La sécurité des populations, la continuité des services essentiels et la souveraineté des États constituent des exigences supérieures.
Tout système d’intelligence artificielle susceptible de porter atteinte à des infrastructures critiques, notamment énergétiques, sanitaires, financières, numériques ou institutionnelles, doit faire l’objet d’une interdiction ou d’un encadrement strict.
En cas d’incertitude sérieuse quant à ses effets, son déploiement doit être suspendu sans délai selon le principe de précaution.

Article 9 — Promotion des innovations au service de la paix et du bien-être 

Les États, les institutions et les acteurs économiques ont la responsabilité d’orienter le développement de l’intelligence artificielle vers des finalités bénéfiques pour l’humanité.
Ils soutiennent prioritairement les usages contribuant à la protection de la vie, à l’amélioration des conditions d’existence, à l’accès à l’alimentation, à la santé, à l’éducation, à la diversité, à l’inclusion, à la coopération entre les peuples et à la résolution pacifique des crises mondiales.
Ils favorisent également le transfert de capacités, le partage des connaissances et l’accès équitable aux technologies afin de prévenir les fractures technologiques entre États et entre populations.

Article 10 — Environnement et sobriété numérique

L’empreinte énergétique, carbone et hydrique des systèmes d’intelligence artificielle constitue une externalité réelle devant être mesurée, réduite et, selon des modalités appropriées, rendue publique.
La puissance de calcul mobilisée doit être proportionnée à l’utilité sociale recherchée.
Aucun déploiement d’ampleur ne devrait intervenir sans évaluation préalable de son impact environnemental.
Le principe de sobriété numérique doit guider la conception, l’entraînement et l’usage des systèmes d’intelligence artificielle.

Article 11 — Gouvernance démocratique et responsabilité

La gouvernance de l’intelligence artificielle doit être fondée sur la transparence, la participation, la compétence, le pluralisme et la responsabilité.
Les décisions structurantes relatives à son développement et à ses usages doivent associer les organisations internationales, les États, les acteurs économiques, la recherche, la société civile et les citoyens.
Une architecture claire de responsabilité doit permettre d’identifier les acteurs responsables à chaque étape du cycle de vie des systèmes et garantir des voies effectives de recours et de réparation.
Un protocole annexe pourra préciser la composition, les missions et le fonctionnement d’un organe international de suivi, en articulation avec les travaux conduits au sein des Nations unies.

Clause finale — Engagements communes

Les signataires reconnaissent leur responsabilité collective dans l’orientation du développement de l’intelligence artificielle.
Ils s’engagent à en faire un instrument au service de la vie, de la liberté, de la paix et du progrès partagé, à garantir le maintien du contrôle humain, et à agir sans délai face à toute dérive susceptible de menacer l’humanité, les institutions légitimes ou les générations futures.