Appel de Paris pour la sécurité de l'IA : six États, dix entreprises
OpenAI, Anthropic, Microsoft et Mistral ont signé lundi un texte qui promet des évaluations indépendantes et un bouton d'arrêt. Sans aucune sanction derrière.
L'appel de Paris pour la sécurité de l'IA a été signé lundi 9 novembre par six États et dix entreprises, dont OpenAI, Anthropic, Microsoft et Mistral AI. Ces entreprises acceptent noir sur blanc que des évaluateurs extérieurs regardent sous le capot de leurs modèles et qu'un mécanisme permette de les arrêter en urgence.
Le texte a été publié par l'Élysée au terme d'une réunion organisée en marge du Forum de Paris sur la Paix. Emmanuel Macron y avait convié une cinquantaine de chefs d'État et de gouvernement, en visioconférence pour la plupart.
Qui a signé, et qui n'a pas signé
Côté États : Bahreïn, le Canada, la Finlande, la France, la Norvège et les Pays-Bas. Six, sur la cinquantaine de dirigeants présents.
Côté entreprises : Anthropic, Black Forest Labs, Cohere, Domyn, Hugging Face, Microsoft, Mistral AI, OpenAI, Sakana AI et Synthesia.
Quatre organisations de la société civile complètent la liste, dont LawZero, fondée par le chercheur Yoshua Bengio, l'association SaferAI et l'institut français Ifri.
Ni les États-Unis ni la Chine ne figurent parmi les signataires. Google et Meta non plus. Les deux pays qui hébergent la quasi-totalité des modèles de frontière restent donc en dehors du cadre que ce cadre prétend fixer.
Trois engagements, dont un qui mord
Le premier porte sur l'évaluation : construire des normes techniques et des méthodes communes pour mesurer ce dont un modèle de pointe est capable, avec une attention aux usages cyber et NRBC (nucléaire, radiologique, biologique, chimique) et aux dérives d'autonomie. Les résultats devraient alimenter un registre public partagé.
Le deuxième porte sur la responsabilité. Aux gouvernements de clarifier qui répond juridiquement d'un dommage à grande échelle. Aux développeurs de publier les capacités, les limites et les risques connus de leurs modèles, de faciliter l'évaluation indépendante et d'installer des mécanismes permettant d'interrompre le fonctionnement d'un système.
Le troisième crée un système d'alerte rapide : signalement des incidents entre entreprises et États, et canaux sécurisés pour les lanceurs d'alerte, afin qu'un salarié puisse remonter un risque systémique sans représailles.
C'est la ligne sur l'évaluation indépendante avant mise sur le marché qui change le plus de choses. Jusqu'ici, les laboratoires testaient leurs modèles eux-mêmes et publiaient ce qu'ils voulaient de ces tests.
« Parce que c'est de l'IA, ce n'est pas le Far West »
La phrase est d'Emmanuel Macron, devant le Forum de Paris sur la Paix. Il a ajouté que si certains usages de l'IA présentent un risque pour les enfants, alors il faut les interdire, en visant leur santé mentale et leur cerveau.
Il a aussi redit vouloir restreindre l'accès de certains réseaux sociaux aux moins de 15 ans. Un comité d'experts devait lui remettre ses recommandations sur la protection de l'enfance le 11 novembre.
Selon lui, les entreprises acceptent « le principe d'un pré-audit et d'une pré-certification ». Le texte signé, lui, parle d'évaluation indépendante et crédible sous le contrôle des autorités nationales compétentes, ce qui n'est pas tout à fait la même exigence.
Ce que ça vaut juridiquement
Rien. Aucune sanction, aucun calendrier contraignant, aucun organe de contrôle créé. La déclaration reste ouverte à de nouveaux soutiens, ce qui est la définition même d'un texte volontaire.
L'histoire récente invite à la prudence : les engagements de Bletchley Park en 2023 et le sommet de Séoul en 2024 avaient déjà produit des promesses de tests de sûreté, sans mécanisme pour vérifier qu'ils avaient lieu.
La différence, cette fois, tient à la signature d'OpenAI et d'Anthropic sur un accès à leurs modèles avant commercialisation. Si ce point survit à sa mise en œuvre, il vaudra plus que les trois pages du communiqué.
À surveiller dans les prochains mois
Trois choses diront si le texte produit autre chose que des photos de groupe : l'apparition réelle du registre public de résultats d'évaluation, l'arrivée de nouveaux États signataires, et le sort des recommandations sur l'enfance remises le 11 novembre.
Pour l'instant, le règlement européen sur l'IA reste le seul texte de cette liste à prévoir des amendes.
