Une initiative technique internationale

PESAEAS

Policy-Enforced Secure Adversarial Enclave for Autonomous Systems

Le confinement de systèmes autonomes susceptibles de tenter de contourner ou d’exploiter leurs limites.

PESAEAS relie des notes de travail versionnées à de petites sessions techniques sur des limites dont le respect peut être imposé aux systèmes d’IA et robotiques autonomes.

Une initiative d’Akioud AI, Paris/Pé-sé-as · Peh-SAY-uhs/

Démonstration d’architecture

L’autorité rendue visible

Modèle illustratif · aucun système en exécution
Sélectionnez une action proposée

L’accès à un rapport ne donne pas l’autorisation de le transmettre.

Deux actions. Une même frontière.

L’action proposée, la règle correspondante et le résultat modélisé restent consultables.

Programme

De petites sessions construites autour de questions qui peuvent être examinées, contestées et réinjectées dans le travail.

Tout voir →

En cours

Aucune session n’est actuellement confirmée ou ouverte aux manifestations d’intérêt.

Archive

Suivre le programme

Recevez un e-mail à l’ouverture d’une session technique ou lorsque son statut évolue.

Organiser un événement ? →

Mises à jour du programme uniquement — gestion manuelle, sans liste marketing.

Axes

Une frontière de confinement crédible relie trois préoccupations souvent traitées séparément.

01

Modèle de menace adversarial

Hypothèse : l'agent confiné peut tenter de s'échapper, de tromper ou d'exploiter ses limites.

02

Frontières pilotées par des politiques

La sécurité comme règles déclaratives et auditables — pas de contrôles ad hoc ni d'espoir.

03

Isolation en enclave

Confinement renforcé, des agents logiciels d'aujourd'hui aux systèmes physiques de demain.

À propos

Le confinement concerne l’ensemble de la frontière opérationnelle, pas le modèle pris isolément.

PESAEAS fait progresser les enclaves adversariales pilotées par des politiques — des environnements renforcés qui supposent que le système confiné peut tenter de s'échapper, de tromper ou d'exploiter ses limites, des agents logiciels d'aujourd'hui aux systèmes physiques de demain.

L'initiative organise la discussion technique par des meetups et une pratique partagée, en vue de meilleures normes de confinement dans le temps.

Perspectives pertinentes

Ingénierie système, sécurité, informatique de confiance, sûreté de l’IA, robotique, gouvernance technique et normalisation autour des systèmes autonomes logiciels ou physiques.

Particulièrement utile si vous pouvez apporter un modèle de menace, une contrainte d’implémentation ou une question d’évaluation.

Une initiative d'Akioud AI, Paris. Le travail technique est destiné à une publication ouverte au fil de son développement.

Travaux open source connexes : Akios et EnforceCore.