PESAEAS

Policy-Enforced Secure Adversarial Enclave for Autonomous Systems

Pé-sé-as · Peh-SAY-uhs

Une initiative mondiale pour le confinement des systèmes autonomes.

À propos

PESAEAS fait progresser les enclaves adversariales pilotées par des politiques — des environnements renforcés qui supposent que le système confiné peut tenter de s'échapper, de tromper ou d'exploiter ses limites, des agents logiciels d'aujourd'hui aux systèmes physiques de demain.

L'initiative organise la discussion technique par des meetups et une pratique partagée, en vue de meilleures normes de confinement dans le temps.

Pour les ingénieurs systèmes, praticiens de la sécurité, chercheurs en sûreté de l'IA, et quiconque construit de l'isolation pour logiciels ou robots autonomes.

Une initiative d'Akioud AI, Paris. Le travail technique est destiné à être ouvert à mesure que la communauté grandit.

Travaux open source connexes : Akios et EnforceCore.

Focus

Modèle de menace adversarial

Supposer que l'agent confiné peut tenter de s'échapper, de tromper ou d'exploiter ses limites.

Frontières par politiques

La sécurité comme règles déclaratives et auditables — pas de contrôles ad hoc ni d'espoir.

Isolation en enclave

Confinement renforcé, des agents logiciels d'aujourd'hui aux systèmes physiques de demain.