Anthropic propose un cadre judiciaire pour bloquer des modèles à risque

Anthropic fait circuler un projet de loi sur la sécurité de l’intelligence artificielle que l’entreprise souhaite voir examiné par le Congrès américain, rapporte TechCrunch en s’appuyant sur Politico. Un porte-parole d’Anthropic a confirmé l’existence du texte à Politico. Il s’agit d’une proposition portée par l’entreprise, sans adoption établie à ce stade.

Le dispositif viserait un risque prévisible et imminent susceptible de provoquer la mort de plus de 50 personnes ou des dommages matériels dépassant un milliard de dollars. Les scénarios concernés seraient liés à une arme biologique, à un modèle échappant aux contrôles de son développeur ou à une cyberattaque.

Des évaluateurs indépendants enregistrés auprès du département américain du Commerce examineraient les modèles. Lorsqu’ils identifieraient un risque catastrophique imminent, ils disposeraient de 72 heures pour prévenir le département. Celui-ci devrait ensuite demander à un juge de Washington de suspendre la diffusion du modèle. Le projet interdirait aux agences fédérales de décider seules d’un tel blocage.

Une question demeure sur l’indépendance financière des évaluations. Les laboratoires pourraient rémunérer les évaluateurs, à condition que le paiement ne dépende pas du résultat. Cette règle encadrerait la rémunération, mais ne suffit pas à démontrer l’absence d’influence.

L’architecture proposée privilégierait donc une intervention judiciaire après évaluation. Son efficacité dépendrait notamment de la capacité à caractériser rapidement le risque et de l’indépendance effective des évaluateurs, deux points que le récit disponible ne permet pas de trancher.