FlashProve : Anthropic explore la preuve de l’identité des modèles d’IA

Anthropic travaille sur FlashProve, un système destiné à établir qu’une réponse provient bien d’un modèle d’IA donné. Selon TechCrunch, qui rapporte une publication du 3 novembre, le projet repose sur une preuve cryptographique de l’exécution du modèle. Il vise notamment à permettre aux utilisateurs de vérifier l’identité du système auquel ils pensent s’adresser.

Le mécanisme suppose que les laboratoires publient une empreinte de leurs modèles, qui puisse ensuite être associée aux réponses et vérifiée cryptographiquement. D’après la présentation rapportée, cette empreinte ne dévoile pas les poids du modèle. Le système est également conçu pour permettre une vérification sur un appareil local. Ces propriétés restent des objectifs et caractéristiques décrits par les chercheurs, sans démonstration indépendante présentée dans l’article.

Un usage envisagé serait de détecter la substitution discrète d’un modèle par un autre : moins coûteux pour réduire les dépenses, ou plus coûteux pour gonfler les résultats de performance présentés. FlashProve pourrait aussi servir à contrôler l’affirmation d’un prestataire selon laquelle une tâche a été réalisée par un modèle précis.

L’enjeu serait alors de rendre vérifiable une partie de la relation entre fournisseur et client. Une preuve d’identité ne suffirait toutefois pas, à elle seule, à établir la justesse ou la sécurité d’une réponse : ce sont des questions distinctes de la provenance.

La maturité du projet reste limitée. Les chercheurs ont publié une spécification technique et du code pour différents éléments sous licence open source. Ils présentent ces travaux comme une étape intermédiaire. Aucun déploiement chez Anthropic ou dans un autre laboratoire n’est prévu, selon TechCrunch.