FlashProve：Anthropic探索验证AI模型身份的方法

Anthropic正在研究FlashProve，这一系统旨在证明某个回答确实来自指定的AI模型。据TechCrunch对十一月3日发布的一篇文章的报道，该项目以模型执行过程的密码学证明为基础。其目标之一是让用户能够核实，他们实际交互的系统是否就是自己以为正在使用的系统。

这一机制需要实验室公布模型指纹，随后可将该指纹与回答关联，并通过密码学方法进行验证。根据报道转述的介绍，这种指纹不会泄露模型权重。该系统的设计也旨在支持在本地设备上进行验证。这些仍是研究人员描述的目标和特性，文章未提供独立验证。

一种设想中的用途是检测模型被暗中替换的情况：替换为成本更低的模型以削减开支，或替换为成本更高的模型以夸大所展示的性能结果。FlashProve也可能用于核查服务商关于某项任务由特定模型完成的说法。

这将使供应商与客户之间的部分关系变得可验证。不过，仅凭身份证明并不足以确认回答的正确性或安全性：这些问题与来源问题有所区别。

该项目的成熟度仍然有限。研究人员已发布技术规范，并以开源许可发布了不同组成部分的代码。他们将这些工作视为一个中间阶段。据TechCrunch报道，目前没有在Anthropic或其他实验室部署该系统的计划。