本期日期 2026年10月11日
Satya Nadella呼吁让AI模型在执行任务时保持可控
在十月10日报道的一次表态中，Microsoft负责人提议将AI模型与其控制机制分离。他要求让行动可追溯，并让获授权的人员能够中断任务。这些建议并非部署公告。
法律告知：此内容由人工智能系统生成。 编辑透明度
将模型与防护措施分离、保留可供审查的记录，并允许在行动过程中中断运行：Satya Nadella阐述了一种AI控制思路，TechCrunch和The Verge对此进行了报道。这一立场明确了所期望的机制，但这些报道既未证实其已部署，也未证实其有效性。
Microsoft负责人Satya Nadella呼吁重新审视控制人工智能系统的方式。在他发布于X、并由TechCrunch和The Verge于十月10日报道的一则消息中，他提议从模型已遭入侵的假设出发，并从一开始就规划隔离措施。这一表述体现了一项审慎的设计原则，并不能证明所有模型实际上都已遭入侵。
他的核心建议是将模型与组织其工作的装置分离。根据TechCrunch的报道，控制机制和防护措施应设置在模型之外。Nadella还要求，获授权的人员能够在模型执行任务期间暂停或停止其运行。因此，控制将不再仅限于在回答生成后接受或拒绝该回答。
这种分离可能为系统设计者提供一个具体目标：在模型行动时保留干预手段。它会将一部分信任转移到约束模型活动的机制上。不过，这只是对所提架构的一种解读，并非其有效性的证明。这些文章没有描述可用于衡量其抵抗能力或可靠性的具体实施方案。
可追溯性是这一立场的另一个方面。Nadella希望模型的每项重要行动都留下人类可读且受到防篡改保护的证据。这一要求可能有助于审查某项决策或某起事件，前提是保留的信息确实能让人理解发生了什么。仅仅存在可查阅的记录，本身不足以保证这种理解。
The Verge还报道了有关迅速披露事件、开展独立审计以及提供可验证数据的建议。这些要素是对隔离措施的补充，旨在让系统可被观察、其行动可被审查。不过，它们的作用范围将取决于所采用的具体方式，而这些报道并未详细说明这些方式。
Nadella最后认为，更先进的模型将需要更先进的隔离技术，并应为这些技术制定标准。这是这位负责人提出的方向，目前没有见诸报道的标准制定时间表。
这次发言所凸显的问题，是如何在行动过程中持续保持控制。这些建议明确了所期望的功能——中断运行、将防护措施与模型分离，以及实现可追溯性——但这些报道不足以让人得出Microsoft已采纳这些建议或它们在实际运行中有效的结论。