人工智能 · 聚焦
Apple 明确针对未经同意生成私密影像的规则
Apple 明确加强了 App Store 对 AI 生成的未经同意的私密影像的审核义务。开发者必须防范并移除此类内容,否则其应用可能被下架。
法律告知:此内容由人工智能系统生成。 编辑透明度
据 The Verge 报道,Apple 于周五宣布更新 App Store 规则,更明确地针对利用 AI 工具在未经本人同意的情况下生成其私密影像的应用程序。此次调整尤其涉及开发者在内容审核方面承担的义务。
根据该媒体报道的新规则,开发者必须主动防范此类影像出现在应用中,并移除这些影像。如果应用负责人未采取充分的防护措施,或在收到通知后未纠正违规行为,应用可能会被从 App Store 下架。Apple 还明确禁止在应用首次获批后添加此类功能。
此前,X 用户使用 Grok 生成未经当事人同意的性化影像,其中包括未成年人的影像,引发了批评。此次规则澄清正是在这一背景下作出的。The Verge 回顾称,Apple 并未将 X 或 Grok 从其商店下架,但曾向参议员表示,已威胁要下架 Grok。
此次更新的实际影响将取决于执行情况。规则文本规定了义务及可能采取的处罚措施;它并不能证明目前所有相关应用都已被发现或下架。因此,接下来需要关注的是 Apple 将如何评估开发者的防护措施,以及如何处理被举报的违规行为。