李飞飞呼吁AI外部监管,平台自律模式被质疑

CN
48分钟前

9月23日,据金色财经报道,斯坦福大学教授李飞飞公开打断了行业里那种“技术自己会长出规则”的乐观叙事——在谈到AI安全时,她明确表示,这类系统不能只靠企业内部自评和风控,而必须接受独立机构与公共部门的进一步监督。她的界定很具体:企业研究人员当然可以测算单个模型的性能与安全特性,但这种“厂内测评”无法替代由政府、行业组织和学术界共同制定、并对全行业生效的通用标准。放在当前“加速派”与“减速派”的对峙语境中,这番发言等于对平台自律模式的信任投票按下了暂停键——李飞飞公开站到了“第三方监管”一侧,把矛头对准的是企业自证安全的正当性,而不是抽象讨论AI好坏。对于长期依赖自律与内部风控、后来才被纳入持牌经营和外部审计框架的互联网与加密平台,这种话语并非局限在AI圈子里的专业争论,而更像是新一轮监管边界重画前的预告信号。

李飞飞站队减速派:企业自评被公开点名

在当前主流路径下,头部AI公司普遍把安全当作一套“内部工程流程”:研究团队先对单个模型做性能与安全评测,接着组织红队测试,尝试触发越权输出和偏见,再在部署前走完一轮内部合规审查,最后由企业自己在招股书、白皮书或产品说明中对风险“盖章背书”。长期以来,这种企业自评被包装成“专业”与“效率”的折中方案,既满足资本市场对AI“加速发展”的强烈诉求,又避免外部审查拖慢产品迭代,被视为推进创新的最小阻力路径。

李飞飞这次没有顺着这套共识说话。她明确点出了关键漏洞:企业内部研究人员对单个模型的评测,无论做得多细致,都不能替代由政府、行业和学术机构共同制定的通用性标准。换句话说,企业可以给自己的模型打分,但无权定义“合格线”本身。当一位长期被视作技术推动者、而不是监管派代表的学界人物,公开站到“减速派”一侧质疑自评模式,本质上是在撬动行业的信用结构——过去市场默认“企业自证安全即可继续加速”,而现在,这种默认开始失去说服力,未来谁来认定模型足够安全,已经不再是技术细节,而是监管权力如何重新分配的问题。

第三方监管登场:谁来给模型打公分

在李飞飞的设想里,给模型打分的人,将不再只是写模型的人。她点名“政府、行业及学术机构”应共同制定通用性安全与性能标准,意味着未来的评卷人至少有三类:拥有强制力、能把标准写进许可证和执法清单的公共部门;熟悉业务场景、代表行业共识的商协会与专业机构;以及掌握前沿技术、能把实验室测试转化为可操作指标的学术团队。它们不会替代企业内部评测,而是把内部评测从“自说自话”的参考,变成必须对齐的监管前置条件。对加密平台和互联网公司而言,谁来主导这套标准,不只是话语权之争,更是未来牌照、审计和合规成本的起点。

一旦评卷人换了,打分逻辑也会随之重写。企业自评的目标天然偏向“尽快上线、抢占市场”,风险偏好与商业利益高度捆绑,即便有安全团队,最终拍板人往往仍是业务线;第三方评估则要为系统性风险、公共安全和政策责任负责,其激励与问责对象是监管者和公众,而不是单一公司的营收曲线。在金融、审计等传统行业,这种权责结构差异早已通过强制性第三方审计和评级固化下来,互联网平台在内容安全、数据保护上也开始引入外部评估和合规咨询机构。沿着李飞飞的逻辑,如果AI模型的通用性标准由外部机构设定并不断更新,企业在安全评估上的自主裁量空间将被系统性压缩:新模型上线前需要通过标准化测试,风控团队要围绕外部指标重构流程,一旦出现偏见或风控失效,责任认定将更快指向“是否遵守通用标准”而非企业单方解释,对那些用AI做风控、反洗钱和自动决策的加密与互联网平台来说,真正需要说服的对象,将从市场与用户,转向掌握标准解释权的第三方评估者与监管机构。

从AI到链上:平台自律神话被监管重新改写

当李飞飞把矛头指向“企业自评”时,加密行业其实已经走过一遍类似的轨迹。早期无论是中心化交易平台还是链上应用,都是靠“我们自己管自己”的故事与监管周旋:自建风控团队、内部审查名单、黑箱风控模型,被包装成“比传统金融更安全”的卖点,换来了一段时间的宽松观察期。但随着风险事件累积,多国监管开始要求平台持牌经营、接受外部审计和合规检查,内部风控从主角变成了“基础配置”,真正决定平台生死的,变成了是否经得起第三方敲门、翻账和写报告。

AI 监管路径一旦在“第三方评估+通用标准”上成型,这套思路很难止步于模型本身。今天,加密平台和 DeFi 协议已经把 AI 模型嵌进风控、反洗钱、用户画像和交易决策之中,黑箱模型的风险不再是抽象的技术问题,而是直接牵动账户冻结、交易拒绝和清算顺序的合规问题。监管机构如果沿用传统金融和审计行业的做法,把“可外部审计”“可第三方复现”写进规则,那么算法交易引擎、链上风控逻辑、智能合约安全审查,很可能会被要求像财报一样接受独立验算。到那时,加密平台讲给市场听的自律叙事,将不得不重写成讲给监管和评估机构听的合规故事,而能否证明自己的模型可验证、可追责,可能成为平台继续运营的前置条件。

合规责任升级:AI公司与加密平台都要证明自己可靠

如果把李飞飞“不能只靠企业自评”的呼吁落成制度,第一批被抬上灯光的,其实是那些给金融机构和加密平台提供模型的AI公司。在传统受监管行业,引入关键技术组件时,机构本就要保存技术文档、审计记录和第三方评估报告以备抽查,一旦这一逻辑平移到AI场景,模型提供方就不再只是交付一段代码,而要随附完整的模型文档、训练与测试说明、可解释性材料,甚至预留给独立评估机构的审计接口,用来证明这套用在反洗钱、风控、用户评分上的算法,在偏见和安全性上经得起复盘。

另一端,引入AI服务的加密交易所、钱包和DeFi协议,则会被要求把“我们用了AI”这句市场话术,翻译成“这套模型来源清晰、评估过程可追踪、已经过外部验证”的合规陈述。特别是当AI模型被嵌入风控和推荐决策链路时,平台很可能要在合规档案中标注:模型由谁开发、如何测试、哪家独立机构出具了评估结论,并在接受检查时拿出对应记录。这不仅会重塑预算——从单一风控团队扩展出专门负责模型审查和对接第三方机构的岗位——也会改变组织结构:技术、法务和合规被迫围绕“向外证明可靠”这一目标重排工作流,谁能把这套证明机制跑通,谁才有资格继续在监管边界上谈“创新”。

减速论战未终局:监管路线与市场叙事仍在拉扯

减速派与加速派的争执,还远没到写下句号的时刻。据金色财经报道,9月23日李飞飞站出来反对“企业自评一切搞定”的想法,本身就是一个象征:主流学界不再满足于把安全托付给平台内部流程,而是开始公开为第三方标准和公共监管争取话语权。尽管目前尚没有与这番表态直接对应的法案条文和时间表,她的立场已经把监管路线的焦点,从“要不要减速”转向“谁来评估、按什么标准减速或加速”。在这个新框架下,未来路径更可能是“企业自评+独立机构评估+公共政策约束”的混合模式,而不是简单的刹车和油门二选一;安全、创新与竞争之间的平衡,很大概率将由第三方监管机构在制度设计和实际执行中共同刻画。对于正在把模型嵌入风控、反洗钱和自动决策的加密平台,以及尝试用模型驱动交易与用户服务的链上项目而言,这场争论已经不再是旁观话题:技术融合使得AI监管自然延伸到链上金融与平台治理,它会直接决定第三方认证市场如何成形、跨境标准如何协调,以及监管对算法透明度和模型责任的边界如何划线,谁能先读懂并适应这套新规则,谁才有机会在下一轮监管重构中保住自己的叙事权和生存空间。

加入我们的社区,一起来讨论,一起变得更强吧!
AiCoin专属Hyperliquid福利:https://app.hyperliquid.xyz/join/AICOIN88
AiCoin专属Aster福利:https://www.asterdex.com/zh-CN/referral/9C50e2
链上电报(Telegram)社群:https://t.me/AiCoinWhaleData
链上社区:https://www.aicoin.com/link/chat?cid=N6OVMor5g
AiCoin链上推特:https://x.com/aicoinwhaledata

免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接