美国货币监理署 今天发布了其首个银行业人工智能监管框架，告诫检查人员关注AI系统出错时发生的情况，而非其功能有多强大。

OCC的框架确实解决了这个问题，尽管监管机构并没有将其发布与具体事件关联。

在一个涵盖运营弹性的部分，该机构警告称，由客户、金融科技公司或其他企业运营的外部代理可能会为银行创造风险，即使银行不控制这些系统。



它建议检查人员考虑身份验证、授权权限、交易限制、监控以及暂停或撤销访问权限等措施。

这些指南旨在解决如何让客户使用AI助手管理其财务，同时不让自主软件无限制地访问银行账户所面临的困境。

新的OCC指导在不到两周的时间内出台，报道称，主要银行发现未经授权的第三方AI代理在客户账户内操作，有时采取的行动似乎超出了用户的指令。

摩根士丹利正在阻止外部代理，而摩根大通、美国银行和花旗则在限制访问，根据10月22日Axios的报道，银行高管形容该情况为“令人恐惧”，提出了关于一旦自主代理获得接入某人资金的控制权是谁的问题。

移动资金的AI比写邮件的更具风险

OCC的框架区分了AI系统的技术复杂性与其可能造成的损害。

监管机构表示，被授权发起金融交易的简单代理可能比被限制于撰写内部文件的更先进模型风险更大。

在22页的框架下，检查人员可以考虑失败的后果，是否可以撤销操作，以及人类对系统保持多少控制。

该机构概述了四个示例风险等级。完全自主的支付代理和实时信用决策系统属于最高类别，而基本的内部生产力工具则占据最低类别。

高风险系统可能需要更加严格的自主权限制、独立测试和在重要行动进行前的人工批准。

该框架还涉及在做出有害决策时仍继续操作的AI系统。建议的保障措施包括断路器、速率限制、受限权限和紧急关闭控制。

这些考虑尤其适用于Axios早前报道中描述的外部代理，银行在区分合法的客户授权软件与超出其预定权限操作的系统时遇到困难。

指导，而不是新的银行规则

OCC强调，该文件并不制定新的监管要求或对银行的可执行标准。

相反，它为检查人员提供了一种评估AI的方法，符合现有的操作、合规和网络安全风险类别。银行不需要建立单独的AI风险类别。

该文件使用了强制性术语“超级智能”，该术语是特朗普政府坚持使用的，取代“人工智能”，但其范围包括常规AI和“自主代理”，而不只是具有超出人类能力的智能的假设系统。

该框架涵盖了用于支付、欺诈检测、客户服务和其他银行操作的AI。它还将风险考虑的范围扩展到通过银行渠道连接的外部AI代理。

OCC表示，它打算在技术发展时更新指导。目前，其示例风险等级将自主支付代理列入最高风险类别，无论其在测试中的表现如何。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到[email protected]，本平台相关工作人员将会进行核查。