金融机构开始使用AI：真正的风险，不只是一句错误答案

这次测试有甚么不同

2026年8月27日，金管局、证监会、保险业监管局及积金局，联同数码港公布GenA.I. Sandbox++首批名单。监管机构从接近100份提案中选出36个用例，涉及30家金融机构及27家科技伙伴。

测试重点是「代理式人工智能」。一般聊天机械人只会根据问题提供答案；代理式AI则可以把一项工作分成多个步骤，查阅资料、使用系统工具，甚至推动下一个流程。

首批用例包括客户开户、付款、保险索偿及客户互动，也包括用一套AI监察另一套AI。技术测试预计于2026年稍后展开。

为甚么金融AI特别需要限制

如果AI只用来整理会议纪录，错误通常可以在发送前更正。但当AI可以修改客户纪录、启动付款或处理索偿，错误的后果便完全不同。

问题可能不是一句答案写错，而是系统用了过时资料、读取了未获授权的客户资料、跳过了审批，或把错误结果传到下一个系统。一次技术错误，可能同时成为私隐、合规、营运和客户责任问题。

六件事必须在上线前说清楚

一套金融AI至少要有清楚的答案：谁批准它使用；它可以读取哪些资料；哪些操作必须由人确认；输出由谁抽查；发生事故后能否重建完整过程；需要时能否立即停用并转回人工处理。

金管局的原则要求银行董事会及高级管理层对AI结果负责，并关注资料质素、模型验证、可解释性、审计纪录、供应商管理及应变安排。证监会亦把投资建议、投资意见及投资研究列为生成式AI的高风险用途，原因是错误内容可能误导客户。

使用外部AI公司也不代表责任已经外判。金融机构仍要知道资料传到哪里、模型何时更新、服务中断时怎样处理，以及供应商更换技术后是否需要重新测试。

沙盒不是监管批准

Sandbox++是受控测试环境，不是牌照，也不代表参与机构的产品已获准全面推出。它的作用，是在真正接触大量客户或重要交易前，找出资料、权限、监察及责任安排的漏洞。

因此，试验是否成功不能只看节省了多少时间。更重要的是：错误能否被及时发现、影响能否被限制，以及员工是否知道甚么情况下必须停止使用AI。

G70想进一步了解的问题

如果AI协助处理家族资料、跨境文件、保险索偿或付款，哪一个错误最难补救？目前是否保留了完整的人工覆核和操作纪录？供应商更换模型后，谁负责再次验证？

金融机构未来的差距，不只在于使用哪一个模型，也在于能否清楚限制AI可以看甚么、做甚么，以及由谁承担最后责任。

重要说明

本文只供一般资讯及教育用途，不构成法律、监管、投资或资讯安全建议。文中监管要求的适用范围视乎机构牌照、业务及具体用例而定。