Banking risk, FRTB, actuarial science and compliance
人工智能时代的风险治理
人工智能改变了决策的速度和规模，但并不会消除问责。有效治理应从明确系统支持什么决策、需要什么证据以及错误会造成什么后果开始。
从决策本身开始
用于总结内部文件的模型，与用于定价、客户准入、制裁筛查或资本配置的系统，并不具有相同的风险。使用场景应根据客户影响、财务重要性、自动化程度、数据敏感性和决策可逆性进行分类。
建立可追溯的证据链
每个重要系统都需要从数据和假设，到输出、复核和最终决策的完整证据链。验证应评估准确性、稳定性、局限性、偏差、安全性以及在现实压力情景下的表现。只有当复核人员具备专业能力、足够时间、原始证据和拒绝系统结论的权限时，人工监督才真正有效。
持续监测结果
批准并不是治理的终点。机构应持续监测模型表现、人工推翻、事件、数据漂移和客户结果。模型、供应商、数据或流程发生重大变化时，应重新评估。当表现不可接受时，还必须具备安全的备用方案。
长期有效的原则很简单：在有价值的地方实现自动化，同时让证据、质疑和问责始终伴随每一项重大决策。