6月18日，在2026论坛上，
董事长谷澍以《控制大模型应用风险的几点做法》为题，发表主旨演讲，聚焦金融业大模型规模化落地伴随的新型风险，结合农行实践，系统阐述了金融机构平衡AI创新与安全的实施路径，为金融业大模型风险治理提供了参考。
谷澍在发言中指出，AI作为科技创新的重要引擎，在银行的应用不断拓展深化，有效助力了金融高质量发展，但大模型的规模化应用也会带来新的风险挑战。如何把握好创新和安全的平衡，是影响大模型进一步深化应用的核心关键。
谷澍在发言中指出，当前，金融业大模型应用面临的主要风险之一是模型黑箱、模型幻觉、模型自主思考与决策带来的不确定性。
具体而言，一是海量参数带来的可解释性难题。当前主流大模型的参数规模已飙升至千亿甚至万亿级别，海量参数的矩阵运算和深层的非线性叠加，导致其决策机制和输出结果既不透明，也难以解释。这种黑箱效应导致无法判定决策是否安全合规，无法界定责任归属，存在一定的失控风险。
二是概率生成带来的准确性考验。大模型的底层逻辑是根据海量训练数据，统计词元（Token）间的规律，其本质是概率统计而非事实推导。这就导致大模型可能会在事实依据不足的情况下，编造出逻辑自洽的“幻觉”，似是而非的结果可能引发业务风险。
三是模型自主思考与决策带来的新型风险。随着大模型能力的不断进化和智能体的深度应用，系统已经突破传统软件“输入—输出”相对固化的范式，能够自主思考，可以自主规划与决策，在一定程度上可能放大过程不可控、结果不可知的风险。同时，大模型用于自动化网络攻击，带来的攻击效率和烈度前所未有，这些都会带来系统性、社会性的新型风险。
对此，谷澍表示，从大模型运行机理来看，模型风险是客观存在的。行业可以做的不是追求风险的绝对消除，而是既发挥其作用，又认识到其局限性，要建立与风险共生的治理体系。
近年来，农行积极构建有韧性的AI应用体系，在顶层设计、工具平台、风险防控等方面不断探索，形成了农行特色的智慧银行建设路径和平台支撑。
基于农行相关实践，谷澍就如何防范大模型应用风险，在发言中提出四方面建议。
一是分类施策推进场景适配。具体而言，是按照金融场景的风险等级和监管合规要求，建立模型黑箱分级管控机制，不同场景匹配差异化的技术路线与可解释性要求。对于信贷决策等强监管场景，采用模型蒸馏技术，让大模型在数据合成、归因分析和决策式模型生成等方面提供助力，将大模型能力迁移至更具可解释性的小模型；对于投研分析等高认知场景，强化思维链（CoT）设计，构建清晰的“思考推理”轨迹，增强决策过程的透明度；对于产品营销等创意类场景，构建灵活的上下文工程，充分激活模型的随机性来激发创新活力。
二是设定一定的标尺约束控制模型幻觉。找准大模型与业务流程的结合点，设置必要的参数标尺，同时强化人机互补的约束机制，切实压缩大模型“自由编造”空间。比如，农行应用AI赋能信贷调查报告智能生成，通过建立业务标尺、模型互检、模型反思、业务数据校准等方式，对模型生成的内容进行自动校验，确保“讲得准”；信贷方案、用信条件等关键内容审核则要由人类主导，确保“结果可控”。
三是以AI手段应对AI应用风险。AI大幅降低网络攻击门槛，传统安全格局面临根本性重塑，安全防御手段亟需升级。要“以AI对抗AI”，建立纵深防御体系，确保攻击可以早发现、快处置、能自愈，不断提升自动化、智能化的风险应对水平。要增强AI对抗能力，部署专门的安全监测模型，持续进行对抗训练，提升系统韧性。要建立全链路可信验证与准入机制，强化漏洞扫描和运行状态监测，确保供应链安全。要强化数据隐私保护，通过提示词注入防御、多租户会话隔离、输出内容拦截等措施，防范模型推理过程中的敏感数据泄露。
四是强化银行内部AI治理体系。AI治理分为宏观层面与企业层面，针对AI应用带来的风险，要健全“权责明晰与风险包容并重”的银行内部AI治理体系，确保AI既用得好、又管得好。要明确责任边界。持续完善覆盖需求提出、模型开发、上线运行、效果评估的全流程管理规范，明确业务、科技、风控等部门的责任边界，确保模型风险责任可追溯，杜绝“黑箱即免责”。要留足创新空间。建立分层的容错机制，坚持“先行先试、先内后外、先外围后核心”的渐进式策略，防止未经充分验证的AI能力直接面客。
此外，谷澍还特别提示，智能体范式的推广对工具接口的调用会进一步放大模型风险，将“信息幻觉”推向“行为失控”。因此，金融业始终要把安全可靠作为智能体运行的关键前提，通过分层透明、人机协同、有效治理等多重机制，构建“敏捷、可信、安全”的智能体生态，赋能金融服务行稳致远。
