严禁滥用人工智能技术生成虚假信息、操纵市场费用 ,金融监管总局发布指导意见

  炒股就看金麒麟分析师研报 ,权威 ,专业,及时,全面 ,助您挖掘潜力主题机会!

严禁滥用人工智能技术生成虚假信息	、操纵市场费用
,金融监管总局发布指导意见-第1张图片

  6月18日,国家金融监督管理总局网站消息 ,金融监管总局近日发布《关于银行业保险业人工智能安全开发应用的指导意见》。

  《指导意见》从治理架构 、开发应用、数据治理、算力建设 、风险管理、能力提升、保障与监督等方面提出了32项指导性意见 。强调金融机构要健全风险治理体系 。有效应对金融业务侧可能产生的投资策略趋同 、放大市场波动风险,严禁滥用人工智能技术生成虚假信息、操纵市场费用 。

  要 点 速 览

  推动人工智能在服务实体经济、加强金融风险管理等领域发挥积极作用,穿透管控关联交易 、资金运用等重点领域风险问题

  鼓励有条件的金融机构建立一站式人工智能开发平台 ,实现模型开发部署全流程管理

  鼓励有条件的大型金融机构向中小金融机构输出算力服务,支持同业探索基础设施共建共享

  推动模型算法、数据资源、基础设施 、应用系统等安全能力建设,完善业务及风险管理流程 ,防范模型生成结果不可靠风险

  有序推进人工智能科技创新

  与金融业务深度融合

  “当前,我国金融行业不断加大人工智能技术资源投入,加快人工智能应用场景落地 ,已形成一定的应用实践基础。”国家金融监督管理总局有关司局负责人表示 ,国家金融监督管理总局密切跟踪人工智能发展动态,深入调研行业人工智能应用的现状、问题与挑战,在此基础上 ,研究制定了《指导意见》 。目的是规范银行业保险业金融机构对人工智能的开发应用,有效防控人工智能技术应用可能带来的风险,推动数字金融高质量发展 ,有序推进人工智能科技创新与金融业务深度融合,引导金融领域人工智能应用朝着有益、安全 、公平方向健康有序发展。

  《指导意见》从治理架构 、开发应用、数据治理、算力建设 、风险管理、能力提升、保障与监督等方面提出了多项指导性意见。

  一是完善人工智能治理架构 。要求金融机构加强顶层设计和统筹管理,建立健全人工智能全生命周期管理体系 ,加强应用场景和业务流程管理。

  二是推进高水平人工智能开发应用。要求金融机构完善开发与测评体系,实现模型开发部署全流程管理,稳妥探索人工智能技术研发和金融智能体建设 ,促进行业应用生态建设 。

  三是提升数据治理能力。要求完善数据管理运营体系,提升数据服务能力,针对业务场景持续推进高质量数据集和知识工程建设。

  四是加强智能算力建设 。按需布局建设自主可控 、安全高效的智能算力底座 ,鼓励有条件的大型金融机构向中小金融机构输出算力服务 ,支持同业探索基础设施共建共享。

  五是完善人工智能风险治理框架。要求金融机构将人工智能风险纳入全面风险管理体系,实施风险分类分级管理和高风险应用准入管理,在高风险应用关键环节要建立人工监督和干预机制 ,加强外包和供应链风险管理 。

  六是提升人工智能安全开发应用能力 。持续增强人工智能模型稳健性,提高透明度,促进可解释性 ,确保人工智能应用符合法律法规及社会价值观要求,加强网络安全、数据安全与个人信息保护,加强运营韧性和业务连续性管理。

  七是保障与监督。明确金融监管总局及各级派出机构加强指导和监督 ,督促金融机构全面落实风险治理要求,关注金融业务合规风险,严肃查处违规行为 。加强风险应对处置 ,定期评估监管政策和监管效果,持续提高监管适配能力。

  加强供应链风险与开源技术管理

  谈及《指导意见》对金融机构在完善人工智能治理方面提出的要求时,国家金融监督管理总局有关司局负责人表示 ,首先是加强顶层设计与治理体系建设。董(理)事会指定专门委员会对人工智能开发应用管理负责 ,强化战略引领,统筹制定发展规划 。完善模型研发、数据治理 、安全运行、外包管理等方面的基本制度规范,组建跨业务、科技 、数据职能的协同机制 ,培养具备人工智能素养与业务能力的复合型人才队伍,确保人工智能应用与机构自身风险管理能力相匹配。

  其次是建立人工智能全生命周期管理体系,覆盖需求分析、数据准备、训练开发 、部署运行 、维护迭代、评估退出等阶段。规范模型研发、应用及资产管理 ,加强安全评估 、伦理审查、责任追溯机制建设 。对人工智能应用进行分级分类管理,并实施针对性的差异化管控措施。

  最后是加强应用场景和流程管理,按照技术适配原则 ,将适合的技术用于适当的场景,在服务实体经济、金融风险防控等领域充分释放人工智能技术的赋能价值。完善人机协同的业务管理流程,科学设定人工智能的功能边界 、系统和数据权限 ,明确人员岗位责任,确保业务全流程管理责任清晰、可落实、可追溯 。

  值得注意的是,《指导意见》强调 ,完善人工智能风险治理框架。健全风险治理体系。金融机构应将人工智能风险纳入全面风险管理体系 ,定期开展对人工智能应用风险及管理措施的评估审查 。推动模型算法 、数据资源、基础设施、应用系统等安全能力建设,完善业务及风险管理流程,防范模型生成结果不可靠风险 ,防止模型黑箱导致关键业务流程难落责问题 。夯实数据安全 、网络安全、个人信息与隐私保护和业务连续性基础。有效应对金融业务侧可能产生的投资策略趋同、放大市场波动风险,严禁滥用人工智能技术生成虚假信息 、操纵市场费用 。

  实施风险分类分级管理 。金融机构应根据业务场景重要性 、应用规模、对客影响度、模型依赖度 、模型复杂度等因素,对人工智能应用进行风险识别和分类分级管理。建立管理制度 ,制定应用清单,实施分级管控措施,落实管理责任。

  加强供应链风险与开源技术管理 。金融机构要建立对人工智能算力、模型、数据 、技术工具等的供应链安全合规管理机制 ,确保应用自主可控,防范对个别技术服务过度依赖引发的集中度风险。完善开源技术使用规范,建立开源软件管理台账 ,对外部引入的开源组件应进行审查评估,加强代码审计、漏洞扫描及安全测试,定期排查开源组件风险隐患 ,防范供应链投毒。

文章推荐

  • 新疆新增4例无症状感染者(新疆新增4例无症状感染者是哪里的)

      炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!  6月18日,国家金融监督管理总局网站消息,金融监管总局近日发布《关于银行业保险业人工智能安全开发应用的指导意见》。  《指导意见》从治理架构、开发应用、数据治理、算力...

    2026年06月19日
    1
  • 北京已有5个高风险地区(北京几个高风险区)

      炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!  6月18日,国家金融监督管理总局网站消息,金融监管总局近日发布《关于银行业保险业人工智能安全开发应用的指导意见》。  《指导意见》从治理架构、开发应用、数据治理、算力...

    2026年06月19日
    0
  • 【黑龙江新增本土确诊病例10例,黑龙江新增5例本土病例轨迹】

      炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!  6月18日,国家金融监督管理总局网站消息,金融监管总局近日发布《关于银行业保险业人工智能安全开发应用的指导意见》。  《指导意见》从治理架构、开发应用、数据治理、算力...

    2026年06月19日
    4
  • 严禁滥用人工智能技术生成虚假信息、操纵市场费用 ,金融监管总局发布指导意见

      炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!  6月18日,国家金融监督管理总局网站消息,金融监管总局近日发布《关于银行业保险业人工智能安全开发应用的指导意见》。  《指导意见》从治理架构、开发应用、数据治理、算力...

    2026年06月19日
    5