（原标题：大模型时代的金融科技伦理治理：创新背后的风险与隐忧）真实股票十倍杠杆

21世纪经济报道记者李览青 上海报道

自上个世纪50年代人工智能首次被提出，围绕着人机关系、技术伦理、风险治理的讨论就从未停止。2022年以来，ChatGPT横空出世，生成式人工智能浪潮席卷全球，在技术进步的同时，如何确保其在伦理与社会责任方面的平衡发展，成为大模型时代的重要议题。

作为科技应用最前沿的行业，金融行业已全面探索生成式AI的落地应用。然而，人工智能存在的“幻觉”问题、隐私泄露风险、算法与模型偏见等等问题，都在制约着行业应用发展。

“生成式人工智能是一个颠覆性的科技创新，一方面是高度创新的，另一方面也是高度不确定的，因此对生成式AI的伦理治理与法律规制本身是一种探索。”

在浙江数字金融科技联合会金融科技伦理（专业）委员会今年的首场研讨会上，中国社科院科学技术和社会研究中心主任、浙江金融科技伦理（专业）委员会委员段伟文表示，大模型的治理工作不可避免地存在滞后性，需要以适应性治理的思路应对。

多方挑战待解

“目前银行对人工智能的实践应用还处于非常初级的阶段。”上海金融与发展实验室主任曾刚指出，从金融大模型的监管侧来看，大模型的运作难以实现目前要求的“可解释性”。

21世纪经济报道记者注意到，在多家上市银行发布的2023年财报中，围绕业务侧的智能化趋势，将大模型应用于智能客服、智能营销、投研报告、智慧办公、智能运营等领域，但在核心业务场景仍尚未开展相关应用。

在蚂蚁集团研究院院长李振华看来，大模型在金融领域的落地依然有技术和体制机制上的卡点堵点需要突破，例如数据采集训练的安全性、大模型训练和应用成本较高、大模型稳定性与安全性需要保障等等。“金融账户往往涉及高价值的资产，对安全性的要求极高。而目前的AI大模型还可能存在‘答非所问’‘生成虚假信息’等缺陷，也面临受到对抗性攻击、数据篡改等风险。因此，构建完善的安全保障机制是大模型应用于金融领域的关键。”李振华表示。

在诸多挑战中，生成式AI的虚假信息问题被参会专家多次提及。

浙江大学金融科技研究院执行副院长张瑞东指出，导致大模型生成虚假信息的原因主要有4个，第一是本身大模型的数据源存在污染，“AI模型使用大量互联网数据，却无法很好地辨别信息真实性与可信度，面对一堆快速生成的低质量内容，不可避免地造成数据污染。”张瑞东提到的第二个原因是AI模型的迭代问题，如果大模型使用虚假数据训练，可能会导致模型出现不可逆的缺陷，特别是受到污染的大模型继续生成低质量数据，将进一步导致模型对现实的认知产生扭曲，未来通过抓取互联网数据来训练模型将变得更加困难。此外，还存在多模型整合及综合使用产生的虚假信息叠加问题、有限数据空间问题等等。

段伟文认为，由于大模型本身是思维技术在大规模算力与数据支撑下的能力涌现，运用了人机对齐工程，将人类的价值观通过人工标注嵌入模型，因此伦理问题不可避免。

“谈到大模型，我个人认为与其叫作生成式人工智能，不如叫作合成智能。”段伟文表示，合成智能主要包括两组数据，一类是符号性数据，另一类是行为数据与特征数据，金融科技角度的“大数据”主要是针对后者。他指出，正如在互联网出现后，现实空间之上叠加了数据空间，生成式人工智能出现后，在前面两个空间的基础上又叠加了“生成的空间”。“我认为在这个生成空间的意义上，不能简单讨论数据的真实客观，它的固有特征决定了模型‘犯错’是很正常的，重要的是怎样让模型少出错，或者在出错的背景下讨论怎样补偿。”

专家呼吁适应性治理

近年来，针对大模型带来的AI浪潮，监管侧对金融科技伦理的治理进程也在加速。

从2019年国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》，到2022年3月国务院印发《关于加强科技伦理治理的意见》，同年10月央行下发《金融领域科技伦理指引》，再到2023年7月国家网信办联合有关部门公布《生成式人工智能服务管理暂行办法》，都从不同角度对金融科技伦理治理工作予以指导。

华东师范大学长三角金融科技研究院院长陈琦伟表示，伦理问题的重要性在于，它是金融科技的“道”，唯有透过金融科技的“术”来观瞻其背后的哲理，才能在真正意义上提高现行金融机构工作效率，有利于解决“科技为何而进步”的方向性问题。

段伟文认为，金融领域大模型的伦理治理思路主要有三点。首先，对伦理的治理与法律规制应当是探索性的，需要自上而下有一套明确的规范、可衡量的标准，不让规范落空。其次，协同治理是非常困难的系统工程，在相关规则出台后需要有个试验期，通过各方反馈来衡量规范是否具有合理性。最后，段伟文指出，基于“相称性原则”，要为新兴科技留下试错的空间，考虑到适应性治理的思路，将所有利益相关者都考虑在内，不仅是局限于负面清单，而是要加强相关补救措施。“当船在大海航行时，不仅是给一个地图，告诉它哪里不能去，还要告诉它遇到风浪时应该怎么办，有时我们要提供一些救生设备，有时我们要引导船往哪儿开。”

作为浙江数字金融科技联合会会长，贲圣林表示，强调推动金融科技行业的伦理与责任是每个金融界人士的共同使命，他提及真实股票十倍杠杆，自己所担任院长的浙大国际联合商学院和北京前沿金融监管科技研究院一直致力于在金融科技领域的研究探索，积极推动人工智能技术负责任应用，力求在技术进步的同时，确保其在伦理和社会责任方面的平衡与发展。