专家大咖共聚深圳，热议金融科技伦理治理

南方财经全媒体见习记者 黄子潇 深圳报道

“没有底线的金融走不远，没有约束的科技很危险。”深圳市地方金融监督管理局局长何杰在谈及金融科技时说。

近年来，人工智能、大语言模型已成为金融科技的前沿热点。它们在重塑传统金融服务模式的同时，也衍生出复杂的伦理问题和潜在风险。

11月29日，2023深圳国际金融科技节正式拉开帷幕。同日下午，金融科技伦理及治理分论坛在深圳举行，高校学者、业界专家齐聚一堂，深入探讨大语言模型背景下金融科技伦理和治理机制建设的挑战和对策，助力深圳金融科技伦理建设水平进一步提升。

深圳市地方金融监督管理局局长何杰出席并发表致辞。他表示，在金融体系能力的建设上，深圳开展了系列创新探索。在2020年底，深圳市金融科技伦理委员会率先成立，是全国首个该领域的专业组织，充分体现了深圳的前瞻思考和人文关怀。同时，深圳也率先发布了深圳市金融科技伦理宣言，通过9条倡议，呼吁每家企业、每位从业者共同维护金融科技伦理。他强调，金融业要实现高质量发展，必须深入践行金融向善的理念，秉持金融为本、科技为器的原则，将守正创新、包容普惠、公平竞争、绿色低碳等各项原则贯穿始终。

大连理工大学人文学院院长李伦以《大模型与人工智能伦理治理国际比较与原则探讨》为题进行分享。他指出，目前各国面临的核心问题就是科技创新与伦理治理的平衡问题，不同国家在治理、创新、平衡上的侧重点不一致，因此产生了两个流派：有效的利他主义和有效的加速主义。有效的加速主义崇尚技术创新的价值，主张人类应无条件地加速技术创新，利他主义则主张为社会提供福利。两派在人工智能治理的基本原则上存在分歧，根据技术领域采取不同的立场，一般包括先行原则、预禁原则和慎行原则。

中国社科院科学技术和社会研究中心主任、复旦大学教授段伟文以《大模型的伦理思考》进行了哲学角度的分享。他表示，与其将大模型称之为强人工智能，不如说是一种能涌现出强大功能的思维技术。而大模型要平稳发展和为社会所接受，关键在人机对齐工程，即人工标注和人类强化的知识。他举例，人机对齐工程就相当于航天工程的可靠性工程，建筑工程里面的安全工程。他进一步指出了大模型治理的要点，包括研发者的主体责任更加凸显，高度重视数据安全和机密、敏感数据的保护，警惕人工智能网络钓鱼和数据投毒，加强对人工智能合成数据的研究，以及超越图灵陷阱。

腾讯研究院“大模型信任研究”课题负责人胡晓萌以《大模型的金融应用及其伦理挑战》为题进行实践角度的分享。他表示，金融行业有一定的准入门槛，需要满足合规、牌照和资质等方面的要求。腾讯研究院有一个基本判断，大模型不可能完全颠覆金融行业传统的范式。换句话说，大模型可以提升生产力，但无法改变生产关系。他表示，行业内的实践更偏向于用技术创新去解决技术应用带来的问题。比如在提高准确性，解决幻觉问题上，采用大模型、知识图谱技术融合的模式为行业主流，因为知识图谱在可解释性、准确性、可信性、可溯源性上相较于大模型有天然的优势。

香港中文大学（深圳）高等金融研究院政策研究员本力以《情感经济：人工智能时代的新趋势》为题发表演讲。他提到，《人工智能伦理》一书中有一句话，“人类在造出强AI之后，便完成了文明的使命”，但马库斯的结论是人类有一个内部的世界模型，人工智能和人类的区别在于人类能够理解环境。他指出，人工智能的发展经历了经济的三个发展阶段：体力经济、思维经济、情感经济。随着思维人工智能承担了更多的思考性任务，人类在思考能力的优势上可能是此消彼长，而更加注重情感和感受。在情感经济时代，“软服务”会逐渐占据主导地位。高接触行业需要密集的社会交往、情感互动和人际沟通，因此，人类需要更多培养工作和生活中的软技能。

暨南大学管理学院教授朱滔《金融科技伦理规制与风险防范》进行主旨演讲。他对人工智能伦理问题进行了三个层面的梳理，包括科技层面的安全、隐私、人类尊严；社会层面的公平正义、透明度、工作替代人，人际关系的消亡；环境层面的能源消耗、环境污染等。在AI治理框架上，他对内生性问题和外源性问题进行了拆分，与隐私、透明度、可解释性相关的数据、算法、算力，是内生伦理问题；工作替代、信息不公平、人际关系消亡、应用于金融市场导致的金融不稳定等，是外源伦理问题。他指出，在搭建AI治理能力框架时，应该从AI核心要素、AI应用过程、利益相关者三个维度进行。

深圳海云安网络安全技术有限公司董事长谢朝海作为科技企业代表，以《金融科技安全与大模型代码检测平台的思考与实践》进行演讲。他指出，金融科技伦理失范会带来新的安全挑战。受功利性的导向和影响，金融科技的产品通常存在诱导性。他表示，数据安全和隐私面临6大风险：隐私违规收集、数据安全漏洞、数据处理不当、跨境数据传输、共享不当、产品缺乏透明度和公开性。针对这些挑战和风险，海云安进行了多标融合、安全左移和右拓运营的实践与思考。

蚂蚁集团智能投研技术总监龚仁吉(佐非) 进行了《AI重塑金融产业全链路》的主题演讲。他表示，大模型的产研落地，并非开箱即用，而是复杂的系统工程。首先，大模型有领域知识的短板，凭借海量的知识量，虽具备丰富的基础知识，但对金融知识的理解和运用不达标，对私域知识的理解未及预期；在复杂性的问题上，金融大模型在对话、问答方面表现得很好，但在量化分析、组合分析、组合优化上的表现并不好。可靠性方面，大模型天生具有幻觉问题，金融的严谨性相悖。他表示，蚂蚁通过大模型的显性知识和知识图谱专业知识相结合解决相关问题。同时，检索增强也是很好的技术方案。

更多内容请下载21财经APP