李礼辉：把不太成熟的AI技术应用到金融领域或放大现有风险并产生新风险

中国银行原行长李礼辉  澎湃新闻记者 周頔 摄

“现在智能金融还处在早期阶段。”

12月17日，在以“数字经济与资产管理：大湾区新趋势与新动能”为主题的第二届明珠湾金融论坛上，中国银行原行长李礼辉如是说。他谈到，之所以认为智能金融尚处于早期阶段，主要的标志是现在的人工智能在金融业主要应用还是辅助和助理性质，集中在两个领域：一个是改进产品创新和客户服务，第二个是改进运营管理和风险管理。

人工智能迭代升级到底带来了哪些挑战？李礼辉做了四点分析：

第一是算力集中和算力竞争。这方面投入非常大，需要周期很长，一定会导致更大的算力集中，这个竞争以后主要是经济体的竞争，而且是科技巨头和资本巨头之间的竞争。中国和美国的差距这几年在缩小，但是现在美国采取技术封锁会不会扩大这种差距还要进一步观察。

第二是数据共享和数据治理。目前中国的数据共享模式还存在不足，影响数据价值的进一步挖掘。美国牵头组织西方国家对中国实行“小院高墙”技术封锁，现在主要是高端芯片和核心软件，未来会不会扩大到数据资源领域也要进一步关注。

第三是AI对齐与AI合成。所谓AI对齐，就是人工智能必须与人类价值观和根本利益保持一致，在地缘政治环境下，不同的主体之间的价值观并不完全一致，可能要关注的是在地缘政治环境中AI对齐可能会成为霸权国家的价值观输出的技术工具。AI合成是指用虚拟现实等生成式算法做图片、视频、音频等深度合成内容，需要重点关注深度合成可以模糊真实与虚拟的边界，可以用于诈骗，也可以用AI来操控。

第四是AI信任和AI安全。从金融领域来看，现在主要的问题是AI算法和模型仍然不够清晰和透明，有待解决技术方面的缺陷，比如说模型技术黑箱、模型学习局限、模型决定歧视、模型输出判决、模型算法趋同、模型服务冰冷、隐私保护薄弱、第三方依赖等等。如果把不太成熟的人工智能技术投入到高风险的金融领域，可能会放大现有风险，并产生新的风险。