1月8日消息，在智源研究院举办的AI十大趋势发布会上，蚂蚁集团科技战略与执行部副总经理彭晋就AI安全做了分享，他表示，作为复杂系统，大模型的Scaling带来了涌现，但复杂系统特有的涌现结果不可预测、循环反馈等特有属性也对传统工程的安全防护机制带来了挑战，风险因素在数据、算法、应用层面均会出现。他认为，模型能力提升与风险预防并重，AI安全治理体系持续完善。