蚂蚁集团三项可信AI方案入选信通院标杆案例，聚焦AI可信性挑战

蚂蚁集团的三项可信AI方案脱颖而出，成功入选信通院标杆案例，聚焦AI可信性挑战。这三项方案分别是“蚂蚁可解释机器学习平台FinINTP”、“蚂蚁可解释AI的安全风控实践”以及“蚂蚁AI安全检测平台”。

因为AI在重要决策中的广泛应用，其“黑盒”式的思考模式已不再适用。蚂蚁集团自主研发的“蚂蚁可解释机器学习平台FinINTP”，通过结合规则学习、机器学习等技术，不仅实现了智能风控等多种场景的可解释模型和规则建设，还开发了多种基于扰动的可解释器和基于梯度的事后解释器，提前感知批量异常风险要素。

图：蚂蚁集团三案例入选中国信通院“2022可信人工智能实践案例”标杆案例

清华大学副教授李琦指出，人工智能可信问题备受关注，AI可解释性是实现可信AI的关键技术。只是，目前行业探索多停留在理论层面，缺少通用的可解释框架。蚂蚁集团在可信AI技术领域的创新应用，为可信人工智能技术的发展提供了新的思路。

蚂蚁集团基于可解释AI的安全风控实践，沉淀了一套可解释AI系统。该系统采用基于特征、基于模型到基于逻辑的分布式可解释框架，将百万量级预测样本的可解释计算速度提高100倍以上；同时，通过人工经验和机器学习交互结合的方法，确保AI决策结果的天然可解释。目前，这套系统已在蚂蚁智能风控、投诉审理，反洗钱等场景应用。

面对复杂多变的数据环境，如何提高AI的鲁棒性，即抗攻击对抗能力及稳定性，成为可信人工智能的重要议题。蚂蚁集团此次入选标杆案例的“蚂蚁AI安全检测平台”，是业内首个面向工业场景全数据类型的AI安全检测平台。该平台可自动化评估不同数据和攻击类型的AI安全风险，并提供安全性增强方案，将于9月免费对外开放鲁棒性测评，并将持续增加可解释性、算法公平性、隐私保护的检测能力。

据悉，蚂蚁集团自2015年起投入可信AI技术研究，2016年全面启动人工智能风控防御战略，目前已在反欺诈、反洗钱、反盗用、企业联合风控、数据隐私保护等多个场景落地，形成了新一代智能风控体系“IMAGE”，支撑全风险域的防控。

近年来，安全和可信性已成为制约下一阶段人工智能技术发展的瓶颈所在。早在2017年，国务院《新一代人工智能发展规划》中，就重点提及人工智能的安全可信性。今年5月起，中国信通院面向全社会征集2022年可信人工智能实践案例，最终选出35项优秀案例、13项标杆案例，为行业开展可信AI应用工作提供了示范指引。

FinINTP：智能风控的可解释利器

安全风控：AI与人工的智慧结晶

AI安全检测：筑牢数字防线

可信AI：蚂蚁集团的未来布局

标杆案例：引领行业可信AI发展