可信机器学习综述
陈彩华
佘程熙
王庆阳
南京大学 工程管理学院,江苏 南京 210008
摘要：机器学习技术不断发展,在许多领域都有广泛的应用并展现出超出人类本身的能力.但机器学习方法利用不当或决策存在偏差,反而会损害人们的利益,特别是在一些敏感安全需求高的领域,如金融、医疗等,人们越来越重视机器学习的可信研究.目前,机器学习技术普遍存在一些缺点,如对代表性不足的群体存在偏见、缺乏用户隐私保护、缺乏模型可解释性、容易受到威胁攻击等.这些缺点降低了人们对机器学习方法的信任.尽管研究者已针对这些不足进行了深入探索,但缺乏一个整体的框架与方法系统地提供机器学习的可信分析.因此本文针对机器学习的公平性、可解释性、鲁棒性与隐私 4个要素归纳总结了现阶段主流的定义、指标、方法与评估,然后讨论了各要素之间的关系,并结合机器学习全生命周期构建了一个可信机器学习框架.最后,给出了一些目前可信机器学习领域亟待解决的问题与面临的挑战.
关键词：可信机器学习公平性可解释性鲁棒性隐私
分类号：F407.67(工业经济理论)TP181(自动化基础理论)
资助基金：国家自然科学基金(12122107)
论文发表日期：2024-04-28
在线出版日期：2025-08-15（本平台首次上网日期，不代表文献的发表时间）
页数：13( 14-26 )
英文信息