蚂蚁集团首度公开“可信AI”架构体系 包括数据隐私保护、公平性等四方面

6月11日消息,日前,在“2021全球人工智能技术大会”上,蚂蚁集团首席AI科学家漆远首次提出了“可信AI”的技术架构体系,并分享了蚂蚁集团基于该技术架构体系研发落地的多项应用成果。

漆远表示,AI是数字经济的源动力,确保AI的安全性和公平性是行业共性课题。围绕“可信AI”这一技术命题,他提出了包含“数据隐私保护”、“鲁棒性”、“可解释性与因果分析”和“公平性”四个方面的技术架构体系。

在“数据隐私保护”方面,传统的数据保护方法客观上形成了“数据孤岛”,影响了如医疗、金融等领域的协同作战,也制约AI技术以及行业发展。因此,拓展数据价值的隐私计算技术,对实现“数据不动价值动”显得尤为重要。

漆远透露,截至今年3月,蚂蚁集团隐私技术专利申请数量以740个位居全球第一,落地实践成果丰富。比如营销反作弊场景下,帮助超过1万家合作伙伴识别薅羊毛风险,节省营销资金超300亿。

在提高模型“鲁棒性”(Robustness)方面,为了应对黑产攻击、并使得模型能适应复杂多变的数据环境,还需要引入博弈论思想生成攻击手段,并进行智能防御,通过左右手互搏,加强抗打击能力。据悉,蚂蚁集团正在风险交易识别、黑灰账户身份识别等风控场景持续打磨这项能力。

关于“可解释性与因果分析”,漆远解释,AI模型不能是黑盒。“人类希望知道模型背后的逻辑、收获新的知识,并在它出现问题时踩好刹车,确保AI合规合法。”他认为,这背后需要数据驱动与模型推理能力结合起来,产生可解释的结果。目前,蚂蚁集团已经将这项能力在智能风控、投诉审理,反洗钱等领域广泛应用。

另外,漆远透露,蚂蚁集团已完成了“空中手势”验证码识别方案的研发,帮助视障人群通过“滑动验证码”关卡,该方案将免费开放给更多企业。

(免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。 )