第二届“AI诺奖”出炉，百万美元颁给批判黑箱、推广可解释AI的她

　　梦晨发自凹非寺

　　量子位报道公众号 QbitAI

　　世界上最大人工智能协会 AAAI 颁发的第二届“AI 诺贝尔奖”正式出炉！

　　由杜克大学计算机科学教授Cynthia Rudin获奖，同时领走百万美元奖金。

　　获奖原因不是她开发了性能超强的算法，而是她致力于在医疗、法律等敏感领域推广透明可解释的 AI 模型。

　　△Cynthia Rudin

　　Rudin 刚开始发表论文时，“数据科学”和“可解释机器学习”这两个术语还不存在，她的研究也没有恰当的分类，连审稿人和编辑都不知道该如何处理。

　　她发现一篇论文如果没有证明定理或提出更精准的算法就很难发表，不过她还是在可解释 AI 领域坚持了15 年。

　　AAAI 的评委会主席 Yolanda Gil 称：

以往只有诺贝尔奖和图灵奖这种世界知名荣誉，才能获得百万美元级别的奖金。

　　Rundin 教授在解决争议性问题上的勇气，凸显了人工智能在社会责任和道德方面的重要性。

　　她推广和开发可解释 AI

　　当许多机器学习领域的学者致力于改进算法时，Rudin 更关注如何用 AI 服务社会。

　　她的 AI 模型第一次应用是在2007 年，和纽约的能源公司合作检测供电系统中因损坏和超负荷造成的隐患。

　　这个过程中她发现，她可以在代码中不停地增加了新发表论文中的花哨技巧，却很难做出有意义的性能提升。

　　反而是从经典统计学方法中获得了更多的准确性。

　　Rundin 意识到，如果人能够理解 AI 模型在计算过程中使用了哪些信息，就可以找电力公司的工程师去询问到有用的反馈，再去改善整个过程。

　　也就是说，更有助于提高预测的准确性的是可解释性，而不是更高级或规模更大的机器学习模型。

　　接下来的十多年间，她开发了可解释的机器学习技术，并在现实世界中推广应用。

　　她和医院合作开发了一个系统，可以预测哪些病人在中风或其他脑损伤后最有可能发生破坏性癫痫，让医院可以同时监测三倍于以前数量的病人。

　　在 MIT 任教期间还和波士顿的警察局合作开发了一个模型，帮助发现犯罪行为之间的共性，检测是否可能属于同一个人的系列犯罪。

　　Rudin 教授强烈批判在刑事司法、医疗诊断等领域使用“黑箱”模型可能造成的不公平现象，

　　在分类一张照片是猫还是狗这种浅层应用中，AI 到底依据什么做出判断似乎无关紧要。

　　但在可能改变人们生活和命运的高风险领域，准确、公正和无偏见就至关重要。

　　她引用最高的一篇论文是呼吁在高风险领域使用可解释的模型，并阐述了Interpretable和Explainable两种可解释性的区别。

　　寻找数据特征像解谜游戏

　　Rudin 出生于 1976 年，她的学术经历也非常丰富。

　　本科就读于纽约州立水牛城大学，拿了数学物理(Mathematical Physics)和音乐理论双学位。

　　博士毕业于普林斯顿大学应用数学与计算数学专业。

　　后来在纽约大学做博士后研究员，再到哥伦比亚大学任副研究员，2009 年又在 MIT 斯隆管理学院任教。

　　2017 年，Rudin 加入杜克大学，同时在计算机科学、电子与计算机工程、生物统计学和生物信息学和统计学四个专业开课。

　　还在学校主页上放了一张很有个性的照片。

　　从学习应用数学开始，Rudin 就一直希望用理论去帮助他人。

　　开始接触机器学习的时候，她觉得从数据集中找出模式特征的过程就像破解一个谜题。

　　而站在理论和应用的不同视角去看同一个数据集，什么特征才重要就完全不一样。

　　在教学中，她积极引导学生研究如何解决现实问题，至少也要研究现实问题的某个方面。

　　获奖消息公布后，很多她的学生都在网络上表示祝贺，说上学时候她的课很受欢迎，并且理论和应用同样受重视的课程并不多见。

　　她在杜克大学有一门选修课，在选课阶段因为太火爆，最后还开成了两个班。

　　她以前的合作者也表示她是自己遇到过的最 Nice，最热情的人。

　　关于“AI 诺贝尔奖”

　　该奖项由 AAAI 和松鼠 AI 联合颁发，全称为“人工智能人类福祉奖”，也被称为”AI 界的诺贝尔奖”。

　　松鼠 AI 是国内一家 AI 教育公司，百万美元奖金就是由松鼠 AI 赞助提供。

　　奖项颁给使用人工智能保护、增强和改善人类生活产生的积极影响，产生长期效果的研究人员。

　　奖项于 2019 年设立，2020 年首次颁发，今年刚刚举办到第二届。

　　上一届颁给了身患癌症后开发出可以提前诊断出癌症 AI 模型的科学家，MIT 教授 Regina Barzilay。

　　今年的获奖者 Rudin 也说，很感谢 AAAI 和松鼠 AI 创造了这个奖，让人们认识到 AI 造福社会这个话题其实很重要。

　　参考链接：

　　[1]https://pratt.duke.edu/about/news/rudin-squirrel-award

　　[2]https://www.aaai.org/Awards/squirrel-ai-award.php

　　[3]https://ece.duke.edu/faculty/cynthia-rudin

　　[4]https://news.ycombinator.com/item?id=28837998