成都网站制作费用,seo整站优化外包公司,网站建设多少钱明细,seo技术交流论坛文 | Jeff Ullman源 | 智源社区3月31日#xff0c;2020年图灵奖重磅出炉#xff0c;颁给了哥伦比亚大学计算机科学名誉教授 Alfred Vaino Aho 和斯坦福大学计算机科学名誉教授 Jeffrey David Ullman。Jeff Ullman 是数据科学领域的巨擘#xff0c;他的研究兴趣包括数据库理论… 文 | Jeff Ullman源 | 智源社区3月31日2020年图灵奖重磅出炉颁给了哥伦比亚大学计算机科学名誉教授 Alfred Vaino Aho 和斯坦福大学计算机科学名誉教授 Jeffrey David Ullman。Jeff Ullman 是数据科学领域的巨擘他的研究兴趣包括数据库理论、数据库集成、数据挖掘等。在去年撰写的一篇评论文章中他用浅显的语言重新定义了统计学、数据科学和机器学习之间的交叉点并破除了其中的误读。他认为尽管机器学习非常重要但它远非实现有效数据科学所需的唯一工具。Have we missed the boat again?多年来数据库领域有一种言论认为数据库系统正在变得无关紧要。大家似乎持一种绝望的心态。“have we missed the boat-again”这句话在数据库社区里似乎司空见惯[8]。但我想论证数据库以及由数据库研究而产生的技术对于“数据科学”仍然是必不可少的特别是在解决科学、商业、医学等应用领域的重要问题上。数据库系统的核心一直是如何尽最大可能处理最大的数据量无论是以MB为单位的企业工资单数据、TB为单位的基因组信息还是PB为单位的的卫星输出信息。因此数据库的工作就是研究一切相关数据。为了论证这一观点我主要回答三个问题:1. 统计真的是数据科学的重要组成部分吗2. 机器学习就是数据科学的全部吗3. 数据科学是否会对社会规范是否构成威胁我对这三个问题的回答都是“no”。我将试着依次回答这三个问题。数据科学 vs. 统计学谁是谁的子集几年前我受邀参加了国家研究委员会NRC一个叫做“数据-科学-教育圆桌会议”的小组详见 [16]。这个圆桌不是由 NRC 的计算机科学部门组织的而是由统计部门组织的。参与者中统计学家和计算机科学家的数量差不多加上其他学科的一些人。当时的收获主要是看统计学家如何思考这个数据的世界及其应用。最明显的一点是统计学领域将数据科学视为自己的领域。公平地讲首先让我们明确一点我非常尊重统计学家和他们所做的工作。统计学在现代数据研究中变得越来越重要包括但不限于机器学习。许多统计学家开始像数据库界或者更其他计算机科学界那样关注计算和数据分析。仅举一个小例子我最喜欢的技术之一是局部敏感哈希算法LSH这是一个直接来源于数据库社区的想法。然而我在斯坦福大学统计部门的一位同事 Art Owen 向我展示了关键步骤——最小哈希minhashing这一步骤很大程度上加速了这个过程——这是我们几年前就应该能够弄清楚的但是没有弄清楚。然而我在圆桌会议上的经验也让我感觉到统计界的一些人正在努力将统计定义为数据科学的核心组成部分。相比之下我更倾向于把高效处理大规模数据的算法和技术视为数据科学的中心。人们普遍认为数据科学是一门结合了多个领域知识的学科我对此完全赞同。但这些领域究竟是什么它们又是如何相互作用的呢这个问题如此重要以至于不同社区纷纷发表维恩图来证明他们自己在数据科学中的中心地位。最近有一篇文章[10]对这些图表进行了总结和评论。其他维恩图表示相关的所有观点请查询维基百科数据科学维恩图。康威图表由于 Drew Conway的缘故德鲁 · 康威美国数据科学家因其对数据科学的维恩图定义以及将数据科学应用于研究恐怖主义而闻名统计学家们都习惯使用特定的图表。这个图表显示了三个相互交叉的集合: “黑客技能”、“数学和统计学”和“实质性专业知识”。在圆桌会议上这个图表被多次展示来说明统计学的重要性我还看到统计学家在其他几个场合展示同样的图表以解释他们的领域对数据科学的重要性。我复制了图1中的图表但是我添加了一些点评来解释图表中存在误区之处。如下图▲图1: 数据科学的康威维恩图事实上几乎图表中的每一个区域在某种程度上都有误导性。1、首先一个小问题: 所谓的“实质性专门知识”一般要统称为”领域知识”或类似的东西。2、最严重的问题是将计算机科学称为“黑客技能”。计算机科学给数据科学带来的远不止是编写代码的能力。我们提供算法、模型和框架来解决各种各样的问题。所有这些在处理数据时都是必不可少的。3、“传统研究”在图中显示为数学/统计与应用的交叉领域。换句话说在这种形式的研究中人们只考虑实际应用而不编写任何代码因此不会影响现实世界。我不知道这是哪来的传统但我认为这可不是数据库社区的传统。4、机器学习在这个图表中有一个奇怪的位置。它被描述为“黑客”加上数学/统计。这意味着机器学习和实际应用没有任何关系。实际上它与应用之间有着千丝万缕的联系这就是为什么今天机器学习的算法如此受重视不仅在数据库界而且在整个计算机科学界都是如此。5.然后还有 Conway 所说的“危险区域”——通过编写代码来解决应用领域中的问题而不需要统计学家的明智指导。几乎所有的数据科学都是这样的。举一个例子谷歌和其他邮件服务商在检测网络钓鱼邮件方面做得很好。有多好我们真的不知道即使我们今天可以做一个统计分析明天也不会奏效因为这种威胁是不断变化的。真正的危险是我们本来可以做得更好却放任那些骗子骗走可怜虫们毕生的积蓄。我的维恩图我也提出了自己的维恩图(图2) 我相信它能更好地描述这些领域之间的关系。有计算机科学和各个其他领域的科学数据科学就位于这些领域交叉的某些地方。机器学习是计算机科学的一个分支——是当前一个非常重要的子领域。机器学习一部分可以用于数据科学也有很多其他和计算相关的用途。这当中很多应用现在被认为是“人工智能”比如无人驾驶汽车或入侵检测。最后我认为数学和统计学对于所有的计算机科学都是非常重要的工具虽然我图表中所画的小气泡并没有充分展示出它们的重要性。这样画是为了强调它们并不真正直接影响领域科学而是通过在它们的帮助下开发出的软件来产生影响。▲图2: 计算机科学、机器学习和统计学之间的关系个人观点最大的区别: 数据库和统计学价值体系我所画的图中最有争议的是数学/统计学并不能直接解决领域的应用。毕竟康威图所说的“传统研究”就是这么做的。但是尽管应用程序和数学/统计学之间可能存在绕过计算以外的交互但我认为这种交互很少会从应用层面产生什么实际的好处。为了说明这种区别我们来看一下数据科学教育圆桌会议第四次会议的报告[14]。其中讨论的一部分集中在美国统计协会举办的“黑客马拉松”上名为“Datafest”。从表面上看这个活动就像我们通常看到的计算机科学专业学生参加的黑客马拉松。竞赛团队将得到一个来自某个应用领域的大数据集但是在竞赛评分方面有很大的不同。评分的焦点不在于是否解决了什么具体的问题以及解决方案的质量如何。相反大奖颁给了“最佳数据可视化、最佳外部数据使用和最佳洞察力”。换句话说黑客马拉松上获奖是因为你做了一些统计学家感兴趣的事情而不是解决了别人的实际问题。我希望读者能从另一个角度看问题即目标是服务而不是自娱自乐。面向计算机科学的 Kaggle 竞赛[13]正是如此。莫把万物归为机器学习现在让我们来看看机器学习的兴起是如何影响数据的使用的。毫无疑问机器学习已经对我们利用数据解决问题的能力产生了巨大的影响。然而我并不认为机器学习可以完全取代数据库社区开发的算法。我希望读者可以考虑三个问题:许多涉及“大数据”的问题其实并不是真正的机器学习问题很多机器学习倡导者会把原本不属于机器学习的方法归类到其中许多机器学习方法产生的神秘模型不可解释或不可证明。机器学习并非数据科学的全部我认为机器学习的一个公平的定义是利用数据创建某种模型的算法并从中可以得到问题的答案。例如可以使用机器学习建立垃圾邮件模型将给定的电子邮件来喂养模型从而判断是或不是垃圾邮件。但并非所有有用的解决方案都可以用模型来表示。例如我们在前面提到了局部敏感哈希数据库(LSH) 它是数据库社区处理数据的一种重要技术。LSH 是一种用于在数据集中查找类似项的技术使用它就不必查看所有数据对了。在实际应用中LSH 是一个非常强大的工具但是它不属于机器学习模型。机器学习倡导者有时把原本不属于机器学习的方法归入其中比如说聚类它被定义为机器学习的一个分支尽管早在机器学习出现之前聚类就已经被研究过了。梯度下降法是另一个早于机器学习的例子然而不知何故被普遍认为是一个机器学习的分支。另一个重要的例子是关联规则一种常用的无监督学习算法。关联规则于1993-1994年由拉凯什 · 阿格拉瓦尔和朋友首创比几乎所有的机器学习概念都要早。我甚至记得曾经和一位机器学习的倡导者谈起他提出 LSH“一定是机器学习因为它真的是一个很好的方法。”但事实上LSH 就是一个与机器学习毫无关系的大数据算法。解释能力通常机器学习算法会得出正确的结论而这些结论只有通过所展示的模型才能够解释。而这种模型往往是如此复杂以至于对于普通用户来说毫无意义。更重要的是这个模型即便能够给出正确的诊断但可能它的推理隐藏在处理一张百万像素的图像中。另一方面有时候我们有权要求解释。例如如果你的保险公司提高了你的保险费率原因是一些预测汽车事故的模型显示你的事故发生率提高了至少你得知道为什么会这样。但是非机器学习方法通常比机器学习模型更可解释。为了看出区别以通过关联规则识别垃圾邮件为例。产生一组“规则”在这种情况下可以是一组单词它们在电子邮件中的出现表明它是垃圾邮件。您可能认为这些规则就是垃圾邮件的模型这也就是为什么机器学习倡导者认为关联规则属于机器学习。但实际上用于寻找关联规则的算法并没有从数据中“学习”到一个模型。他们只是简单地计算包含某些单词的垃圾邮件的数量如果这个数量足够高他们就宣布一条规则即包含这些单词的邮件是垃圾邮件。假如一个规则说包含{ Nigerianprince }单词的电子邮件是垃圾邮件。相比之下即使是最简单的机器学习技术比如学习每个可能的单词的(正负)权重以及在权重总和超过阈值时声明是垃圾邮件也比基于关联规则的解决方案更准确。但问题是关联规则方法是可解释的而机器学习模型则不能。如果我真的是一个尼日利亚王子我所有的电子邮件都被关联规则方法判定为垃圾邮件那么至少我可以理解其中的原因。而另一方面如果你问 gmail 为什么它判断某些东西是垃圾邮件它通常的回答类似于“它看起来像其他垃圾邮件。”也就是说gmail在使用的模型告诉你它是垃圾邮件其余的无可奉告。我们不要责怪数据我们经常会把社会的弊病归咎于数据。错误主要来源于:人们有意或无意地错误使用数据。数据忠实地反映了现实问题。数据滥用在数据-科学-教育圆桌会议上在第五次会议上有一个关于数据伦理的讨论[15]。举例说明一个城市希望在犯罪高发的地区部署警力。警察们手握逮捕发生地的数据结果是他们在那些地区确实逮捕了更多的人。但是逮捕行动并不仅仅反映犯罪的发生也反映了警察到场进行逮捕行动本身。数据造成了误区。就是说历史原因警察优先被派往某些地区数据真实地反映出在那些地区有更多的人被捕。也许本质上只是因为在警力不足的地方逮捕率较低。数据可能使偏见永久化的另一个常见例子一家公司在决定晋升时总是歧视妇女。他们希望利用机器学习建立一个AI系统来处理简历并识别那些与他们成功晋升员工相似的特征。但数据显示女性候选人往往不会成功机器学习算法便从数据中学习从而拒绝女性的申请。这些数据再次延续了现有的偏见。但是这些数据并没有产生偏见而是人产生了偏见。数据反映了一个我们不喜欢的世界有一种对数据使用的指责是由数据产生的系统反映了说话者所反对的社会的某些东西。这种误读的一个明显例子涉及 Word2Vec [13] 这是谷歌几年前开发的一个系统(后来被BERT所取代) 该系统将单词嵌入到高维向量空间中从而使具有相似意义的单词具有相近的向量。直观的想法是看看通常围绕在单词 w 周围的单词。那么 w 的向量就是与其周围关联单词的方向的加权组合。例如我们预期「可口可乐」和「百事可乐」有相似的向量因为人们谈论它们的方式大致相同。当观察到某些向量方程的规律时问题就出现了例如作为向量,London − England France Paris也就是说伦敦和巴黎作为各自国家的首都和最大的城市周围有许多反映这种地位的词汇。我们预期伦敦周围会有更多与英格兰有关的词汇所以把它们拿走代之以与法国有关的词汇。这个观察结果无关紧要但是其他方程式引起了一些严重的争议例如doctor − man woman nurse这个方程式它是在要求“给我找一个像医生一样的职业词汇但要更倾向于女性。”。大约50% 的医生是女性但接近90% 的护士是女性。我们希望医生和护士这两个词是相似的但是后者更多地出现在「她」这样的词附近。所以这个等式是有一定道理的。这些负面例子真正反映的是在这个社会中女性更有可能和护理岗位联系到一起。我同意很可能在不远的将来情况会变化。但我的观点是: 不要责怪数据。像 Word2Vec 或者 BERT 这样的系统当在一个像维基百科这样的大型语料库上训练时将会反映出广大公众使用的语言而这种数据的使用又会反映出人们普遍认为是真实的东西不管我们是否喜欢这个真实。The Last Word我希望读者可以吸收到以下想法:数据及其管理仍然是数据科学的本质。尽管机器学习非常重要但它远非实现有效数据科学所需的唯一工具或想法。尽管数据有误用的情况但如果数据反映的是世界的本来面目而不是我们希望的那样我们就不应该责怪数据本身。寻求报道、约稿、文案投放添加微信xixiaoyao-1备注“商务合作”后台回复关键词【入群】加入卖萌屋NLP/IR/Rec与求职讨论群后台回复关键词【顶会】获取ACL、CIKM等各大顶会论文集 [1] R. Agrawal, T. Imielinski, and A. Swami, “Mining associations between sets of items in massive databases,” Proc. ACM SIGMOD Intl. Conf. on Management of Data, pp. 207–216, 1993.[2] R. Agrawal and R. Srikant, “Fast algorithms for mining association rules,” Intl. Conf. on Very Large Databases, pp. 487–499, 1994.[3] T. Bolukbasi, K.-W. Chang, J. Zou, V. Saligrama, and A. Kalai, “Man is to computer programmer as woman is to homemaker? Debiasing word embeddings,” 30th Conference on Neural Information Processing Systems, Barcelona, 2016.[4] A.Z. Broder, M. Charikar, A.M. Frieze, and M. Mitzenmacher, “Min-wise independent permutations,” ACM Symposium on Theory of Computing, pp. 327–336, 1998.[5] T. Buonocore, “Man is to doctor as woman is to nurse: the gender bias of word embeddings,” https://towardsdatascience.com/gender-bias-word-embeddings-76d9806a0e17[6] J. Devlin, M.-W. Chang, K. Lee, and K. Toutanova, “BERT: Pre-training of deep bidirectional transformers for language understanding,” arXiv:1810.04805, 2018.[7] A. Gionis, P. Indyk, and R. Motwani, “Similarity search in high dimensions via hashing,” Proc. Intl. Conf. on Very Large Databases, pp. 518–529, 1999.[8] B. Howe, M.J. Franklin, L.M. Haas, T. Kraska, and J.D. Ullman: “Data science education: we’re missing the boat, again,” ICDE, pp. 1473–1474, 2017.[9] https://www.kaggle.com/[10] https://www.kdnuggets.com/2016/10/battle-data-science-venn-diagrams.html[11] J. Leskovec, A. Rajaraman, and J.D.Ullman, Mining of Massive Datasets 3rd edition, Cambridge Univ. Press, 2020. Available for download at http://www.mmds.org[12] P. Li, A.B. Owen, and C.H. Zhang. “One permutation hashing,” Conf. on Neural Information Processing Systems 2012, pp. 3122–3130.[13] T. Mikolov, K. Chen, G. Corrado, and J. Dean, “Efficient estimation of word representations in vector space,” ArXiv:1301.3781, 2013.[14] https://www.nationalacademies.org/event/10-20-2017/docs/DCE05D1E271C31C585455B25E43AE9E5462ED3312DB2[15] https://www.nationalacademies.org/event/12-08-2017/docs/D8EE65EFC7F4B0C368D267EDAD10E5AB1BAFBE3369D2[16] https://www.nationalacademies.org/our-work/roundtable-on-data-science-postsecondary-education[17] https://en.wikipedia.org/wiki/Right to explanation
