本文主要是介绍人工智能大神深度解剖知识图谱的六大应用,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
本文是智金汇微信课堂第26期的分享实录,分享人为“公子小白机器人”的CTO王昊奋博士,分享主题为“知识图谱面面观”。
可能大家并不是很了解知识图谱,但是大家一定了解石油。石油不仅仅是能源,很多衍生品也都需要依赖石油。类似地,我们在进行人工智能的探索道路上,我们也需要了解其本质,或者在其基础上衍生出各种上层的智能应用。在我个人看来,知识图谱正是起到了这样一个作用。
这里并没有过多介绍公司所做的业务,而是站在一个中立的角度尽量给大家呈现知识图谱在各领域的应用。
先介绍一些大家耳熟能详的应用
只是大家不了解这些应用是基于知识图谱的。
首先是“语义搜索”。因为知识图谱这个词最先是由谷歌在2012年提出的,作为谷歌的两大重要技术储备,一个是深度学习,形成了谷歌大脑;另一个就是知识图谱,用来支撑下一代搜索和在线广告业务。
上面的图中,大家可以发现与传统的搜索相比,搜索引擎开始理解用户输入的需求了,并对此返回各种非网页内容信息。在图中,对于New York(纽约州),返回各种结构化信息(在右边),类似一种经过梳理的高质量的摘要,供大家快速了解,而非仅有包含New York作为关键词的文档内容。
接着我们再来看另一个巨头脸谱公司的工作,它在之后利用知识图谱技术构建兴趣图谱(interest graph),用来连接人、分享的信息等,并基于此构建了graph search。
通过上图可以看到用户输入的两个自然语言问题,一个是问喜欢哈佛大学的人(左边),另一个访问过哈佛大学的人,如果按照传统的搜索做法,返回的结果会有很多重合,而事实上从返回结果我们可以看到脸谱公司可以清晰分辨这两者的区别。
那么这里就需要做更精确的语义分析,对于这里可以识别people(询问对象)、Harford University(大学),like/visit是动作,而like可以对应到社交网站中的点赞,而visit对应到社交网站上的签到,这样就能完全区分开了,更进一步,我们有了各种允许语音输入的个人助理。
从SIRI到EVI到Google Now,这些仅仅是在交互方式上有所不同,支持自然语言自由沟通的前提是庞大的知识库和基于知识库的各种服务—即知识图谱,此外,大家都知道IBM近年来一直在推动认知智能和智慧地球的理念。
IBM在2011年研发了Watson问答系统,参加了Jeopardy!(危险边缘)电视节目,类似国内的一站到底和开心词典,并打败人类冠军。很有幸,我参与了2年的Watson系统研发,这对后面的经历以及目前公司的技术选型有比较大的影响。
刚刚举了一些例子,我们总结一下知识图谱会带来的好处
这个对于大数据来说,其实就是全数据的概念。而对于人工智能来说,其实就是将原本没有联系的数据连通,将离散的数据整合在一起,从而提供更有价值的决策支持。而这里的副标题其实更进一步针对B端市场,我们强调了外部数据和内部数据整合的意义和价值。
这是一个通用的知识图谱的框架,我们可以看到知识图谱不是空中楼阁,而是基于现有数据的再加工,包括关系数据库中的结构化数据、文本或XML中的非结构化或半结构化数据、客户数据、领域本体知识以及外部知识,通过各种数据挖掘、信息抽取和知识融合技术形成一个统一的全局的知识库。
注意这里的全局知识库并非中心管理,而是一个逻辑上的全局(即数据统一,语义清晰)。
那么知识图谱能做什么呢?也就是上面提到的那些大家熟悉的应用(搜索、推荐、以及在后面会提到的各种垂直应用)。
知识图谱在生命科学中的应用
第一个应用是药物发现
大家都知道,医药公司往往花费10亿美元甚至更高来研发新药,如何缩短新药研制周期,降低研发成本是大家所关注的。
这里首先大家可以了解一下欧盟第7框架下的一个重大项目,称之为开放药品平台Open Phacts,这个项目吸引了辉瑞和诺华制药等巨头参与。利用来自实验室的理化数据、各种期刊文献中的研究成果、以及各种开放数据(其中比较有名的包括Clinical Trials.org,美国开放数据中的临床实验数据)来加速药物研制中的分子筛选工作。
具体来说,我们看一个例子:
大家都知道,阿尔兹海默症也就是老年痴呆症是世界难题。这里给出了3个观察:药物研发经常需要去找药物靶点,而药物靶点中大家关注的是其中丰富的信号转导通路,更具体来说即对于化学治疗起作用的蛋白。同时我们知道老年痴呆症患者的CA1锥形神经元是损坏的,那么我们在做基因筛选的时候就会发问:能否找到存在于上述信号转导通路中,且被包含在上述神经元的候选基因呢?
更具体来说,我们将其转换为一个复杂的查询,大家不用纠结这个查询的格式,这是一个图查询,是图谱对应的标准格式,称为SPARQL。这个查询一共跨越了4个数据源,锥形神经元在Mesh(美国NIH发布的标准术语)中Entrez Gene是一个知名的基因知识库。
而GO(基因本体)包含信号转导,同时可以在图中看到有两个橙色部分的查询,需要依赖去做知识推理。知识推理就是希望通过逻辑和统计的方法从显式的数据中得到隐含的知识。
比如这里,是要做一个传递闭包的推理,因为part of (部分)是一个可以传递的,A part of B, B part of C可以推出A part of C。这样得到的候选基因能让医学研究人员更加专注,省去了大量用机器(即使是华大基因)去筛选基因的耗费。
刚刚我们也提到了Watson,随着Watson取得巨大成功,IBM成立了Watson group(事业部),对各种行业进行认知攻破。第一个就是医疗方面。
这是在安德森癌症中心的实验,我们知道Anderson癌症中心是全国最有名的癌症中心。IBM称这个项目为登月计划(moon shot),这里通过整合大量医疗文献和书籍以及各种EMR(电子病历)来获取海量高质量的医疗知识,并基于这些知识面对医护人员提供辅助临床决策和用药安全等方面的应用,并取得了巨大成功。
知识图谱在农业中的应用
大家都知道我国是农业大国,但是我们的农业又多是基于小作坊,靠手工或看天工作的阶段。
当然整个亚洲其实和美国这种大农场主统一管理的方式很不同,也存在各种资源利用率低的现状,我们发现有超过50%存在农药过分灌溉或缺乏灌溉的情况。
大量的资料是很分散的,而且存放在各种格式中,而农民们非常迫切希望有人来指导他们更好地进行灌溉和解决虫害,那么这个时候的关键就是使得各种农业相关的知识可被这些农民朋友访问到。
这里我们以柑橘知识为例,我们发现传统的关系数据库模式对于这种复杂或多变的领域是不可行的,因为我们无法实现定义所有可能的知识点(用于构建关键数据库模式)。所以我们需要一种更加灵活的知识表示模型来管理,这个时候知识图谱就能起到很好的作用。
如果大家对知识图谱还比较陌生的话,可以看到这里贴出的可视化图,即根据上述施肥问答信息抽取构建的图谱片段。类似的,我们可以用各种抽取挖掘技术从各种多源异构数据中获取相应的知识,并统一用图谱进行表示,从而形成一个完整的知识库。
这里以Excel表或CSV文件为例,我们可以通过构建wrapper将其列映射为图模式,而将下面的记录(每一行)映射为对应的符合模式的图数据,并与之前从问答知识数据中获取的图谱进行关联整合。
这是一个整合之后的化肥本体知识。
对于这个知识库,我们可以通过SPARQL查询(可以可视化为图谱)来利用知识库,这里的例子是查询症状是座果率低的植物和其他相关症状。
图查询类似图谱数据,非常灵活,可以方便地进行变化,通过增删节点和边来实现,从而增加条件或放松条件。
这是一个完整的例子,即缺乏氮素的植物以及植物灌溉知识。通过例子可以看出,我们可以通过图谱关联到图片信息,这样形成了多媒体知识图谱,而这些病变的图片信息相比专业知识更加直观,也更方便农民使用。
这里总结了,在农业方面知识的影响和作用,我们可以刻画作物知识、土壤、肥料知识、疾病知识和天气知识等。
通过知识图谱,我们可以将传统的农业转换为精准农业(precision agriculture)。
知识图谱在电信行业客服中的应用
Amdocs是美国最大的第三方账单审计和客服中心,AT&T, Verizon和Sprint等都是他的客户,美国的电信市场很早就饱和了,所以各大运营商均没有很多新客户可以争取,那么维护好老客户就非常重要。
这是一个案例,大家有时间看看,其原则就是希望对于信用好的用户能前瞻性地了解他的需求,并在他打电话来反映情况的时候(抱怨或询问信息等),可以预先判断他需要什么,并帮其解决,从而减少沟通次数和沟通时长。
为了做到这一点,系统需要判断用户的信用等级。并根据用户的当前消费情况和各种动作来自动化判断其可能的行为。
这是一个简单的电信行业使用的数据分类和商业概念归类,包含设备、账单、支付等一系列重要知识。
通过上述概念得到的各种数据包括结构化,也包括流数据进行的各种数据映射和转换,类似的,也是形成统一的图谱进行管理。这个还包括趋势、时间、地理还有消费模式等很多信息。通过各种数据源进行数据的整合,形成统一的知识,并配合业务规则和贝叶斯网络来形成决策引擎,从而对用户的信用和各种行为结果预测起到作用。
最终达到的效果就是个性化前瞻性的客户关怀。
知识图谱在媒体发布中的应用
最早使用知识图谱的是英国广播电台,之前传得很火的新闻自动写作机器人也利用了知识图谱。
举个例子,针对2012年伦敦奥运会,很多对象的跟踪报道由专人负责,然后通过图谱将各种零散的信息关联在一起,从而形成一个完整页面。
这是通过得到的一个聚合的页面(一个德国的游泳运动员),不仅呈现比赛新闻信息,也包含这个运动员的方方面面。
知识图谱在金融方面的应用
金融方面是仅次于医疗(知识图谱应用最广泛的领域)。
先介绍一个我之前参与的国外的例子,是针对荷兰的案例。荷兰的法律导致破产是不用负责的,所以很多人钻这个空子来构建团伙进行倒卖,最后将其中的一些公司申请破产导致非法免费获得很多资源。
这一点,荷兰政府非常头疼,希望找到幕后组织,从而避免很多损失。
类似的,现在的问题(尤其是大数据情况下),各个部门和组织的数据非常分散,导致各个部门没有办法得到完整的信息来进行对上述团伙的判断。而传统的数据集成方法需要依赖非常有经验的专家对这些数据库进行手工集成,这大大增加了工作量和处理周期。
所以这里我们又将引入知识图谱,进行有效的去中心化的高效知识融合。
这是一个示例,和农业中的方案类似,不过使用了一个Hadoop PIG脚本来控制转换过程,之后我们将通过图可视化来发现这样的团伙。这个可视化的图中可以看到粉色的公司、橙色的机构和红色的破产的公司。
当我们将这张图进行缩放之后,可以发现这里一些有趣的模式,所有的红色破产企业都关联到图中圈定的公司,那么这个公司就有可能是指使这些破产行为的最终元凶。政府相关部门就可以对其进行深入的调查,这样使得原本大海捞针的搜索变得很有针对性。
还有更多的例子:
国外有Datafox和Spiderbook,国内有通联数据等。
他们通过从互联网上抽取各种公司(主要是上市公司)的数据,包括产品、高管、公司供应链关系、竞争对手关系等,整合为统一的图谱从而帮助企业或投资机构进行全网数据的关联分析,影响传播和一些预测。
最成功的例子包括福岛爆炸对丰田汽车的股价影响。
知识图谱在政府中的应用
这里就不得不介绍最近非常红火的美国的独角兽Palantir。
Palantir应该是美国最早在政府领域使用知识图谱技术的公司,帮助美国政府成功定位到了本拉登的位置等。
其界面也包含各种图谱浏览、搜索、建模等工具,类似的,将不同来源不同格式的数据进行建模整合,来得到全面分析和挖掘的可能。
总结
知识图谱能做到的就是让知识可被用户访问到(搜索),可被查询(问答),可被支持行动(决策)。
当然知识图谱的构建和应用具有很大的技术难度,这里需要使用自然语言处理技术、数据库技术和语义推理技术等多重支持。
王昊奋博士,曾连续两年获得IBM全球博士精英奖,并参与IBM Watson问答系统的研发,主持并参与了多项国家自然科学基金、863国家项目、国家科技支撑相关项目。本文首发于股权投资平台智金汇,转载请注明来源及原链接:https://zhijin.vc/article/news_detail/245。
*文章为作者独立观点,不代表虎嗅网立场本文由 EarlGrey 授权 虎嗅网 发表,并经虎嗅网编辑。转载此文章须经作者同意,并请附上出处(虎嗅网)及本页链接。原文链接https://www.huxiu.com/article/153176.html
这篇关于人工智能大神深度解剖知识图谱的六大应用的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!