这都可以?微软中文网站(wiki中文网站)
从人工智能的概念被提出开始,构建大规模的知识库一直都是人工智能、自然语言理解等领域的核心任务之一。本文首先介绍了早期的知识库项目和以互联网为基础构建的新一代知识库项目,并单独介绍了典型的中文知识图谱项目。
从人工智能的概念被提出开始,构建大规模的知识库一直都是人工智能、自然语言理解等领域的核心任务之一下面首先分别介绍了早期的知识库项目和以互联网为基础构建的新一代知识库项目并单独介绍了典型的中文知识图谱项目。
1. 早期的知识库项目Cyc: Cyc 是持续时间最久,影响范围较广,争议也较多的知识库项目Cyc 是在 1984 年由 Douglas Lenat 开始创建最初的目标是要建立人类最大的常识知识库。
典型的常识知识如 ”Every tree is a plant” ,”Plants die eventually”等Cyc 知识库主要由术语 Terms 和断言 Assertions 组成Terms 包含概念、关系和实体的定义。
Assertions 用来建立 Terms 之间的关系,这既包括事实 Fact 描述,也包含规则 Rule 的描述最新的 Cyc 知识库已经包含有 50 万条 Terms 和 700 万条 Assertions。
Cyc 的主要特点是基于形式化的知识表示方法来刻画知识形式化的优势是可以支持复杂的推理但过于形式化也导致知识库的扩展性和应用的灵活性不够Cyc 提供开放版本 OpenCycWordNet:WordNet 是最著名的词典知识库,主要用于词义消歧。
WordNet 由普林斯顿大学认识科学实验室从1985年开始开发WordNet 主要定义了名词、动词、形容词和副词之间的语义关系例如名词之间的上下位关系(如:“猫科动物”是“猫”的上位词),动词之间的蕴含关系(如:“打鼾”蕴含着“睡眠”)等。
WordNet3.0已经包含超过15万个词和20万个语义关系ConceptNet:ConceptNet是常识知识库最早源于MIT媒体实验室的Open Mind Common Sense (OMCS)项目。
OMCS项目是由著名人工智能专家Marvin Minsky于1999年建议创立ConceptNet主要依靠互联网众包、专家创建和游戏三种方法来构建ConceptNet知识库以三元组形式的关系型知识构成。
ConceptNet5版本已经包含有2800万关系描述与Cyc相比,ConceptNet采用了非形式化、更加接近自然语言的描述,而不是像Cyc那样采用形式化的谓词逻辑与链接数据和谷歌知识图谱相比,ConceptNet比较侧重于词与词之间的关系。
从这个角度看,ConceptNet更加接近于WordNet,但是又比WordNet包含的关系类型多此外,ConceptNet完全免费开放,并支持多种语言2. 语义网与知识图谱互联网的发展为知识工程提供了新的机遇。
在一定程度上,是互联网的出现帮助突破了传统知识工程在知识获取方面的瓶颈从1998年Tim Berners Lee提出语义网至今,涌现出大量以互联网资源为基础的新一代知识库这类知识库的构建方法可以分为三类:互联网众包、专家协作和互联网挖掘。
Freebase: Freebase是一个开放共享的、协同构建的大规模链接数据库Freebase是由硅谷创业公司MetaWeb于2005年启动的一个语义网项目2010年,谷歌收购了Freebase作为其知识图谱数据来源之一。
Freebase主要采用社区成员协作方式构建其主要数据来源包括维基百科Wikipedia、世界名人数据库NNDB、开放音乐数据库MusicBrainz,以及社区用户的贡献等Freebase基于RDF三元组模型,底层采用图数据库进行存储。
Freebase的一个特点是不对顶层本体做非常严格的控制,用户可以创建和编辑类和关系的定义2016年,谷歌宣布将Freebase的数据和API服务都迁移至Wikidata,并正式关闭了FreebaseDBPedia
: DBPedia是早期的语义网项目DBPedia意指数据库版本的Wikipedia,是从Wikipedia抽取出来的链接数据集DBPedia采用了一个较为严格的本体,包含人、地点、音乐、电影、组织机构、物种、疾病等类定义。
此外,DBPedia还与Freebase,OpenCYC、Bio2RDF等多个数据集建立了数据链接DBPedia采用RDF语义数据模型,总共包含30亿RDF三元组Schema.org:Schema.org是2011年起,由Bing、Google、Yahoo和Yandex等搜索引擎公司共同支持的语义网项目。
Schema.org支持各个网站采用语义标签(Semantic Markup)的方式将语义化的链接数据嵌入到网页中搜索引擎自动搜集和归集这些,快速的从网页中抽取语义化的数据Schema.org提供了一个词汇本体用于描述这些语义标签。
截止目前,这个词汇本体已经包含600多个类和900多个关系,覆盖范围包括:个人、组织机构、地点、时间、医疗、商品等谷歌于2015年推出的定制化知识图谱支持个人和企业在其网页中增加包括企业联系方法、个人社交信息等在内的语义标签,并通过这种方式快速的汇集高质量的知识图谱数据。
截止2016年,谷歌的一份统计数据显示,超过31%的网页和1200万的网站已经使用了Schema.org发布语义化的链接数据其它采用了部分Schema.org功能的还包括微软Cortana、Yandex、Pinterest、苹果的Siri等。
Schema.org的本质是采用互联网众包的方式生成和收集高质量的知识图谱数据WikiData: WikiData的目标是构建一个免费开放、多语言、任何人或机器都可以编辑修改的大规模链接知识库WikiData由维基百科于2012年启动,早期得到微软联合创始人Paul Allen、Gordon Betty Moore基金会以及Google的联合资助。
WikiData继承了Wikipedia的众包协作的机制,但与Wikipedia不同,WikiData支持的是以三元组为基础的知识条目(Items)的自由编辑一个三元组代表一个关于该条目的陈述(Statements)。
例如可以给“地球”的条目增加“”的三元组陈述截止2016年,WikiData已经包含超过2470多万个知识条目BabelNet:BabelNet是类似于WordNet的多语言词典知识库。
BabelNet的目标是解决WordNet在非英语语种中数据缺乏的问题BabelNet采用的方法是将WordNet词典与Wikipedia百科集成首先建立WordNet中的词与Wikipedia的页面标题的映射,然后利用Wikipedia中的多语言链接,再辅以机器翻译技术,来给WordNet增加多种语言的词汇。
BabelNet3.7包含了271种语言,1400万同义词组,36.4万词语关系和3.8亿从Wikipedia中抽取的链接关系,总计超过19亿RDF三元组 BabelNet集成了WordNet在词语关系上的优势和Wikipedia在多语言语料方面的优势,构建成功了目前最大规模的多语言词典知识库。
NELL:NELL(Never-Ending Language Learner) 是卡内基梅隆大学开发的知识库NELL主要采用互联网挖掘的方法从Web自动抽取三元组知识NELL的基本理念是:给定一个初始的本体(少量类和关系的定义)和少量样本,让机器能够通过自学习的方式不断的从Web学习和抽取新的知识。
目前NELL已经抽取了300多万条三元组知识YAGO: YAGO是由德国马普研究所研制的链接数据库YAGO主要集成了Wikipedia、WordNet和GeoNames三个来源的数据YAGO将WordNet的词汇定义与Wikipedia的分类体系进行了融合集成,使得YAGO具有更加丰富的实体分类体系。
YAGO还考虑了时间和空间知识,为很多知识条目增加了时间和空间维度的属性描述目前,YAGO包含1.2亿条三元组知识YAGO是IBM Watson的后端知识库之一Microsoft ConceptGraph
:ConceptGraph 是以概念层次体系为中心的知识图谱与Freebase等知识图谱不同,ConceptGraph 以概念定义和概念之间的IsA关系为主给定一个概念如“Microsoft”,ConceptGraph 返回一组与“微软”有IsA关系概念组,如:“Company”,“Software Company”,“Largest OS Vender”等。
这被称为概念化 “Conceptualization”ConceptGraph 可以用于短文本理解和语义消歧中例如,给定一个短文本 “the engineer is eating the apple”,可以利用ConceptGraph来正确理解其中“apple”的含义是“吃的苹果”还是“苹果公司”。
微软发布的第一个版本包含超过 540 万的概念,1255 万的实体,和 8760万的关系ConceptGraph 主要通过从互联网和网络日志中挖掘来构建LOD-Linked Open Data:LOD 的初衷是为了实现 Tim Berners-Lee 在 2006 年发表的有关链接数据(Linked Data)作为语义网的一种实现的设想。
LOD 遵循了Tim提出的进行数据链接的四个规则,即:(1)使用URI标识万物;(2)使用HTTP URI,以便用户可以(像访问网页一样)查看事物的描述;(3)使用RDF和SPARQL标准;(4)为事物添加与其它事物的URI链接,建立数据关联。
截止目前,LOD 已经有 1143 个链接数据集,其中社交媒体、政府、出版和生命科学四个领域的数据占比超过 90%56% 的数据集对外至少与一个数据集建立了链接被链接最多的是dbpedia的数据比较常用的链接类型包括:。
foaf:knows、sioc:follows、owl:sameAs、rdfs:seeAlso、dct:spatial、skos:exactMatch等LOD鼓励各个数据集使用公共的开放词汇和术语,但也允许使用各自的私有词汇和术语。
在使用的术语中,有41%是公共的开放术语3. 中文知识图谱资源OpenKG.CN:中文开放知识图谱联盟旨在通过建设开放的社区来促进中文知识图谱数据的开放与互联,促进中文知识图谱工具的标准化和技术普及Zhishi.me
:Zhishi.me是中文常识知识图谱主要通过从开放的百科数据中抽取结构化数据,已融合了百度百科,互动百科以及维基百科中的中文数据CN-DBPeidia:CN-DBpedia是由复旦大学知识工场实验室研发并维护的大规模通用领域结构化百科。
CN-DBpedia主要从中文百科类网站(如百度百科、互动百科、中文维基百科等)的纯文本页面中提取信息,经过滤、融合、推断等操作后,最终形成高质量的结构化数据,供机器和人使用CN-DBpedia自2015年12月份发布以来已经在问答机器人、智能玩具、智慧医疗、智慧软件等领域产生数亿次API调用量。
CN-DBpedia提供全套API,并且免费开放使用大规模商务调用,提供由IBM、华为支持的专业、稳定服务接口cnSchema.org: cnSchema.org 是一个基于社区维护的开放的知识图谱 Schema 标准。
cnSchema 的词汇集包括了上千种概念分类(classes)、数据类型(data types)、属性(propertities)和关系(relations)等常用概念定义,以支持知识图谱数据的通用性、复用性和流动性。
结合中文的特点,我们复用、连接并扩展了Schema.org,Wikidata, Wikipedia 等已有的知识图谱 Schema 标准,为中文领域的开放知识图谱、聊天机器人、搜索引擎优化等提供可供参考和扩展的数据描述和接口定义标准。
通过 cnSchema, 开发者也可以快速对接上百万基于 Schema.org 定义的网站,以及 Bot 的知识图谱数据 API OpenKG.CN中文开放知识图谱(简称OpenKG.CN)旨在促进中文知识图谱数据的开放与互联,促进知识图谱和语义技术的普及和广泛应用。
转载须知:转载需注明来源“OpenKG.CN”、作者及原文链接。如需修改标题,请注明原标题。点击阅读原文,进入 OpenKG 博客。
免责声明:本站所有信息均搜集自互联网,并不代表本站观点,本站不对其真实合法性负责。如有信息侵犯了您的权益,请告知,本站将立刻处理。联系QQ:1640731186