国内最常用的17个语料库,收藏!

栏目:教育平台  时间:2021-06-29
手机版

通用单语语料库

1

国家语委现代汉语通用平衡语料库

(图片来源:全景视觉)

2

北京语言大学语料库中心BCC语料库

3

清华TH语料库

4

北京大学CCL语料库

CCL语料库(https://ccl.pku.edu.cn:8080/ccl_corpus/index/jsp?=xiandai)中包含现代汉语语料、古代汉语语料两类单语语料,涉及的文献时间从公元前11世纪到当代。其中现代汉语语料约6 亿字符,涵盖了文学、戏剧、报刊、翻译作品、网络语料、应用文、电视电影、学术文献、史传、相声小品、口语等多个类型。CCL语料库中古代汉语语料约2亿字符,收录了从周代到民国的语料及大藏经、二十五史、历代笔记、十三经注疏、全唐诗、诸子百家、全元曲、全宋词、道藏、辞书、蒙学读物等的杂类语料。除了两大单语语料库的扩容外,近年来CCL语料库还融入了一些专题语料库,例如:早期北京话材料、留学生汉语作文语料、汉语构式语料库、中文学术文献语料库、海外华文网络语料等等。

5

人民日报标注语料库

该语料库是我国第一个大型的现代汉语标注语料库,以《人民日报》1998年的纯文本语料为基础,完成词语切分、词性标注、专有名词标注、语素子类标注、动词和形容词特殊用法标注、短语型标注等加工工作,现已扩充至3500万字的规模。后来北京大学计算语言学研究所在此基础上完成了另外100万字语料的词语切分、词性标注和汉语拼音标注的加工任务,还利用所研制的《现代汉语语义词典》、参照《现代汉语词典》,根据语料实际使用情况对词义描写进行调整,研发了一个大规模、高质量的现代汉语词义标注语料库(Chinese Word Sense Tagging Corpus,STC)。

6

清华汉语树库(TshinghuaChineseTreebank,TCT )

该语料库从包含文学、学术、新闻、应用四大体裁的200万汉字平衡语料库中提取了100万汉字规模的语料文本,经过自动断句、句法分析后再进行人工校对,形成了有完整句法结构树的汉语句法树库语料。

汉英双语平行语料库

7

中国科学院汉英平行语料库

中国科学院汉英平行语料库是在对中英文篇章对齐的双语文本进行段落对齐、句子对齐加工后建立的一个句子级对齐的双语语言信息和知识库,该语料库借助互联网等其他媒体搜集中英文篇章级对齐的双语文本,面向多领域多体裁,采用基于双语辞典的句子对齐方法进行了文本对齐,并对双语文本句子对齐结果实现自动评价。

8

南京大学双语词典研究中心英汉双语平行语料库(NJU_BDRCBC)

该语料库的总体规模共约200万对英汉平行句对,英语和汉语词例数高达2亿词次,其素材一方面来源于南京大学双语词典中心拥有自主知识产权的双语辞书标准数据以及英汉双语对照文献,另一方面也面向网络获取了大量的英汉双语平行对语料。南京大学双语词典研究中心还跟商务印书馆联合开发了CONULEXID(The Commercial Press and Nanjing University Lexical Database)英汉语言资料库,该语料库系统于1994年正式开始创建,并于1997年通过验收。

9

清华大学中英平行语料库

其他汉外平行语料库

北京大学计算语言研究所双语平行语料库

该语料库为大型汉英、汉日双语语料库,包含汉英句子级对齐语料20万句对、汉日句子级对齐语料2万句对、汉英词汇级对齐语料1万对,旨在为机器翻译等应用系统的研发提供基础资源和标准的评测语料 。

北京外国语大学双语平行语料库

由王克非负责构建的汉英和汉日两个平行语料库目前仍在建设中。该语料库包括2000万字的日汉对译文本语料库和3000万字词的通用型汉英平行语料库两个部分。目前2000万字的日汉对译文本语料库的平行对应语料分为文学与非文学、汉译日和日译汉存放,做到段落级对齐,运用所研制的检索工具可对汉日语料做各种词语、短语、句型和搭配上的检索。通用型汉英平行语料库分为,“百科语料库”“翻译文本库”“双语语句库”以及“专科语料库”四个子库,目前3000万字词语料已基本做到句级对齐,其中2000万字词语料已完成最终校对、标注、双语链接。

南京农业大学典籍平行语料库

基于十三经、《战国策》、前四史等典籍及其所对应的白话文和英文翻译,南京农业大学王东波结合深度学习相应模型设计了句对齐的算法,实现了古文句子与白话文和英文的对齐,并对古文、白话文和英文进行了分词、词性和实体标注,形成了独具特色的典籍平行语料库 。

其他特色语料库

汉语中介语语料库

汉语中介语语料库(https://qqk.blcu.edu.cn/#/login)由北京语言大学( 原北京语言学院)于1992年开始建设。该语料库立足于汉语教学已收录1635位外国学生共5774篇成篇成段的汉语作文或练习材料,总字数约353万,其中1731 篇约104万字的语料经过断句、分词和词性标注等加工处理。目前该全球汉语中介语料库仍处于努力建设过程中,北京语言大学仍然努力于建设全球汉语中介语语料库,其规模预计达5000万字,包括笔语语料、口语语料和多模态子库。笔语语料规模预计达4500万字,其中2000万字将加工成为熟语料;口语语料450小时,约合400万字;多模态语料110小时,约合100万字。

HSK动态作文语料库

中国传媒大学有声媒体文本语料库

该语料库(https://ling.cuc.edu.cn/Raw-Pub/)由中国传媒大学国家语言资源检测与研究有声媒体中心开发,2003年开始建设,2005年上线,其后不断扩大语料规模, 并于2016年进行了第三次改版。该语料库包括2008-2013年的3万多个广播、电视节目的转写文本,总字符数达到2.4 亿个,并对所有文本进行了自动分词和词性标注。

名著汉英平行语料库

《红楼梦》汉英平行语料库是国内第一个根据译者选用原底本所做的句级对齐平行语料库,它的成功发布可为“红学” 不同英译本的研究提供客观科学的平台,为翻译教学提供丰富的资源,为翻译理论探讨提供基本素材 。莎士比亚戏剧英汉平行语料库由上海交通大学的学者研究构建,容量约600万字词。该语料库由英文原文和三个版本的译文构成,在分词的基础上实现了词性标注,以及人物对话层面的对齐,该库可以展开一对一及一对多的平行检索,为莎剧翻译研究和语言研究提供了宝贵资源 。

少数民族语言语料库

除了汉语相关语料库之外,国内少数民族语言语料库的构建研究工作也正在逐步发展,尤其是蒙古族、维吾尔族、藏族等几个少数民族的语料库。现代蒙古语语料库,由内蒙古大学蒙古语文研究所于1998年构建完成,总规模达5000万词,涵盖了文科教材、理科教材、文学、新闻、政治、社会科学、自然科学、口语等类型语料。内蒙古大学蒙古语文研究所在2003年开始建设汉蒙双语语料库,该语料库总规模达10万个句对,为蒙古文信息处理、语言教学、汉蒙双语研究和汉蒙双语词典的编纂等工作的发展奠定了基础。现代维吾尔语语料库,由新疆大学于2002年开始建设,生语料规模达800万词。西藏大学大型藏文语料库,总规模高达1.5亿藏文字符,其中3000万藏文字符经过分词和词性标注加工 。除此之外,还有200万词的新疆师范大学维吾尔语语料库、规模约1亿3千万字节的西北民族大学大型藏文语料库、500万藏语字符的中国社会科学院民族学语人类学研究所藏语语料库等。

商务咨询和合作微信

上一篇:多学区有变!海淀2021小升初17学区派位表来袭 抢先看
下一篇:2021年高考成绩今天18:00可查,录取分数线如何确定、志愿如何填报,考试院负责人为你解答

最近更新教育平台