Please wait a minute...
Advanced Search
数据分析与知识发现  2018, Vol. 2 Issue (9): 80-87     https://doi.org/10.11925/infotech.2096-3467.2018.0204
  研究论文 本期目录 | 过刊浏览 | 高级检索 |
基于LDA模型的HSK作文生成*
徐艳华1, 苗雨洁2, 苗琳2, 吕学强2()
1鲁东大学文学院 烟台 264025
2北京信息科技大学网络文化与数字传播北京市重点实验室 北京 100101
Generating HSK Writing Essays with LDA Model
Xu Yanhua1, Miao Yujie2, Miao Lin2, Lv Xueqiang2()
1School of Chinese Language and Literature, Ludong University, Yantai 264025, China
2Beijing Key Laboratory of Internet Culture and Digital Dissemination Research, Beijing Information Science and Technology University, Beijing 100101, China
全文: PDF (739 KB)   HTML ( 8
输出: BibTeX | EndNote (RIS)      
摘要 

【目的】研究HSK5作文自动生成, 为汉语教师写作教学以及汉语学习者备考提供参考。【方法】将“HSK动态作文语料库”作为基本语料库, 基于LDA模型训练语料库, 融合交叉熵选择句子的策略, 生成包含关键词的文本。通过人工评价, 对比待评价文本和参考标准, 对生成文本进行评分。【结果】实验结果表明, 生成的文本内容包含所有关键词, 且与主题相关。【局限】训练文本有一部分是改正后的HSK作文语料, 来自母语为非汉语的外国人的作文, 以致内容连贯性不强、内容不够丰富。【结论】该方法完成了根据关键词写作的任务, 生成的文本可以很好地围绕关键词展开, 并切合主题, 本文提出的融合策略使生成的文本可读性较强。

服务
把本文推荐给朋友
加入引用管理器
E-mail Alert
RSS
作者相关文章
徐艳华
苗雨洁
苗琳
吕学强
关键词 自然语言生成LDA模型人工评价    
Abstract

[Objective] This paper tries to automatically generate writing samples for the Chinese Proficiency Test (HSK), aiming to help the Chinese teachers and learners prepare for the test. [Methods] First, we used the “HSK Dynamic Corpus” as the basic corpus, and trained it with the LDA model. Then, we adopted the cross-entropy strategy to select sentences containing required keywords. Finally, we manually scored the generated texts with the evaluating criteria. [Results] The generated essays contained all needed keywords and were relevant to the topics of the writing tasks. [Limitations] Some training corpus were modified HSK essays, written by non-Chinese speaker. [Conclusions] The proposed method could generate passages of good quality with the required keywords effectively.

Key wordsNatural Language Generation    LDA Model    Artificial Evaluation
收稿日期: 2018-02-26      出版日期: 2018-10-25
ZTFLH:  分类号: TP391 G35  
基金资助:*本文系国家自然科学基金项目“中文专利侵权自动检测研究”(项目编号: 61671070)和国家语委重点项目“汉语智能写作关键技术研究及应用”(项目编号: ZDI135-53)的研究成果之一
引用本文:   
徐艳华, 苗雨洁, 苗琳, 吕学强. 基于LDA模型的HSK作文生成*[J]. 数据分析与知识发现, 2018, 2(9): 80-87.
Xu Yanhua,Miao Yujie,Miao Lin,Lv Xueqiang. Generating HSK Writing Essays with LDA Model. Data Analysis and Knowledge Discovery, 2018, 2(9): 80-87.
链接本文:  
http://manu44.magtech.com.cn/Jwk_infotech_wk3/CN/10.11925/infotech.2096-3467.2018.0204      或      http://manu44.magtech.com.cn/Jwk_infotech_wk3/CN/Y2018/V2/I9/80
  规范文本1
  生成文本示例2
题目关键词 分数
招聘、工作、发展、英语、毕业 2.21
回国、帮助、不得不、遗憾、祝福 3.42
开车、喝酒、要是、从来、后悔 4.19
无论、努力、获得、坚持、放弃 4.01
奖金、建筑、围绕、完美、摄影 2.68
年轻、运动、设施、使、精彩 3.72
进步、提高、即使…也…、发展 2.43
护照、找来了、来不及、祝福 3.93
大自然、减少、文明、污染、健康 4.45
季度、早晚、人员、应聘、信心 4.17
演出、顺利、以前、精彩、错过 4.64
  自动生成作文得分
档次 标准 分值域 具体要求
空白分 完全空白 0分 1、空白为0分;
2、一处语法错误扣除0.5分, 每两个错别字扣除0.1分, 低于1分则不扣除, 字数较少扣除1分, 少一个关键词扣除0.5分, 酌情给分。
低档分 未全部使用5个词语, 内容不连贯, 有语法错误, 有较多错别字。 1-3分
中档分 内容连贯且合逻辑, 有语法错误; 内容连贯且合逻辑, 有少量错别字; 内容连贯且合逻辑, 篇幅不够。 3-4分
高档分 5个词语全部使用, 无错别字, 无语法错误, 内容丰富, 连贯且合逻辑。 4-5分
  HSK作文评分标准
  生成文本示例3
  生成文本示例4
  生成文本示例5
  生成文本示例6
[1] Reiter E, Dale R.Building Natural Language Generation Systems[M]. Cambridge University Press, 2000.
[2] 李春红. 基于汉语国际推广战略的新汉语水平考试效度研究——以新HSK五级写作测试为个案[J]. 大学教育, 2013(12): 111-113.
[2] (Li Chunhong.Research on Validity of the New Hanyu Shuiping Kaoshi Based on Chinese International Promotion Strategy——Take the New HSK Level 5 Writing Test as a Case[J].University Education, 2013(12): 111-113.)
[3] Klein S.Control of Style with a Generative Grammar[J]. Language, 1965, 41(4): 619-631.
doi: 10.2307/411529
[4] Manyika J, Chui M, Brown B, et al. Big Data: The Next Frontier for Innovation, Competition, and Productivity. Mckinsey.com[R/OL]. [2012-12-13]. .
[5] 曹存根, 岳小莉, 眭跃飞. PNAI: 一种新型的叙事与动画智能实验平台[J]. 信息技术快报, 2006, 4(5): 1-4.
[5] (Cao Cungen, Yue Xiaoli, Sui Yuefei.PNAI: A New Narrative and Animation Intelligent Experiment Platform[J]. Information Technology Letter, 2006, 4(5): 1-4.)
[6] He J, Zhou M, Jiang L.Generating Chinese Classical Poems with Statistical Machine Translation Models[C]// Proceedings of the 26th AAAI Conference on Artificial Intelligence. AAAI Press, 2012: 1650-1656.
[7] Zhang J, Yao J G, Wan X.Towards Constructing Sports News from Live Text Commentary[C]// Proceedings of the 54th Annual Meeting of the Association for Computational Linguistics. 2016:1361-1371.
[8] 写稿机器人“小南”上岗[EB/OL]. [2017-06-01]. .
[8] (Writing Robot “Xiaonan” [EB/OL]. [2017-06-01].
[9] Reviewer-Horacek H.Review of “Building Natural Language Generation Systems” by Ehud Reiter and Robert Dale. Cambridge University Press 2000[J].Computational Linguistics, 1996, 27(2): 298-300.
[10] 贾佩山. 自然语言生成技术及其应用实例[J]. 电脑与信息技术, 1997, 5(2): 7-9.
[10] (Jia Peishan.Natural Language Generation Technology and Its Application Examples[J]. Computer and Information Technology, 1997, 5(2): 7-9.)
[11] 王纤. 自然语言生成系统的实现技术分析[J]. 微型电脑应用, 1997(4): 51-54.
[11] (Wang Xian.On the Implementation Techniques for Natural Language Generation Systems[J]. Microcomputer Applications, 1997(4): 51-54.)
[12] 张建华, 陈家骏. 自然语言生成综述[J]. 计算机应用研究, 2006, 23(8): 1-3.
[12] (Zhang Jianhua, Chen Jiajun.Summarization of Natural Language Generation[J]. Research on Computer Applications, 2006, 23(8): 1-3.)
[13] 詹卫东. 自然语言的自动分析与生成简介[J]. 术语标准化与信息技术, 2010(4): 33-42.
[13] (Zhan Weidong.A Brief Introduction to Natural Language Understanding and Generation[J]. Terminology Standardization & Information Technology, 2010(4): 33-42.)
[14] 汪卫明, 陈世鸿, 王世同,等. 基于语义模板的医学问答自动生成[J]. 武汉大学学报:理学版, 2009, 55(2): 233-238.
[14] (Wang Weiming, Chen Shihong, Wang Shitong, et al.Automatic Generation of Medical Question Answer Pairs Based on Semantic Templates[J]. Journal of Wuhan University: Science Edition, 2009, 55(2): 233-238.)
[15] 吴焕萍, 吕终亮, 张华平,等. 气象落区文本自动生成研究[J]. 计算机工程与应用, 2014, 50(13): 247-251.
[15] (Wu Huanping, Lü Zhongliang, Zhang Huaping, et al.Text Generation on Weather Falling Area Description[J]. Computer Engineering and Applications, 2014, 50(13): 247-251.)
[16] 孙剑, 周深根, 徐豪华. 基于模板的作战仿真数据自动生成军事报文方法研究[C]// 见第18届中国系统仿真技术及其应用学术年会论文集. 2012.
[16] (Sun Jian, Zhou Shengen, Xu Haohua.Research on Automatic Generation for Military Message from Simulation Data Based on Template[C]// Proceedings of the 14th Chinese Conference on System Simulation Technology & Application. 2012.
[17] Lopez A.Statistical Machine Translation[J]. ACM Computing Surveys, 2008, 40(3): 1-49.
[18] Jiang L, Zhou M, He J.Generating Chinese Couplets and Quatrain Using a Statistical Approach[C]// Proceedings of the 23rd Pacific Asia Conference on Language, Information and Computation. 2009: 377-384.
[19] Jiang L, Zhou M.Generating Chinese Couplets Using a Statistical MT Approach[C]// Proceedings of the 22nd International Conference on Computational Linguistics. 2008.
[20] Soumya S, Kumar G S, Naseem R, et al.Automatic Text Summarization[M]. MIT Press, 2011.
[21] Sauper C, Barzilay R.Automatically Generating Wikipedia Articles: A Structure-Aware Approach[C]// Proceedings of the 4th International Joint Conference on Natural Language. 2009: 208-216.
[22] Generating Chinese Classical Poems with RNN Encoder-Decoder[EB/OL]. [2017-10-07]. .
[23] Wang Q, Luo T, Wang D, et al.Chinese Song Iambics Generation with Neural Attention-based Model [C]//Proceedings of International Joint Coherence on Artificial Intelligence. New York: AAAI Press, 2016: 2943-2949.
[24] Blei D M, Ng A Y, Jordan M I.Latent Dirichlet Allocation[J]. Journal of Machine Learning Research, 2003, 3: 993-1022.
[25] Haidar M A, O'Shaughnessy D. LDA-based LM Adaptation Using Latent Semantic Marginals and Minimum Discriminant Information[C]// Proceedings of the 20th European Signal Processing Conference. 2012: 2040-2044.
[26] Griffiths T L, Steyvers M.Finding Scientific Topics[J]. Proceedings of the National Academy of Sciences of the United States of America, 2004, 101(S1): 5228-5235.
doi: 10.1073/pnas.0307752101
[27] 张宝林. “HSK动态作文语料库”简介[J]. 国外汉语教学动态, 2003(4): 37-38.
[27] (Zhang Baolin.“HSK Dynamic Composition Corpus” Introduction[J]. Foreign Chinese Teaching Dynamics, 2003(4): 37-38.)
[28] Baez J C, Fritz T.A Bayesian Characterization of Relative Entropy[J]. Theory & Applications of Categories, 2014, 29(16): 422-456.
[1] 蔡永明,刘璐,王科唯. 网络虚拟学习社区重要用户与核心主题联合分析*[J]. 数据分析与知识发现, 2020, 4(6): 69-79.
[2] 刘玉文,王凯. 面向地域的网络话题识别方法*[J]. 数据分析与知识发现, 2020, 4(2/3): 173-181.
[3] 邵云飞,刘东苏. 基于类别特征扩展的短文本分类方法研究 *[J]. 数据分析与知识发现, 2019, 3(9): 60-67.
[4] 何跃, 丰月, 赵书朋, 马玉凤. 基于知乎问答社区的内容推荐研究——以物流话题为例[J]. 数据分析与知识发现, 2018, 2(9): 42-49.
[5] 王璟琦, 李锐, 吴华意. 基于空间自相关的网络舆情话题演化时空规律分析*[J]. 数据分析与知识发现, 2018, 2(2): 64-73.
[6] 李真, 丁晟春, 王楠. 网络舆情观点主题识别研究*[J]. 数据分析与知识发现, 2017, 1(8): 18-30.
[7] 方小飞, 黄孝喜, 王荣波, 谌志群, 王小华. 基于LDA模型的移动投诉文本热点话题识别*[J]. 数据分析与知识发现, 2017, 1(2): 19-27.
[8] 张磊,马静,李丹丹,沈洋. 语义社会网络的超网络模型构建及关键节点自动化识别方法研究*[J]. 现代图书情报技术, 2016, 32(3): 8-17.
[9] 杨如意,刘东苏,李慧. 一种融合外部特征的改进主题模型*[J]. 现代图书情报技术, 2016, 32(1): 48-54.
[10] 李湘东, 巴志超, 黄莉. 一种基于加权LDA模型和多粒度的文本特征选择方法[J]. 现代图书情报技术, 2015, 31(5): 42-49.
[11] 李湘东, 廖香鹏, 黄莉. LDA模型下书目信息分类系统的研究与实现[J]. 现代图书情报技术, 2014, 30(5): 18-25.
Viewed
Full text


Abstract

Cited

  Shared   
  Discussed   
版权所有 © 2015 《数据分析与知识发现》编辑部
地址:北京市海淀区中关村北四环西路33号 邮编:100190
电话/传真:(010)82626611-6626,82624938
E-mail:jishu@mail.las.ac.cn