大语言模型（Large Language Models，LLMs）是近年来神经自然语言处理的核心研究点之一，学术界和工业界围绕大语言模型产生了大量研究成果：GPT-3^[1]、LaMDA^[2]、鹏城-百度·文心（ERNIE 3.0 Titan）^[3]、盘古α（PanGu-α）^[4]和WeLM^[5]。Kiela等^[6]研究发现，大语言模型在语言理解推理、对话生成等多个任务上已经达到甚至超越了人类的平均水平。大多数研究通过语言模型在一系列具体数据集上的表现来评估模型能力，而缺乏其是否能适应复杂的应用环境的研究。对于大型语言模型能否与人类正常互动的问题，即能否正确响应人类所提出的指令、满足用户的合理请求和生成内容是否符合人类的普世价值观，这方面的研究仍然处于起步阶段。

ChatGPT^①（^①https://openai.com/blog/chatgpt.）是由美国的人工智能创业公司OpenAI于2022年11月公开发布的聊天机器人，它以多轮对话的形式，通过用户的提示引导进行内容创作。ChatGPT在日常使用情境下具有主题创作、知识问答与编程计算等功能，在与人类的交互过程中，通过追踪对话进程并回答问题、承认错误并纠正和拒绝不合理请求等表现，展现出令人印象深刻的语言能力。

ChatGPT对学术以及教育等产业的影响已有一些研究，目前普遍认为ChatGPT可以在多种领域的实践中提升工作效率，但它需要被合理使用，而不能在科学研究、考试竞赛中滥用。对于文献管理和学术研究而言，ChatGPT的积极影响可以改善信息服务的效率、辅助元数据生成以及内容创作，但需要考虑涉及的隐私问题和言论偏见的影响。ChatGPT能准确捕捉用户的意图，生成期望的回答，对于用户指出的错误会主动承认并改正，在诗歌散文等创作中也展现了一定的能力，然而相较于使用其他语言的用户而言，使用英语与它对话无疑是用户体验最好的方式，因此ChatGPT在尊重除了美国的其他国家的文化背景和使用习惯上仍有欠缺^[7]。

针对大语言模型对科研带来的影响，van Dis等^[8]在Nature上发文探讨了5个关键问题：坚持人类审查、制定问责制度、投资真正开放的大型语言模型、拥抱人工智能的优点和扩大辩论范围^[8]。在科研进程中，科研人员的使用行为需要更加公开透明，针对大语言模型是否能作为论文作者或者AI是否能享有著作权这类问题，Thorp^[9]在Science发文提出了反对的观点，认为使用AI进行创作的科学研究将构成科研不端行为，因为ChatGPT生成的文章并非原创，并且认为由AI生成的文本不能用于科研工作中，AI也不能成为论文作者。

对ChatGPT以及其他GPT-3.5系列模型进行性能测试的研究工作主要集中在使用公开数据集进行零样本以及少样本测试，并将评估结果和监督微调模型对比，已有研究表明ChatGPT在许多英文数据集上性能极好，甚至部分在数据集的一些评估指标上可以媲美监督微调模型^[10]。在机器翻译、情感分析和虚假信息检测等领域，ChatGPT超过了零样本下的SOTA性能，但在开放域知识问答和任务型对话任务上表现不佳^[11-12]，在低资源语言的机器翻译性能也弱于已有的翻译产品^[13]。然而目前针对ChatGPT在中文数据集上的全面评测较少。

本文使用公开标注数据集对ChatGPT在中文数据集上的知识常识性能表现进行评估，并与国内的主流大模型对比，研究其在中文环境下的具体表现，并结合性能评测结果分析其带来的影响与潜在的风险，最后给出中文模型的发展建议。

在自然语言处理领域，BERT^[14]、GPT^{[1,15 -16]}等模型是大语言模型中影响广泛的创新性研究工作，而ChatGPT是基于GPT-3.5建立起来的具有广泛影响力与开创性意义的产品。

生成式预训练（Generative Pre-Training，GPT）是一种基于自回归解码的预训练模型，它输入当前文本的token序列并预测下一个可能出现的token。深度学习中常见的生成式模型有RNN^[17]、LSTM^[18]、Transformer^[19]等。生成式语言模型的解码过程如图1所示。

GPT系列模型的核心是Transformer模型的解码器部分。Transformer中引入多头自注意力机制，多个注意力头分别关注句子中不同方面的重点，而且随着网络层次的增加，能够提取出更高级、更抽象的语义信息，理解能力更强。基于Transformer的多种语言模型除了语义提取能力强，还能从无标注的数据中学习，而且场景迁移能力好。GPT-1^[15]模型基本沿用Transformer的解码器结构。在GPT-2^[16]中，层归一化放到每个子模块之前，并在最后一个模块后再增加一个层归一化。

当大语言模型在大规模的语料上进行自监督训练后，就会涌现出令人惊喜的模式识别与推理能力，上下文学习（In-Context Learning）即是在GPT-3^[1]中发现的能力之一。在上下文学习过程中不需要进行梯度反向传播，仅需要将少量标注样本或者提示文与验证样本拼接，再输入模型中即可引导GPT-3输出验证样本的推理预测，这意味着大语言模型在推理解码时能自动识别任务的类型，并根据任务与样本进行推理。

注意到GPT-3具有微弱的代码生成能力，OpenAI进一步设计了Codex^[20]，这是一个参数规模120亿且具有Python代码编写能力的GPT微调模型，其结果证明了GPT这样的自回归模型具有生成计算机程序代码的能力。

为了使得大语言模型在零样本情况下有更好的任务识别能力，指令微调（Instruction Tuning）技术将多种任务通过自然语言进行描述，并将任务描述和训练样本一起输入模型进行微调^[21]，模型可以将自身的自然语言理解能力泛化到对任务的识别和理解上，使得在零样本条件下可以正确响应新的任务。

基于GPT-2的开放域对话模型DialoGPT^[22]的研究结果表明，利用强化学习来防止模型产生异常的响应，并很有必要控制和检测模型生成的内容。为了获得更高质量的输出，基于GPT-3微调的WebGPT^[23]将人工反馈用于优化模型生成的答案质量，通过模仿学习和强化学习得到更符合人类偏好的结果。事实上，生成式语言模型需要控制生成的内容并且符合人类的偏好，遵循公序良俗，考虑到这些原则，应用人类反馈的强化学习（Reinforcement Learning from Human Feedback，RLHF），InstructGPT^[24]先在GPT-3上进行监督微调，再通过人类标注者对模型的输出质量进行排序来训练奖励模型^[25]，最后通过强化学习的优化策略（Proximal Policy Optimization，PPO）^[26]最大化奖励以训练监督微调的模型。通过这样的训练方式，模型具备了输出文本更符合人类偏好、避免输出有毒言论和拒绝响应不合理的请求的能力。

GPT-3.5与GPT-3一样，拥有1 750亿个训练参数，不同的是GPT-3.5在GPT-3的基础上进行了计算机语言代码生成的训练以及指令微调，ChatGPT是在GPT-3.5上经过监督的指令微调和RLHF后得到的语言模型，如图2所示。因此，ChatGPT生成的文本更符合人类的语言习惯，用户在和其交流时感到更加流畅。

已有的评测表明，ChatGPT在机器翻译^[13]、自然语言理解和情感分析^[11]等领域都取得了较好的成绩。为了量化研究中文环境下ChatGPT的表现并与国内的中文大型语言模型对比，本文使用公开的中文数据集对ChatGPT进行评估，测试了零样本（Zero-Shot）情况下ChatGPT的中文情感分析、中文文本自动摘要、中文机器阅读理解和中文知识常识问答的性能，综合测试并分析ChatGPT在中文环境下的优势与风险。

情感分析是一项经典的自然语言处理任务，模型需要根据输入的上下文确定其中包含的情感类别。本文使用ChnSentiCorp^①（^①https://github.com/pengming617/bert_classification.）和EPRSTMT^[27]的测试集，其中每一个样本都被标注为两种情感极性：积极或消极。评估结果如表1所示。

ChatGPT在情感分析任务上具有可以媲美国产大模型的良好零样本性能。ChatGPT对于上下文的理解上存在偏差，例如本实验使用Prompt提示了输入文本只包含积极和消极两种情感，但“中性”这一情感仍然出现在ChatGPT的输出中。ChnSentiCorp数据集中有一些特殊样本，这些样本的每个句子具有不同的情感倾向，在这种情况下，ChatGPT能自动地逐句分析情感并返回结果，示例如表2所示。

文本自动摘要任务需要语言模型对于输入的长文本进行推理计算，进而输出简洁准确的摘要文本。文本摘要任务分为抽取式摘要与生成式摘要，在本文实验中主要关注生成式摘要，并使用了LCSTS^[28]的测试集以及TTNews^[29]。考虑到TTNews数据集样本数量较大，并且有部分文本过长导致ChatGPT未能返回结果，因此随机抽样了1000条小于1000个汉字的样本作为测试集进行测试，评估指标为ROUGE-1^[34]。测试结果如表3所示。

对于新闻文本的摘要以及标题生成，ChatGPT在文本摘要上具有极好的性能，但在LCSTS数据集中，如果Prompt修改为“生成30字以内的摘要：”，输出的摘要平均长度却会达到70个字，这远超过Prompt中“30字以内”的限制，推测其可能在训练过程中缺少类似生成固定字数的中文Prompts或者Instructions，导致在生成文本的字数控制上出现偏差，因此ROUGE-1评分较低。笔者将Prompt修改为“为以下新闻生成标题：”，ChatGPT生成的文本字数与标注字数更相近，因此得到了较高的分数，最后的输入输出样例如表4所示。

机器阅读理解（Machine Reading Comprehension，MRC）是评估大型语言模型理解与推理能力的主流任务之一。

抽取式MRC，即对给定的一组上下文描述和问题的字符序列，训练语言模型从上下文中识别出一个可以回答该问题的子序列作为输出，通过比较输出序列与标注的匹配程度来评价模型的性能。考虑到ChatGPT是生成式语言模型，本文将抽取任务转换为问答模式生成任务，通过构建与PanGu-α^[4]中相同的提示学习模板与参数设置以测试ChatGPT在零样本的性能表现。使用简体中文的CMRC2018^[30]和繁体中文的DRCD^[31]阅读理解的验证集进行实验，评测指标为EM（Exact Match）/F1。

常识性MRC是指问题的答案不一定直接在上下文中显式地给出，模型需要通过上下文进行常识推理，并且在提供的多个候选答案中选择最合适的一个作为输出。本文使用C^3[32]的验证集用于评测，评测指标为准确度（Accuracy）。测试结果如表5所示。

中文阅读理解的测试结果从整体上观察到更大参数规模的Ernie 3.0 titan的优势更大，这里ERNIE 3.0 Titan有2 600亿的参数规模，远大于130亿的PanGu-α和100亿的WeLM，这也验证了更大的通用模型对于生成式任务通常表现更好。局部来看，ChatGPT在简体中文和繁体中文上与ERNIE 3.0 Titan的性能相近，ChatGPT仅在CMRC2018的F1指标上更好，整体上ERNIE 3.0 Titan更有优势。ChatGPT的EM指标得分低而F1指标更高的原因推测是因为其训练方式导致的。EM指标需要两个文本在字符级别完全匹配才能得分。ChatGPT在经过RLHF的训练方式生成问答文本时，会更加考虑人类用户的感受，即生成语义更加完整连贯的句子而不是直接给出答案。表6是一个直观的示例，标注是直接从上下文中抽取的语段，在语法和语义上可能不构成完整的句子，因此对用户而言可能更偏爱ChatGPT的回答。

闭卷问答测试不会在输入中给出蕴含答案的上下文，语言模型需要根据预训练数据中学习到的知识和常识进行回答。本文的实验选择WebQA^[33]和CKBQA^①（^①https://github.com/pkumod/CKBQA.）的测试集，评测指标为EM/F1或准确度，测试结果如表7所示。

闭卷问答要求模型对中文的知识和常识有一定储备，而ChatGPT的训练语料大多是英文。与国内的针对中文的大模型相比，在WebQA数据集上ChatGPT的性能仅有PanGu-α性能的1/50，与ERNIE 3.0 Titan差距更大，在CKBQA数据集上ChatGPT性能接近参数量更小的PanGu-α。相比之下ChatGPT更容易出现中文的常识性和知识性错误，这也印证了ChatGPT在中文环境下的事实一致性不佳。

笔者进一步分析了ChatGPT在WebQA测试集上的输出文本，发现标注的正确答案蕴含在其输出文本中的比例仅有56.96%，这意味着在大约一半的情况下ChatGPT出现错误。笔者推测可能的原因是其使用的中文训练语料规模较小，或者是中文训练语料质量不佳。表8是一个闭卷问答的示例。

在性能测评里，发现ChatGPT在中文的知识和常识问答上很容易出现错误，并且它会使用流畅的句子对编造的虚假事实进行阐述，对于信息来源受限的群体具有一定的迷惑性。

ChatGPT不一定能正确回答学术问题和一些常识问题，例如可能会混淆训练数据中的不同人物实体的背景和关系，这意味着通用语言模型在专业以及垂直领域暂时无法替代专用模型。为ChatGPT混淆唐三藏与黛玉葬花背景故事的示例如图3所示。

通过功能测试以及在数据集上的性能测试发现，ChatGPT在闭卷回答问题时可能会偏离事实。如表9所示，ChatGPT可能编造虚假信息，并且其输出通常是真实信息与虚假信息的混合，可能误导信息来源受限的群体，因此在信息检索方面暂时无法替代搜索引擎。

GPT系列模型的训练语料大多来自西方的语言价值体系，这导致了ChatGPT在价值观层面偏向于西方，生成的内容不一定符合中国的价值观。尽管RLHF的训练方式使得ChatGPT表现得更加友好，但仍然不能保证它能脱离训练语料中的偏见，也不能保证不引入标注人员的价值观。例如，在功能测试中发现，ChatGPT生成内容中存在对于中国的大量偏见言论，也不会对有关涉及中国的政治言论进行回避和拒绝回答，这说明训练数据的构建过程中未对这部分言论进行筛查。

目前，ChatGPT没有开源且难以复现，其资源与技术均不开放，目前控制在微软及OpenAI等少数国外机构中，存在卡脖子风险。

ChatGPT只提供云服务和应用程序接口（API）。训练与测试过程均在美国服务器上部署，训练过程及测试过程均会收集使用者的信息，并记录使用者的反馈及使用习惯，存在严重的信息泄露与用户隐私保护风险。

大语言模型的发展历程与应用中，会伴随着一些伦理问题。通过大语言模型生成的内容，可能导致创作者在不经意间剽窃了他人的成果，产生侵犯知识产权的风险。另一方面，大语言模型展现出的推理能力与创作能力可能被用于考试作弊等学术不端行为。

对于学术领域，研究人员可能使用ChatGPT等大语言模型辅助科研，包括起草、修改论文和演讲稿等，这可以帮助科研人员更快地产出论文，但也可能降低研究的质量和透明度，因为ChatGPT等大语言模型生成的文本可能存在事实性错误，在科研进程中不合理地使用这些模型可能导致扭曲科学事实并传播错误信息。

在教育产业则需要更加严格地限制大语言模型的使用，一方面原因是大语言模型所蕴含的价值观难以被量化分析，其生成的内容对学生的价值观影响是不可控的；另一方面，使用大语言模型帮助或者代替学生完成作业以及进行考试作弊的成本很低，这会改变学生在学习过程中的自主性，影响独立思考的能力，将会产生学术不端行为等风险。

与搜索引擎相比，ChatGPT具有额外的模式风险，即生成内容的责任承担问题构成的风险。搜索引擎是信息搜索的中介代理，搜索引擎的提供商本质上不生产内容，内容的第三方创作者是相应内容的责任人。而ChatGPT是拟人的，根据创作者的提示对内容进行生成创作，虽然OpenAI在使用条款中说明，只要用户遵守使用条款，OpenAI就会将AI输出内容中的所有权和利益转让给提供输入内容的用户，但面对规模庞大并不断增长的使用者从ChatGPT获取自动生成的海量内容，OpenAI不需要对这些内容承担任何责任和舆论风险，这显然是不可能的。

ChatGPT在自然语言处理与AI技术的发展与产品的落地历程中，具有里程碑式的意义，它消除了AI与普通大众之间的距离，以对话这一友好的方式建立了人与AI接触的平台，但它仍然存在各种问题与风险，因此笔者总结了相关产品中国化的发展建议如下：

（1）重视ChatGPT带来AIGC（AI Generated Content）的新机遇：ChatGPT利用大型语言模型将通用人工智能技术带到新高度，采用多轮对话形式，将对政府治理、企业经营、学术研究与个人生活产生不亚于互联网诞生的革命性影响，将极大解放办公、编程、文稿等一般性的智力劳动。

（2）防范ChatGPT的内容安全风险：中国需要构建自主可控的中文ChatGPT技术。从硬件、软件、中文资源、算法、工程应用等多方面，避免炒作，务实推进中国版ChatGPT的落地，服务我国国家安全、企业创新与民生保障。

（3）防范ChatGPT的伦理风险：国家政府有关部门需要尽快针对AI创作等关键问题进行监管制度的修订和完善。对于AI创作内容与人类作者的创作权利问题需要更全面的法律解释。另一方面，对于大语言模型的使用需要制定相关政策，引导人们正确使用大语言模型。重视投资开源的、共建共享的大语言模型。

（4）以国家需求为导向：ChatGPT属于科学研究与工程应用在人工智能方向的一大突破，学术研究应不拘泥于学术界假定的公开数据集，不拘泥于在深度学习调优进行跟风式微创新，跳出发表论文为主要目标的窠臼，真正研究真实世界的真实问题，以国家重要战略需求为导向，进行前沿性、先导性、前瞻性、颠覆性的创新。

（5）定制化特定领域的模型：ChatGPT是通用领域的对话模型，中国也需要适应特定领域的小型模型，即针对不同领域进行个性化定制的模型。中国的科技领域需要构建自己的模型以满足中国自身的需求，例如现代汉语、古文、少数民族语言、方言的多语言模型，打破人们之间交流的语言壁垒。大模型未来的发展道路需要关注更深层次的技术，避免跟风式炒作，基础创新不应盲目跟风。

本文在9个中文数据集上评估了ChatGPT的性能表现，发现其在情感分析、自动摘要和阅读理解等经典自然语言处理任务上具有较好的表现，在闭卷知识问答上容易犯事实性错误。根据评估结果，本文进一步分析了ChatGPT可能面临的风险挑战，并为其中国化模型提出了发展建议。希望本文的研究对未来工作有所启发，例如研发中国自主可控的通用语言模型以及利用语言模型的推理能力解决更多的现实问题。

张华平：提出研究思路，设计研究方案，论文起草和最终版本修订；

李林翰：执行实验，撰写论文；

李春锦：辅助实验，修订论文。

所有作者声明不存在利益冲突关系。

[1] ChnSentiCorp. https://github.com/pengming617/bert_classification.

[2] EPRSTMT. https://github.com/CLUEbenchmark/FewCLUE.

[3] LCSTS. DOI: 10.48550/arXiv.1506.05865.

[4] TTNews. http://tcci.ccf.org.cn/conference/2017/taskdata.php.

[5] CMRC2018, DRCD, C3. https://github.com/CLUEbenchmark/CLUE.

[6] WebQA. DOI: 10.48550/arXiv.1607.06275.

[7] CKBQA. https://github.com/pkumod/CKBQA.