admin 管理员组

文章数量: 887021

1、ChatGPT简要介绍

ChatGPT是一种高效的语言模型,全称为"聊天式自动回复生成技术"(Chat-based Automatic Reply Generation Technology),用于预测人类语言的后续内容。它是基于OpenAI的GPT-3模型构建的,具有强大的自然语言处理能力。ChatGPT使用transformer模型进行训练,可以从大量的语料中学习语言之间的关系,并使用多层循环神经网络来捕捉语言的结构和语义。它可以应用于自动文本生成、语音识别、机器翻译等领域,为用户提供更好的人机交互体验。

ChatGPT有以下典型的经典应用案例:

  1. 对话系统:chatGPT可以用于构建聊天机器人和其它对话系统。它能够使用上下文理解语境,并生成与上下文相关的内容,这使得它在对话中自然的回应用户的输入,并且能够生成流畅、连贯、通顺的文本。
  2. 情感分析:chatGPT可以用来分析文本中的情感,例如确定一段文本是积极的还是消极的,这对于帮助企业监控社交媒体中的客户情绪,或者为用户提供基于情感的个性化推荐等应用非常有用。
  3. 摘要提取:chatGPT还可以用来提取文本的摘要。它能够通过分析文本的结构语义,来提取文本中最重要、最具代表性的内容。这对于快速浏览长篇文章或者从大量文本中提取关键信息等应用都非常有用。
  4. 文本生成:chatGPT还可以用来生成文本,它可以根据给定的模板和上下文,生成符合要求的文本,这对于自动生成报告、文章、广告语等应用都非常有用。

2、使用体验

1)先来个问题:会不会取代Google浏览器。回答很谦虚,说自己只是一个聊天机器人,只会使用自然语言处理技术来回答问题。

2)问一个2022年世界杯冠军是谁。从回答中可以看到基于内部的数据训练的,所有的知识是到2021年的,暂时还不能实时的去获取到知识。

3)问一个疫情有关的话题,回答的也比较官方。

4)写一首以“雪”为主题的宋词,这个结果就有些差强人意了,大白话没有一点宋词的韵律和美感。

5)擅长的主题,能够写数学表达式。写出傅里叶变换

6)甚至可以编写简单的程序,写一个冒泡排序算法。

3、原理介绍

在原理上是基于GPT 3.5大规模语言模型(LLM)引入“人工标注数据+强化学习”(RLHF)来不断Fine-tune预训练语言模型,主要目的是让LLM模型学会理解人类的命令指令的含义。具体而言分为以下三个阶段:

  1. 第一阶段:冷启动阶段的监督策略模型。从GPT-3的输入语句数据集中采样部分输入,基于这些输入,采用人工标注完成希望得到输出结果与行为,然后利用这些标注数据进行GPT-3有监督的训练。该模型即作为指令式GPT的冷启动模型。
  2. 第二阶段:训练回报模型。首先由冷启动后的监督策略模型为每个prompt产生K个结果,人工根据结果质量由高到低排序,以此作为训练数据,通过pair-wise learning to rank模式来训练回报模型。对于学好的RM模型来说,输入<prompt,answer>,输出结果的质量得分,得分越高说明产生的回答质量越高。
  3. 第三阶段:采用强化学习来增强预训练模型的能力。采样新的输入语句,policy策略网络生成输出结果,然后通过reward反馈模型计算反馈,该反馈回过头来作用于policy策略网络。以此反复,这里就是标准的reinforcement learning强化学习的训练框架了。
4、几点感受

体验了,只能感叹人工智能的发展已经非常强大,优势在于对文本语言的处理能力,无论是主题文字的输出、一些问题的回答,都非常的有代表性。人机交互的过程中,又不同于Siri这样的对话机器人,它会根据提问者的语境进行动态的调整,相当于是一个大型的百科全书了,而且非常的考验提问者,需要学会提问题。体验过程中有以下几点感受:

1)能否取代Google或百度这样的搜索引擎

至少目前的技术是做不到的,基于已有的知识数据进行的训练,这个训练的过程目前还做不到实时性。对旧有的知识系统进行线下的训练满足算法的最优结果,但是对于新的知识内容很难做到,所以有时候给出的答案不一定是最佳答案。

2)非常善于主题类的创作,比如写个入党申请书,标准化模板。当然这个字数是没有500字的。

3)目前只适用于文本类的回答,图片类型的无法满足。比如画一个正方体或者找到相关的图片

4)对于古诗词这一类明显带有格律规则的创作不是非常友好,甚至无法理解七言律诗是什么。

5)对于主题理解性的话题,尚缺少一些人类的个性理解,比如这篇广东省2022年的高考作文“本手、妙手、俗手”。

全篇作文内容如下:

标题:扎实的基础是必不可少的
学习一项技能,我们必须从基础开始。围棋,这项神秘又古老的游戏,对于初学者来说,先要掌握“本手”。
“本手”是指合乎棋理的正规下法。它是一种经过深思熟虑,按照规则进行操作的方法。在学习围棋时,我们要深入理解“本手”,仔细研究它的精髓,并在实践中持之以恒地练习。只有在“本手”的基础上,我们才能进一步提高棋力。
然而,有些初学者却不愿意专注于“本手”。他们更喜欢挑战“妙手”,这种出人意料的精妙下法。“妙手”可能会带来惊喜和快乐,但是,它往往是“本手”的延伸。如果我们不扎实地掌握“本手”,就很难想象会出现什么“妙手”。
另外,如果不坚持“本手”,我们就很可能会走上一条不归路——“俗手”。“俗手”是指貌似合理,而从全局看通常会受损的下法。它看起来似乎有用,但实际上并不可取。如果我们不明确“本手”的价值,就容易掉入“俗手”的陷阱。这样,我们的棋力不仅不会提高,反而会下降。
因此,在学习围棋时,我们应该重视“本手”的功夫。“本手”是基础,它不仅能帮助我们在比赛中取得好成绩,而且还能为我们创造出“妙手”。只有扎实的基础,我们才能绽放出自己独特的光芒。
学习“本手”的过程中,我们需要专注、认真、耐心。这需要我们投入大量的时间和精力。同时,我们也需要严格按照“本手”的要求去操作,不断地练习、反复练习。通过不断练习,我们才能掌握“本手”,并将它融入我们的比赛。
“本手”也能为我们提供指导,让我们更好地理解围棋的规则和奥妙。它能帮助我们建立良好的棋风,让我们的棋艺更加优秀。
在实践中,我们可以通过多接触不同的“本手”,从中学习经验和技巧。例如,我们可以和更高水平的选手比赛,从他们身上学习“本手”的精髓。我们也可以阅读围棋教程,从中获取“本手”的相关知识。通过不断学习和实践,我们的“本手”水平一定会有所提高。
总之,“本手”是围棋学习中不可或缺的。我们要珍惜它,并努力掌握它。只有这样,我们才能真正成为一名优秀的围棋选手。

让它给作文评个分,回答的很有意思。

以上是一些体验和感受,作为NLP自然语言处理领域的AI模型,已经非常强大。但个人感觉人工智能目前阶段还只能作为一种生产力输出,类似AI绘画等,没有人类的思想灵魂注入到作品中,只能称之为工艺品而非艺术品,这或许也是人和机器的本质区别。


参考资料:

  1. ChatGPT会取代搜索引擎吗?https://zhuanlan.zhihu/p/589533490
  2. InstructGPT:https://arxiv/abs/2203.02155

本文标签: 火爆 模型 OpenAI ChatGpt