1.1 ChatGPT的发展背景
ChatGPT是一个可以对话的方式进行交互的模型,因为它的智能化,得到了很多用户的欢迎。Generative Pre-trained Transformer (GPT),是一种基于互联网可用数据训练的文本生成深度学习模型。它用于问答、文本摘要生成、机器翻译、分类、代码生成和对话 AI。
总体来说GPT截至目前的整个发展史,总体而言分以下几次迭代:
1. 第一次迭代:GPT-1的诞生
2018年,GPT-1诞生,这一年也是NLP(自然语言处理)的预训练模型元年。性能方面,GPT-1有着一定的泛化能力,能够用于和监督任务无关的NLP任务中。其常用任务包括:
• 自然语言推理:判断两个句子的关系(包含、矛盾、中立)
• 问答与常识推理:输入文章及若干答案,输出答案的准确率
• 语义相似度识别:判断两个句子语义是否相关
• 分类:判断输入文本是指定的哪个类别
虽然GPT-1在未经调试的任务上有一些效果,但其泛化能力远低于经过微调的有监督任务,因此GPT-1只能算得上一个还算不错的语言理解工具而非对话式AI。
2. 第二次迭代:GPT-2的成长
GPT-2也于2019年如期而至,不过,GPT-2并没有对原有的网络进行过多的结构创新与设计,只使用了更多的网络参数与更大的数据集:最大模型共计48层,参数量达15亿,学习目标则使用无监督预训练模型做有监督任务。
在性能方面,除了理解能力外,GPT-2在生成方面第一次表现出了强大的天赋:阅读摘要、聊天、续写、编故事,甚至生成假新闻、钓鱼邮件或在网上进行角色扮演通通不在话下。
在“变得更大”之后,GPT-2的确展现出了普适而强大的能力,并在多个特定的语言建模任务上实现了彼时的最佳性能。
3. 第三次迭代:GPT-3的升级
GPT-3出现了,作为一个无监督模型(现在经常被称为自监督模型),几乎可以完成自然语言处理的绝大部分任务,例如面向问题的搜索、阅读理解、语义推断、机器翻译、文章生成和自动问答等等。
该模型在诸多任务上表现卓越,例如在法语-英语和德语-英语机器翻译任务上达到当前最佳水平,自动产生的文章几乎让人无法辨别出自人还是机器(仅52%的正确率,与随机猜测相当),更令人惊讶的是在两位数的加减运算任务上达到几乎100%的正确率,甚至还可以依据任务描述自动生成代码。一个无监督模型功能多效果好,似乎让人们看到了通用人工智能的希望,可能这就是GPT-3影响如此之大的主要原因。
4. 第四次迭代:ChatGPT的爆炸
有一个让人震惊的江湖传言:GPT4据称通过了图灵测试!
图灵测试究竟是什么意思?简单的说,就是隔着一个小黑屋问各种话题,然后是否能分辨小黑屋里回答问题的究竟是机器还是人类。如果无法辨别,就说明了机器具有和人一样等级的智能,通过了图灵测试。迄今为止,还没有AI模型能真正通过图灵测试。谁知道,还没等来GPT4,衍生自GPT3.5的ChatGPT却先来了。
目前来看:ChatGPT仍有一些缺点,但这都只是战术级别的;在战略上,ChatGPT的前景已经相当令人期待,特别是OpenAI下一代GPT4加持下的ChatGPT,其能力恐怕更加突破天际~
注:上文主要参考以下文章:
1.GPT4发布在即堪比人脑,多位圈内大佬坐不住了!-徐杰承、云昭 -公众号51CTO技术栈- 2022-11-24 18:08
2.一文解答你对GPT-3的好奇!GPT-3是什么?为何说它如此优秀?-张家俊 中国科学院自动化研究所 2020-11-11 17:25 发表于北京
3.The Batch: 329 | InstructGPT,一种更友善、更温和的语言模型-公众号DeeplearningAI-2022-02-07 12:30
4.微信公众号:Web3天空之城(ID:Web3SkyCity),作者:城主,原文标题:《从爆火的ChatGPT讲起:自然语言生成式AI的前世今生,你想了解的一切》
1.2 目前类似的AI问答机器人有哪些?
看到ChatGPT一夜爆火,全球多家科技巨头都坐不住了。
1.2.1 国外市场
谷歌:
当地时间2月6日,据CNN报道,谷歌母公司Alphabet宣布推出名为“Bard”的人工智能聊天机器人服务。
微软:
微软宣布推出搭载AI功能的新版搜索引擎必应及浏览器Edge,外媒称其为“类ChatGPT(ChatGPT-like)”技术,甚至更强。
苹果:
苹果将举行年度内部人工智能峰会。它就像人工智能界的苹果全球开发者大会,但仅限于苹果员工。
meta:
2022年年度报告投资者电话会议扎克伯格表示:我们的目标是成为“生成式人工智能”的领导者。
1.2.2 国内市场
百度:
百度公司官宣,将于3月完成其人工智能聊天机器人服务“Ernie Bot”的内部测试,面向公众开放。该服务与OpenAI推出的ChatGPT类似,中文名字确定为“文心一言”。
阿里:
达摩院正在研发类ChatGPT的对话机器人,目前已开放给公司内员工测试。
美团:
原美团联合创始人王慧文发文称:5000万美元带资进组,下轮融资已有顶级VC认购2.3亿美金!高调宣言入局AI。
1.3 ChatGPT的产品模式
作为一个聊天机器人,问和答,就是ChatGPT的产品模式。
你来问,它来答。
你输入问题指令,它来完成你布置的作业。
这种简单问答模式的优势有:
1. 直达用户需求(说人话就是,明白你在说啥)
2. 能够同时满足多个、不同层次的需求(说人话就是,能和你在各个不同领域对话)
3. 回答是整体、可操作性的,直达结果的(说人话就是,不像传统搜索引擎,只给出关键词相关的网页,还需要人工再去筛选整合)
4. 成长性强,有趣味性(说人话就是,可以给出相关的咒语,让它变得更能听懂你的话,并且可以根据要求给出不同风格的回答)
总的来说,ChatGPT的产品模式是以API的形式向客户提供访问大型语言模型的机会,从而帮助客户提高语言处理能力和实现语言生成、对话和问答等功能。
1.4 ChatGPT都能做什么?
它的能力多寡,取决于我们的想象力。
以下是它在具体案例中的应用案例:
谷歌面试官发现ChatGPT,能通过年薪18万美元工程师招聘考试;
北密歇根大学教授,发现班里最好的论文,出自ChatGPT之手; 有人零基础,靠它做出了3D射击游戏; 美国房产中介用它生成房源文案,一小时工作量,5秒完成; |
ChatGPT投资方之一微软称:旗下所有产品都将整合ChatGPT,Word可以自动写周报,Outlook可以自动写请假邮件。
而在更大领域,专家推测,ChatGPT将改变搜索习惯,替代咨询行业,替换传统客服,颠覆代码创作,改变将快速发生。
站在冲击一线的还有内容行业。
格式固定的公文写作、套路重复的公关写作,以及有迹可循的新闻写作,ChatGPT都可完美完成。
小说、剧作、漫画和动画脚本,ChatGPT也可在调校下,以远超传统的速度完成。
已有大学生,用ChatGPT完成脚本,用其他AI工具完成画面,独立制作动画短片。一个人即影视公司。
在旧职业灭亡同时,新职业也在诞生。
可以预测,AI调校师,AI创意师,AI对接技术员,将进入大多数行业。
ChatGPT是超级工具,不是超级智能,它不会替代人类,而是在升级行业。
它将极大降低创意和执行门槛,与人类相辅相成。如果你拥有自己的公司,ChatGPT可以成为你的软文撰写员、店铺客服、新媒体推广…如果你没有自己的公司,ChatGPT可以帮你自己就成为一家公司。
所以在肉眼可见的未来,会用AI的人和不会用AI的人在工作效率上会有非常大的差距,希望你能尽快有意识的让自己熟悉和Ai沟通的方法。 |
1.5 更多人工智能论文文献
由于文件过多过大,请自行前往百度网盘完成下载阅览