笔趣书吧 > 都市小说 > 重生之AI教父 > 第233章 GPT的魅力所在

第233章 GPT的魅力所在(2 / 2)

推荐阅读: 漕贼 我,985废物,在线摆烂 建设人类宇宙 棉羊平时很温驯 佳人轻抚琴2潜龙乱世 浅评水浒传 网游:制霸全服,成为宇宙之主 狗在楚营 快乐系球王,愁苦瓜迪奥拉 病娇攻略拯救计划 塌房,然后被东京辣妹捡走 一人之下:炼炁为灵 祂,行走于人间 开局掠夺十二符咒,无敌诸天万界 家族修仙:我的悟性不断增强 巫师:从培养女猎魔人开始 他人练武我修仙 宠妃嘤嘤嘤,暴君跪地宠 斗罗之宁荣荣 成亲后,我修炼武道必有所成 苍生经 我一个鬼差,你让我跟校花领证? 东晋:从谢道韫咏絮开始 她们怎么还没怀疑我? 我在凡人修仙传打造长生家族 我有万般神通 美利坚梦魇 从怪猎开始的无限转职 从猎人考核开始成为最强猎人 美好四十年的时代 仙侠:开局破解千古棋局 我的炼药师女友 海贼的航海 灵幻风云传奇 凹凸:因为任务认识的朋友 搞怪特务 豪门双生花 名柯:行走在灰色地带的腹黑萝莉 末世全民接种 汉末战国 大明:朱雄英最强三代目 我那不合群的小青梅居然是赫敏! 人在战锤有惊世智慧 独自一人的怪谈游戏 书藏古今,我打造节目对话诸圣先贤 盗墓:我的金手指是穿越者 星落凝成月 初火影,后为仙 万古第一婿纯情犀利哥 原神,我荒泷一斗,不当搞笑男! 软糯只只一笑,腹黑狼崽子心乱了 救命!高冷蛇王缠上我 墓旁的相思 猫猫能有什么坏心思? 我的体内封百鬼 崩坏三:我杀了他们,但我是好人 开局:大帝修为,建立战神殿 档案组3 崩坏,在崩坏的世界里成为奥特曼 散文诗10000

但是同时,由于做了针对性的训练,它在其他方面的能力会有所损失,受到一定的影响。

如果让它再做别的任务,就不大行。

而Gpt的模式,则是【指示】。

也就是说,模型不会做二次学习、针对性学习,它不改变自己的参数。

你要做的,是给它一个示范和引导。

“你看一下,帮我找找类似这样的句子。”

然后它就直接开展工作了。

下一次需要做别的任务的时候,bERt就很不方便,只能重新再做针对性学习。

Gpt则看一下新的指示和样例,又能直接再次工作。

这在目前的阶段来看,是非常不可思议的。

至少在场的诸位都觉得这么做是得不偿失,为了某种形式上的先进而损失了大量的性能,毫无必要。

“你这说的是不是太离谱了,你只是做一个示范,给模型一个提示,根本就没有修改过任何的模型参数,为什么它会有效果的提升?”听完孟繁岐对两种办法的形容之后,阿里克斯眉头紧皱:“结果如果真的是这样,那不是彻底成玄学了?”

孟繁岐心说可不么,这东西听起来是不可思议,但确实有效。

直到他重生前,这件事也没有一个特别靠谱的严肃解释。

而且这还不是最神奇的地方。

上面所说的那种,给Gpt一个例子,然后让他做这样的工作,叫做oneShot学习。

因为至少,你还让它看了一个例子,做了一次示范。

而在后来的chatGpt和Gpt-4的时候,更多的用户使用情况,是根本不会给模型任何例子的。

一般冲上来就直接布置工作了,比如“帮我翻译一下这个句子”又或者是“帮我以xx为题写一个xx”。

这种模式叫做ZeroShot学习,连例子都不用给,直接开干。

不管是分类文本,学习情感,写作文案还是翻译句子,不多废话直接安排,它自己就能看懂要做什么。

这才真的符合孟繁岐在人机大战的时候展现的那个概念视频,多种功能合而为一。

同时,它也是Gpt与bERt最为不同的地方,这种独特的使用方式使得chatGpt效果一旦达标之后,直接就成为了现象级的产品。

毕竟谁能拒绝这种十几合一的多面手智能小助手呢?实在太酷了。

“你规划中的bERt和Gpt,其实就是自编码和自回归。Gpt会更擅长生成任务,翻译和问答。bERt则会更加擅长重建文本,做语言的分类。”

辛顿仍旧非常老辣地抓住了两种方式的重点,但即便是这位AI老教父,他的预测终究还是出现了偏差:“我个人觉得,bERt的模式会强大很多,双向编码虽然牺牲了直接生成文本的能力,但对语言中各个词汇的理解会更加到位。Gpt只能单向预测下一个文本,它对句子之间的内在联系理解是不够到位的。”

孟繁岐觉得辛顿虽然支持bERt,但他的预测和分析并不能算错。

毕竟chatGpt经历了1、2、3、3.5四代迭代,才孕育出了chatGpt。

在亿级别的时代,Gpt需要四五倍的参数量才能够维持bERt级别的性能。

谁都没有想到,模型参数量到达接近两千亿的规模之后,竟然涌现出了这般神奇的超能力。

如果只从目前几千万甚至只有几百万的参数量规模去考虑的话,Gpt的实力的确很难去和bERt相比拟。

“我推荐伱还是把主要的精力放在bERt这种模式上,t方法的效果已经非常优秀了,在你加入了双向形式,专注编码之后,在很多特定的任务上都会有巨大的突破。”

孟繁岐只是笑了笑,没有争辩,作为重生人士,他清楚哪些建议比较有价值,哪些建议是被时代所局限了。

最新小说: 再逢秋[破镜重圆] 我的丛林鄙夷爱情 心动小屋[恋综] 槐风 狂野占有 裙边触礁 跟男顶流分手后,他又缠过来了! 而后有夏 顶级万人迷光环 强扭的顾太太超甜,被顾总宠上天 有效公关[娱乐圈] 咬荔枝 高跟鞋遇上绿茵场 替嫁后我怀了清冷佛子的崽! 婚后潮起 三伏天(校园) [娱乐圈]Untitled,2004 坏恋人 都市女子高跟鞋概论 娱乐圈换装夫妇光复国服 眷南风 男友说他深爱我[娱乐圈] 陆教授的恋爱法则 热恋预告[先婚后爱] 错位暗恋 我上恋综BOSS直聘 苍耳 香草绿茶 别爱无恙 寻找时间的灰度(已出版) 荡漾 当我拿错三次猫之后 晨昏博弈 婚后失控[先婚后爱] 少踩我尾巴[先婚后爱] 罗曼蒂克回忆录 敬之颠沛 玄幻:权掌天命当镇压世间一切敌 偃师圣手:开局被挖傀儡心 天生道体,废柴逆袭系统什么鬼? 玄幻:天命大反派 青春靓丽2020:5:28 绝世魂宠 从核战废土到仙侠世界 瘴骨凡仙 万古山海烬 开局建立青衣楼,幕后我为尊 狂剑绝刀 天医诡纹:阴阳禁区 雷灵帝路 末世神农系统 魔头求道 星骸圣胎录 洪荒我主宰谁与争锋 啥!祖师居然只是炼气期? 封神帝辛,人皇人族圣皇 我,重生天帝,亲手开启黑暗动乱 无限流:在各个里世界玩扮演 御魔巅峰 永恒万界主