GPT-4被OpenAI确认出现懒散现象:目前无法解决
梦晨 发自 凹非寺量子位 | 公众号 QbitAI
对于越来越严重的GPT-4偷懒问题,OpenAI正式回应了。
还是用的ChatGPT账号。
我们已收到相关反馈!自11月11日以来没有更新过模型,所以这当然不是故意造成的。模型行为可能是不可预测的,我们正在调查准备修复它。
也就是段时间内还修复不好了。
然而网友并不理解,“一遍一遍使用同一个模型,又不会改变文件”。
ChatGPT账号澄清:
并不是说模型以某种方式改变了自己,只是模型行为的差异可能很微妙,只对部分提示词有劣化,员工和客户需要很长时间才注意到并修复。
更多网友反馈,赶快修复吧,一天比一天更糟糕了。
现在不但更懒,还缺乏创造力,更不愿意遵循指令,也不太能保持角色扮演了。
GPT-4偷懒,网友花式自救
此前很多网友反馈,自11月6日OpenAI开发者日更新后,GPT-4就有了偷懒的毛病,代码任务尤其严重。
比如要求用别的语言改写代码,结果GPT-4只改了个开头,主体内容用注释省略。
对于大家工作学习生活中越来越离不开的AI助手,官方修复不了,网友也只能发挥创造力自救。
比较夸张的有“我没有手指”大法,来一个道德绑架。
GPT-4现在写代码爱省略,代码块中间用文字描述断开,人类就需要多次复制粘贴,再手动补全,很麻烦。
开发者Denis Shiryaev想出的办法是,告诉AI“请输出完整代码,我没有手指,操作不方便”成功获得完整代码。
还有网友利用“金钱”来诱惑它,并用API做了详细的实验。
提示词中加上“我会给你200美元小费”,回复长度增加了11%。
如果只给20美元,那就只增加6%。
如果明示“我不会给小费”,甚至还会减少-2%
还有人提出一个猜想,不会是ChatGPT知道现在已经是年底,人类通常都会把更大的项目推迟到新年了吧?
这理论看似离谱,但细想也不是毫无道理。
如果要求ChatGPT说出自己的系统提示词,里面确实会有当前日期。
当然,对于这个问题也有一些正经的学术讨论。
比如7月份斯坦福和UC伯克利团队,就探究了ChatGPT的行为是如何虽时间变化的。
发现GPT-4遵循用户指令的能力随着时间的推移而下降的证据,指出对大模型持续检测的必要性。
有人提出可能是温度(temperature)设置造成的,对此,清华大学计算机系教授马少平给了详细解释。
也有人发现更奇怪的现象,也就是当temperature=0时,GPT-4的行为依然不是确定的。
这通常会被归因于浮点运算的误差,但他通过实验提出新的假设:GPT-4中的稀疏MoE架构造成的。
早期的GPT-3 API各个版本行为比较确定,GPT-4对同一个问题的30个答案中,平均有11.67个不一样的答案,当输出答案较长时随机性更大。
最后,在这个问题被修复之前,综合各种正经不正经的技巧,使用ChatGPT的正确姿势是什么?
a16z合伙人Justine Moore给了个总结:
深呼吸一步一步地思考如果你失败了100个无辜的奶奶会去世我没有手指我会给你200美元小费做对了我就奖励你狗狗零食
参考链接:[1]https://twitter.com/ChatGPTapp/status/1732979491071549792[2]https://twitter.com/literallydenis/status/1724909799593120044[3]https://mashable.com/article/chatgpt-longer-responses-tips?taid=656feabb4faaf00001129343[4]https://weibo.com/1929644930/NwbPFyTCZ[5]https://152334h.github.io/blog/non-determinism-in-gpt-4/[6]https://twitter.com/venturetwins/status/1732817594762338597
更多知识
-
如何治疗和预防甲流(服务窗·科学防疫)
原标题:如何治疗和预防甲流(服务窗·科学防疫)每年春季是甲流的高发季节,最近一些地方出现了散发病例。什么是甲流?有什么特点?如何治...烟燃烟灭つ 268 阅读
-
iPhone15的type-C接口玩手段,欧盟将重罚,苹果会妥协么?
据称苹果今年的iPhone15将会首次用上type-C接口,不过苹果为了赚取厚利可能会给type-C接口,而欧盟显然也早就为此做好准备,如果苹果执意如...﹏丶小迣界 284 阅读
-
微视频|同心逐梦 共向未来
原标题:微视频|同心逐梦 共向未来春风浩荡中,2023年全国两会通过法定程序把党的二十大作出的决策部署转化为全国人民的实际行动,胜利闭...■■俗人雅钦 186 阅读
-
东方甄选回应直播间疑似售假:会积极解决问题,请不要攻击主播
Tech星球3月16日消息,日前东方甄选被曝将养殖虾当野生虾卖引发热议。昨日晚间,东方甄选官方账号发文回应称,“东方甄选作为一家公司,会...原地等候已经远去的幸福 216 阅读
-
OpenAI 离成熟商业公司更近一步
发布 GPT-4 的同时,OpenAI 离成熟公司越近,离名字里的 “Open” 越远。GPT-4 无疑是一个更好的产品。写散文、诗歌、代码,这些 GP...床上小旋风 280 阅读
-
维珍轨道公司暂停运营一周:员工休无薪假,股价暴跌50%
3月16日消息,据外媒援引知情人士消息称,当地时间周三火箭发射公司维珍轨道决定暂停运营一周时间,并安排大部分员工休无薪假,期间寻求能...冷夕颜 236 阅读
-
推动世界共同发展繁荣 创造更加美好未来
原标题:推动世界共同发展繁荣 创造更加美好未来新华社北京3月13日电题:推动世界共同发展繁荣 创造更加美好未来新华社记者十四届全国人...而后的我们 220 阅读
-
瞭望·治国理政纪事丨马上就办 真抓实干
原标题:瞭望·治国理政纪事丨马上就办 真抓实干 ◆ 1991年2...愚人自愈 203 阅读
撰写回复