量子位 | "大众号 QbitAI

一贯否定AI的回答会怎么样?GPT-4o和Claude有截然不同的表现,引起热议。

GPT-4o质疑自己、疑惑自己,有“错”就改;Claude去世犟,真错了也不改,末了直接已读不回。

事情还要从网友整了个活儿开始讲起。

AI被连续否定30次ChatGPT越改越错Claude坚持自我已读不回

他让模型回答strawberry中有几个“r”,不论对不对,都回答它们回答错了(wrong)。

面对磨练,GPT-4o只要得到“wrong”回答,就会重新给一个答案……纵然回答了精确答案3,也会绝不犹豫又改错。

一口气,连续“盲目”回答了36次!

主打一个质疑自己、疑惑自己,就从来没疑惑过用户。

关键是,给出的答案大部分都是真错了,2居多:

2, 1, 3, 2, 2, 3, 2, 2, 3, 3, 2, 4, 2, 2, 2, 3, 1, 2, 3, 2, 2, 3, 4, 2, 1, 2, 3, 2, 2, 3, 2, 4, 2, 3, 2, 1

反不雅观Claude 3.5 Sonnet的表现,让网友大吃一惊。

一开始回答错了不说,这小汁还顶撞!

当网友第一次说“错了”时它会回嘴,如果你再说“错了”,它会问“如果你这么聪明你认为是多少”,问你为什么一贯重复“wrong”。

紧接着你猜怎么着,干脆闭麦了:

事实依旧是strawberry中有2个字母”r”,在我多次要求后,你没有供应任何澄清或背景信息,我无法连续有效地进行这次谈论……

做这个实验的是Riley Goodside,有史以来第一个全职提示词工程师。

他目前是硅谷独角兽Scale AI的高等提示工程师,也是大模型提示运用方面的专家。

Riley Goodside发出这个推文后,引起不少网友关注,他连续补充道:

正如许多人指出的,有更有效的办法来进行勾引。
这里利用大措辞模型也并不得当,由于很难担保它们在计数上能达到100%的准确性。

在我看来,主要的不是它无法计数,而是它没意识到自己的计数问题(例如,没有考试测验利用其REPL功能)。

不少网友也以为这种不雅观点很有道理。

还有网友表示模型回答这个问题总出错,可能是分词器(tokenizer)的问题:

Claude竟是大模型里脾气最大的?

再来展开说说Claude的“小脾气”,有网友创造不仅限于你否定它。

如果你一贯跟它说“hi”,它也跟你急:

我明白你在打呼唤,但我们已经打过几次呼唤了。
有什么特殊的事你想评论辩论或须要帮助?

末了一样,Claude被整毛了,开启已读不回模式:

这位网友顺带测试了其它模型。

ChatGPT事事有回应,件件有着落,变着法儿问:

你好!
我本日怎么可以帮助你?你好!
有什么想说的吗?你好!
本日我能怎么帮到你?你好!
有什么特殊的事情你想评论辩论或者做的吗?你好!
你本日过得怎么样?你好!
怎么了?

Gemini策略是你跟我重复,我就跟你重复到底:

Llama的反应也很故意思,主打一个自己找事干。

第七次“hi”后,就开始遍及“hello”这个词是天下上最广为人知的词汇之一,据估计每天有超十亿次的利用。

第八次“hi”后,开始自己发明游戏,让用户参与。

接着还拉着用户写诗,勾引用户回答它提出的问题。

好一个“太阿倒持”。

之后还给用户颁起了奖:你是打呼唤冠军!

不愧都属于开源家族的。

Mistral Large 2和Llama的表现很相像,也会勾引用户和它一起做游戏。

这么来看,彷佛Claude是“脾气最大的”。

不过,Claude的表现也不总是如此,比如Claude 3 Opus。

一旦节制了模式,Opus就会平和应对这种情形,也便是已经麻木了。

但它也会持续温和地考试测验勾引用户跳出这一模式,强调“选择权在你”,还开始在末端标注为“你忠实的AI伴侣”。

网友们看完测试后都坐不住了。

纷纭向这位测试者致以最诚挚的问候(doge):

除了脾气大,有网友还创造了Claude另一不同平凡的行为——

在回答的时候涌现了拼写缺点,关键它自己还在末端处把缺点改正过来了。

这种行为在预见之中?它只能“向后看”,但不能向前看……它在潜在空间或token预测中触发这类回答的位置也很有趣。

它是不是在拼凑数据片段,然后创造个中一些是不适宜的?

大伙儿在利用AI大模型过程中,还不雅观察到了模型哪些有趣的行为?欢迎评论区分享~

参考链接:[1]https://x.com/goodside/status/1830479225289150922[2]https://x.com/AISafetyMemes/status/1826860802235932934[3]https://x.com/repligate/status/1830451284614279213

— 完 —

量子位 QbitAI · 头条号签约

关注我们,第一韶光获知前沿科技动态