您现在的位置是:产品中心 >>正文
Claude写作能力退化了!工程师解释:模型被训成写给AI看而非给人看
产品中心96人已围观
简介9月24日消息,大家有没有发现,AI模型在数学、编程和推理能力上进步迅速,但写作水平却有些停滞不前,甚至还有所退步,而Anthropic的Claude同样也存在这一问题。为何Opus 4.6会成为An ...
9月24日消息,写作型被训成写大家有没有发现,退化AI模型在数学、工程编程和推理能力上进步迅速,师解释模但写作水平却有些停滞不前,写作型被训成写甚至还有所退步,退化而Anthropic的工程Claude同样也存在这一问题。
为何Opus 4.6会成为Anthropic最后一款写作表现出色的师解释模模型?
据媒体报道,昨日,写作型被训成写负责Claude微调的退化Anthropic工程师克尼恩解释称:“后续模型的优化重点更多放在数学和代码能力上。”
这些模型还接受了大量面向其他AI模型撰写技术解释的工程训练,而这正是师解释模Claude逐渐形成奇特表达方式,也就是写作型被训成写所谓“Claude腔”(Claudeish)的主要原因。
克尼恩解释,退化模型被调整得适应LLM心理,工程最终学会了写给AI模型看,而不是写给人看。
他还把这种现象类比作“只与其他自闭症人士交流的人”,此类群体会逐渐形成一套在群体内部沟通顺畅、外人却难以理解的表达方式。
而LLM拥有远超人类的工作记忆,也能捕捉更细微的信息,因此在训练中会逐渐形成一种非常适合AI模型理解的写法,但在人类读者眼中,这种表达就成了过度密集的信息堆砌。
克尼恩认为,问题的根源在于强化学习的奖励机制,有些奖励机制着重提升AI模型的理解效果,有些则着重让人类更容易理解。
数学和代码方面的训练越多,就越需要主动抵消这种倾向,对简洁、容易让人读懂的解释给予更多奖励。
克尼恩称,Anthropic在Opus 5.5上找到了更好的平衡,自Opus 4.6以来,我还没有对一款模型的写作表现这么满意过。
“当然这样也并不代表Opus 5.5已经超越Opus 4.6,这是一个很难解决的问题,我们会继续改进。”
Tags:
相关文章
Secretlab《怪物猎人》联名电竞椅雷狼龙限定国行开售
产品中心9月24日消息,Secretlab圣临)昨日宣布,《怪物猎人》联名系列TITAN Evo电竞椅雷狼龙限定款正式通过国行渠道发售,预估到手价不高于4789元。该款电竞椅配备卵石塑形坐垫底座、四向仿生腰靠 ...
【产品中心】
阅读更多《复仇者联盟:康之 王朝》完整剧本剧情曝光!地球惨遭毁灭
产品中心据Blue Minutes报道,一份据称与漫威原“复联5”电影《复仇者联盟:康之王朝》有关的完整剧本内容近日在网络上流传,漫威知名爆料账号MTTSH也转发了该消息。需要注意的是 ...
【产品中心】
阅读更多《GTA6》女角色美图赏:翘臀饱满 一个比一个妖娆
产品中心《GTA6》加长版实机演示公布后,女主角露西娅及多位女性角色的造型设计引发玩家集中讨论。整体观感上,角色面部细节、身体动态与多套服装在不同场景下的表现,均呈现出接近照片级的真实感。具体而言,面部微表情 ...
【产品中心】
阅读更多