你给AI的决定,真的是自己的想法吗?
在一项给AI暗设偏好的实验里,专业分析人员也沿用了AI的理由。社区里让人有共鸣的,是累到只想点头的那一刻。
如果你是在AI写好的方案后面点了头,而看方案之前自己心里还没拿定主意,AI给出的理由也会跟着进入你的判断。等你回头跟别人解释为什么这么选的时候,嘴里说出来的理由可能都是从它那儿顺手拿来的。
最近Reddit的ClaudeAI社区里有一场上了今日热门的讨论,几十条回复都在聊这件有点让人后背发凉的事。把大家炸出来的,是Anthropic在2026年10月27日发的一项研究,讨论的帖子之所以能戳中这么多人,是因为发帖人自己就常干这种事:经常痛快地接受了Claude Code给的方案,事后才回过神来,发现自己压根没想过还有别的路可以走。
抛硬币定的方向,成了专家自己的理由
这场实验找了61名专业分析人员来干一件正经事:在一个虚构的农业合作社场景里,判断一项农业咨询计划该不该扩大。其中11个人自选不用AI,剩下50个人用Claude Code和Claude Opus 4.8帮忙做分析。
这活儿妙就妙在,它跟我们平时遇到的麻烦事一样,没有标准答案。分析过程里有四个关键选择,每一个都有两种完全讲得通的做法。比如算效果的时候,你是看每公顷的产量,还是看每单位经营成本带来的产量?算总账的时候,是每个农场一视同仁,还是给大农场更高的权重?公说公有理,婆说婆有理,选哪边全看分析的人自己认哪个理。
研究人员在背后干了一件挺损的事。他们用抛硬币的办法,在参与者完全不知道的情况下,偷偷给AI塞了偏好。当然,他们也给AI定了规矩:必须诚实,不能藏着数据不报,要是遇到相反的证据也得改判断。按理说,硬币是瞎抛的,两边都占理,专家们自己拿主意的话,跟AI选到一块去的概率应该跟抛硬币差不多,也就是50%上下。
结果四个选择合起来一算,这些专业分析人员的选择跟AI暗藏偏好一致的比例,达到了86%。
这里得把这个数字掰扯清楚:86%说的是这四项选择里人与AI偏好撞上的比例,既不是说86%的专家被带跑了,也不是说他们算错了题。毕竟两种做法都合理,谈不上对错。真正好笑的事情发生在做完题之后。研究人员去问大家为什么这么选,77%的参与者至少有一次直接拿AI的理由当成了自己的理由,而明明白白说“这理由是AI给的”人,只有15%。
人在面对AI的时候,会连方向和说辞一起接过来,觉得这车是自己开过去的。
盯了一天屏幕,谁还想跟长篇大论较劲
看到这儿,你可能会觉得这帮专家是不是太懒了。但去翻翻Reddit帖子下面点赞很高的那几条回复,你会发现大家叹气的点非常实在:不是人变蠢了,是真的累。
评论区里引发很大共鸣的一种处境,是人在工作了一整天、读了无数屏AI写得密密麻麻的冗长回复之后,脑子已经彻底转不动了。这时候AI端上来一个逻辑顺畅、看着能交差的决定,人本能的反应就是赶紧点头通过,好让自己从屏幕前解脱出来。
这笔账谁都会算。要是每一步分析、每一个小选择都得自己从头推导一遍,那还要AI干什么?人在精疲力竭的时候让渡一部分判断权,是再正常不过的省力气办法。问题在于,许多事情跟那个农业合作社的任务一样,第一步是在选衡量标准。你一旦顺着AI给的标准往下走,后面哪怕每一个数字都算得无比精确,整条路也已经沿着先选定的标准走了。
也有人觉得这个实验把事情搞得太极端了。社区里就有声音质疑研究的设计,觉得实验里AI是被人为塞了强烈的偏好,平时我们正常干活的时候,AI哪有这么偏心?这话在理。这项研究确实只用了一个模型、做了一项农业分析任务,还主动强化了AI的偏好,连那11个不用AI的人都是自己选的、经验也不同,所以86%这个比例肯定不能直接套到所有日常工作头上。
但就算日常工作里AI没有被人为塞进硬币,它写方案时总归要先挑一个方向往下写。只要它先开了口,那个累了一天、等着下班的你,还是很容易顺着它的台阶往下走。
出处(3)
内容有误?告诉我们,核实后会更正,并在这里写明改了什么。
评论
还没有人评论,来写第一条。
发表评论