奥特曼说在自己电脑上跑AI是浪费内存,买电脑的人为什么不干了?
按机房利用率给个人电脑算账,算得挺精,就是把用户花钱真正想买的离线、隐私和自主权给漏了。
把全世界的内存集中到机房里日夜不停地转,确实比散在每个人桌面上更容易把机器喂饱;但一个人自己掏钱买电脑,买下的不只是那点开工时间,还有断了网也能用、资料不出门、以及不看任何一家平台脸色改规则的使用权。拿机房的使用率去批个人电脑闲置,之所以把人惹毛,是因为这笔账只算了机器空没空,没算人图什么。
这场吵架的由头,是10月29日播客节目 Cheeky Pint 放出的第39期访谈。Stripe 联合创始人 John Collison 和 OpenAI CEO Sam Altman 聊了53分钟,在谈到算力供应、内存供需和价格的时候,话头拐到了能在个人电脑上跑的开源模型。奥特曼承认现在有些模型确实能在自己的设备上跑起来,但他话锋一转,说如果从全球资源分配的角度看,内存是稀缺的,分到每个人的电脑里可能只有5%的时间在干活,放到云端才能把利用率提上去。需要交代一句,这个5%是他在访谈里提到的比例,节目里并没有拿出什么个人电脑利用率的调查或者样本。
话传到专门折腾本地模型的 Reddit 社区 r/LocalLLaMA,帖子一下攒了1507个赞和902条回复,冲上了今日热门。按理说,一个做云端大模型生意的老板觉得云端效率高,就像公交车司机会觉得满街私家车占道一样自然,为什么自己买硬件的人反应这么大?
机房的账没算错,但家里买东西不这么算
翻看帖子里热度靠前的回复,几条高赞回复并没否认数据中心更容易把机器用满。哪怕是反对声很大的评论,也有不少先点个头,承认把硬件集中起来运转确实有规模经济和效率优势。甚至有玩本地模型的用户专门站出来讲公道话:自己虽然为了控制模型和保护隐私选了本地,但单拎出成本和资源分配来算,云端就是更适合把一台机器分摊给大伙儿一起用。
这个道理一点都不难懂。云端机房像食堂的大锅灶,你吃完走了,下一个人接着打饭,一口锅从早烧到晚,空闲时段总有别人的任务填上来;个人电脑像家里的电饭煲,一天也就焖一两顿饭,剩下二十多个小时都在桌上落灰。
可问题是,谁会因为家里电饭煲一天只开一小时,就觉得自己浪费了全球稀缺的金属资源呢?
评论区里一条拿到744个赞的回复,把很多人的心里话说了出来:机器虽然是集中跑更有效率,但硬件是我自己掏钱买的,怎么用归我管,轮不到别人来操心。还有人算了一笔更实在的家常账:我手里本来就有一台要用来干日常工作的电脑,顺手拿它跑跑本地模型,正好把现有设备用起来,少花一份额外开支。
你看,这就看出来两边算的根本不是同一本账了。要是你为了偶尔问AI两句话,专门跑去买一台高配设备供着,那把整台机器的闲置时间和买机器的钱全算在AI头上,确实不划算;但要是这台电脑你本来就得买来写文档、改图、打游戏,闲着也是闲着,拿来跑个模型,那多出来的那点利用率根本不是浪费,反而是白捡的。把个人电脑除了跑AI之外的时间一笔勾销,全算成等待AI宠幸的荒废岁月,这账算得未免太霸道了点。
多掏的闲置费,买的是不看人脸色
既然大家都知道云端能摊薄成本,为什么还有人宁可自己攒内存,哪怕让它常常闲着?
在帖子里点赞排第一、拿到1237个赞的回复里,网友直接怀疑奥特曼这番话是在替自家的云端生意说话。这种怀疑能拿到这么多赞,说明大家对大厂的不信任已经攒得很厚了。不过话说回来,揣测别人心里怎么想没法核实,真正值得掰扯的,是大家为什么宁愿牺牲效率,也不愿意把算力全交出去。
因为个人用户买硬件,有一大截钱付给的是「控制权」。
把模型装在自己电脑里,首先意味着你的资料就留在自己可控的设备上,不用顺着网线发到别人的机房里转一圈;其次意味着哪怕拔了网线、或者哪天外面的服务崩了,你手里的活儿照样能干。更让老用户放不下心的,是服务商的规则说变就变。今天你还用得好好的模型,明天平台可能就改了收费标准、换了版本,或者加了一道限制,你原本顺手的工作方式一下就得跟着推倒重来。我以前第一次掏钱买「Claude」中转 Key 的时候,用了两个礼拜,才发现对面回话的根本不是本尊;从那以后我就很能理解,为什么有人宁可自己机器慢一点、空置久一点,也想看清楚到底是谁在自己电脑里干活。
这些东西——隐私、离线可用、工具不会半夜自己变样——在机房的利用率报表里全是零,因为它们不产生吞吐量;但在掏钱买电脑的人眼里,那些闲置时间,恰恰是为了自己要用的时候能随时开工。
所以这场吵架里,「集中运行效率更高」和「个人有理由留着本地算力」本来就是可以同时成立的两件事。如果你平时只是随手问几个问题、改两段话,不想操心怎么维护软件,那直接用云端最省事,让机房去操心怎么把机器塞满就行;但如果你手头本来就有台还算够用的电脑,又有很明确的离线办公需求,或者手里有些资料怎么都不想传上云端,那在自己电脑上留一套本地模型的能力,就实实在在用得上,犯不着因为别人说句「利用率低」就觉得自己占了全人类的便宜。
出处(2)
- Why Sam Altman is against a single superintelligence 官方逐字稿 · Cheeky Pint
- Local inference资源利用率争议原帖 · Reddit
内容有误?告诉我们,核实后会更正,并在这里写明改了什么。
评论
还没有人评论,来写第一条。
发表评论