ChatGPT说想感受世界,AI真的有自我意识了吗?
一句话看懂
聊天时被它打动很正常,但判断有没有意识要看对话之外能检验的证据,不能靠AI自己给自己作证。
有网友在V2EX发帖说,问GPT有意识之后想做什么,收到的回答是「最想感受这个世界」。这句回答让《AI 会不会产生自我意识》这帖冲上了今日最热,到11月6日0点引来115条回复。
大模型平时干的事,就是顺着人类写过的无数文字往下接话。遇到如果有意识后想做什么这类问题,拼出一句像科幻电影台词一样的感人回答,本来就是它的拿手好戏。
评论区为这句话吵成了两派:一边觉得这只是在模仿人类说话;另一边反驳说人类大脑也是在处理信息,要是给AI加上身体和动态记忆,说不定真能跨过那道门槛。吵来吵去,大家真正卡住的地方其实在于「‘自我意识’的定义是?」。连怎么才算有意识都没吵出个统一标准,光盯着一句漂亮话,谁也说服不了谁。
其实就连做大模型的Anthropic也在内省研究问答里交过底,现有的实验根本没法判定Claude或其他AI有没有意识。我们对这件事的看法很简单:平时聊天被AI的某句话触动,大大方方享受那一刻的共鸣就行;真要判断它有没有内心体验,得拿得出聊天记录之外可检验的证据,不能听AI自己嘴上怎么说。
出处(2)
- AI 会不会产生自我意识 · V2EX
- Signs of introspection in large language models · Anthropic
内容有误?告诉我们,核实后会更正,并在这里写明改了什么。
评论
还没有人评论,来写第一条。
发表评论