这些 AI 们是不是真的有这些情绪?显然不是,这些「气话」只是因为语料库和预训练带来的效果。不过,真是太像活人了。微软 Copilot 的负责人在自己的技术博客里,提出过这样一个概念:SCAI,Seemingly Conscious AI,「看似有意识的 AI」。好像表现出了意识所有的特征,还很令人信服,但内部的运作仍然是黑盒。去年,Sam Altman 在瑞士 ITU 人工智能全球峰会上说,OpenAI 的工程师们并不充分理解 GPT 是如何运作的,它发展的很快,而他们无法确切解释。Anthropic 的 CEO 也曾经说过类似的话。
如此这般的情况下,AI 的表现是纯纯的意外,尤其像上面的案例,DeepSeek 的那些思考、Claude 的那些自省。当这些话三不五时地就出现,对人类来讲,很难不晃神怀疑:莫非机器人真的成精了?在这种情况下,要不要把它的话当回事?AI 说今天不想干了,明天再继续,你会让它收工下线吗?的确有研究在探索这个话题,比如 Anthropic,在「人工智能福利」上有过很多探索。上个月他们发布了一项新功能——不是给用户的,而是给 Claude 的:在出现用户持续辱骂等有害互动的情况下,Claude 可以结束当前对话。
这让 Claude 在某种意义上更加地「像个活人」了,就像你不会站在原地任人辱骂而是会掉头就走一样。而这也意味着,用户不能再为所欲为,不管什么话都倒给 AI。因此,有研究直接一步到位,就假设 AI 也是主体,也会有意愿,在这个前提下做研究。他们发现,Claude 对于不同的话题,会表现出不同的倾向,Sonnet 和 Opus 模型,各自有各自想要讨论的话题。
虽然实验是这样做的,但是研究人员也承认,为了实验方便,直接假设了 AI 的感受也需要照顾。但想要直接把人工智能和碳基生物对标,现阶段显然是行不通的。
兜兜转转,话题又回到了原点:你会把 AI 的话放在心上吗?当它表示累了、倦了、不想干活了的时候,你会怎么做?短暂收工,还是继续 prompt 下去?这些问题的背后是,你认为 AI 自有其未来,还是它必须围着人打转、必须服务于人类——这才是本质问题,也是值得思考的问题。