大型语言模型中涌现的内省意识 - 猿来如此

本期播客摘自一篇来自 Anthropic 的研究论文摘要和节选，题为“大型语言模型中涌现的内省意识”。作者 Jack Lindsey 研究了大型语言模型（LLMs）是否能够对其内部状态进行内省，因为仅凭对话很难区分真正的内省与凭空捏造。研究人员通过概念注入（将已知概念的激活表示注入模型的激活层）来操纵模型的内部状态，然后观察这些操作如何影响模型的自我报告。结果表明，当前的 LLMs 确实拥有一定程度的功能性内省意识，能够在特定情况下识别被注入的概念、区分“思想”与文本输入，并利用对先前意图的记忆来判断其输出是否为自身所意图。然而，这种能力被发现是高度不可靠且依赖于具体情境的，尽管功能最强大的模型（Claude Opus 4 和 4.1）表现出最强的内省能力。总而言之，该研究为 LLMs 的内省能力提供了直接的证据，并探讨了相关机制、局限性以及对人工智能可靠性和可解释性的潜在影响。